科技

AMD EPYC、MI300X 開創低耗能 AI 方案

Vendor Icon

CIO Taiwan

4月. 19, 2024

Amd 台灣區商用業務處資深技術顧問張歐佑豪

第十七屆 CIO 價值學院第一堂課 會後報導

AMD EPYC 處理器效能與穩定性備受企業肯定的關鍵,在於擁有完整、相容的軟體解決方案生態系。結合專為 AI 和 HPC 工作負載等設計的 AMD Instinct 加速器,不光可協助企業提升資料中心效能,也能輕鬆執行各種 AI 專案。

文/林裕洋


雲端服務、AI 等創新科技湧現,成為企業推動數位轉型不可或缺的重要資訊科技,但也同時帶來動多挑戰,如導致資料中心的電力功耗與冷卻成本等暴增,且因應 AI 等數位專案增加,亦需要快速增加運算資源才能應付。同時,根據研究報告指出,全球資料中心的平均面積為 10,000 平方英尺,大部分都採用低效能,難以管理的老舊設備,嚴重影響企業長遠發展與競爭力。

AMD 台灣區商用業務處資深技術顧問張歐佑豪指出,我們推出的 AMD EPYC 系列處理器已成為企業解決資料中心面臨挑戰的最佳選擇。若以 6 台採用 2 顆 AMD EPYC 9654 處理器的伺服器,取代 11 臺它牌處理器的伺服器時,在兩者效能相去不遠的狀況下,不僅伺服器數量減少 45%、亦可降低 45% 電力支出,整體成本支出可減少 58%,維運成本可降低 46%。以在數位銀行業務有亮眼成績的 DBS 星展銀行,2019 年採用 AMD EPYC 處理器的伺服器後,不僅整體功耗降低 50%,容量也成長 10 倍以上。

AMD Instinct MI300X 專為 AI 打造

近幾年 AMD EPYC 處理器效能與穩定性備受企業肯定的關鍵,在於擁有完整、相容的軟體解決方案生態系,能滿足企業不同環境下的應用需求,乃至於應用於 AI 專案之中。以 Oracle 為例,不光早將 AMD EPYC 處理器應用於所有雲端服務之中,甚至延伸到專為關鍵應用設計的 Exadata systems 之中。

[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]

張歐佑豪說,在 AI 浪潮下,AMD Instinct 加速器是專為 AI 和 HPC 工作負載等設計的方案,可提供絕佳運算效能、高記憶體密度、高頻寬記憶體等,並支援專門的資料格式,能應用於單一伺服器、超級電腦等領域中。在滿足不同應用情境前提下,AMD Instinct 加速器也有多種方案可選擇,其中 AMD Instinct MI300X 加速器可提供領先業界的記憶體容量與頻寬,滿足生成式 AI 專案需求。

至於 AMD Instinct MI300X 平台則是在 UBB 主機板尺寸中,搭載 8 顆 MI300X 加速器,讓伺服器擁有強大的 AI 運算效能。而 AMD Instinct MI300A APU 則是結合 AMD Instinct 加速器和 AMD EPYC 處理器,藉由搭載共用記憶體達到提升應用程式效能的目的。

The post AMD EPYC、MI300X 開創低耗能 AI 方案 first appeared on CIO Taiwan.

內容來源

author avatar
CIO Taiwan
IDG集團的媒體品牌CIO於1987年創刊,為國際性最權威的IT管理專業雜誌。擁有全球最頂尖的IT管理專家作者群,因此能寫出最權威的分析評論、最先進的IT管理觀念。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情