Technology

輝達GPU晾一邊?蘋果採Google自研晶片訓練AI模型

Vendor Icon

商傳媒

7月. 30, 2024

商傳媒|記者許方達/綜合報導

蘋果即將向測試版用戶推出「Apple Intelligence」功能,正當市場引頸期盼蘋果最新AI技術的時間點,外媒根據蘋果一篇技術報告揭露,有關訓練AI模型的部分,蘋果是採用Google開發的兩種TPU(Tensor Processing Unit),而非目前市場上最受歡迎的輝達AI處理器。

目前包含計算Google、亞馬遜和其他雲端運算公司生產的晶片在內,輝達約有80%市占;儘管在報告中,蘋果未明確表示「不採用輝達晶片」,但在AI工具和相關功能的軟硬體基礎設施描述中,確實沒有提及輝達相關產品。對於上述報導,蘋果尚未置評。

《路透》報導分析,輝達專精於廣泛用在AI工作的GPU(圖型處理器),而非TPU設計。Google則是透過其雲端平台Google Cloud Platform,銷售能使用TPU的權限,這點和輝達獨立銷售晶片與系統的做法截然不同。在多達47頁的報告中,蘋果並沒有提到Google或輝達,而是指出其基礎模型(AFM)和AFM伺服器是在「雲端TPU叢集」上進行訓練;這也代表蘋果是向雲端業者租用伺服器以執行運算。

為了建立在iPhone和其他裝置上運行的AI模型,蘋果使用2048個TPUv5p晶片,同時為伺服器AI模型部署8192個TPUv4處理器。蘋果工程師在研究報告中指出,使用Google晶片能創造出比報告中討論的兩款模型更龐大、更複雜的模型,「這系統讓我們能夠有效率地訓練AFM模型而且可以擴容,包括終端裝置上的AFM、AFM伺服器與更大的模型」。

author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持