科技

輝達大秀AI晶片肌肉 黃仁勳誇口:GH200世界最快!

Vendor Icon

商傳媒

8月. 09, 2023

商傳媒|記者許方達/綜合報導

輝達(NVIDIA)再秀「晶片」肌肉,創辦人黃仁勳在美國洛杉磯舉辦的「計算機圖形與交互技術頂級會議暨展覽(SIGGRAPH)」發表最新產品,其中以「全新AI超級電腦晶片GH200」及搭載「L40S GPU」的OVX伺服器最受矚目。

黃仁勳誇口「GH200是世界上最快的」,其平台配備全球首款HBM3e處理器,是專為加速計算和生成式AI時代所打造,這個程序需要更多記憶體容量,可讓更大型的AI模型置入單一系統,執行時將不再需要多個系統或多顆GPU來配合。GH200預定在2024年第二季上市,預計可讓大型語言模型的推論成本顯著下降,但輝達尚未說明定價。

圖片來源:NVIDIA

輝達說明,「L40S GPU」是款功能強大的通用資料中心處理器,用於搭配Omniverse平台,加快處理AI訓練及推論、3D設計和視覺化,還有影片處理和工業數位化等「運算最密集」的複雜應用項目。「L40S GPU」預計今年秋季上市,供應商包括:華碩(首度入列)、戴爾、技嘉、慧與(HPE)、聯想(Lenovo)、雲達科技(QCT)及美超微(Supermicro) 等全球系統商。

輝達看好「L40S GPU」將幫助全球專業人士推進AI發展,並為各行各業的用戶帶來智慧聊天機器人、搜尋和摘要工具等生成式AI的應用項目。業者指出,L40S為L40系列的迭代特規版,專門提供小參數模型推理及訓練微調,與A/H系列存在較大差異,除了替代上一代的L40,及取代T系列推理卡,補足小模型訓練產品線,預估性能將再遜於A800。推測在製程上將不需要複雜的CoWoS先進封裝,可直接跨過台積電的產能瓶頸。

author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情