科技

登峰造極!輝達最強AI晶片GB200 Grace Blackwell登場

Vendor Icon

商傳媒

3月. 19, 2024

商傳媒|記者許方達/綜合報導

萬眾矚目的輝達AI盛會GTC(GPU Technology Conference)正式登場,執行長黃仁勳發表全球最強晶片「GB200 Grace Blackwell」,這款新的AI晶片是由2080億個電晶體組成,數量超出輝達先前所推出產品的兩倍以上。

黃仁勳表示,「30年來,我們一直在追求加速運算,目標是實現深度學習和AI這方面的變革性突破。生成式AI是我們這個時代的決定性技術;Blackwell則是推動這場新工業革命的引擎」。

輝達執行長黃仁勳在GTC大會上也發表由GB200 Grace Blackwell超級晶片驅動的下一代AI超級電腦 DGX SuperPOD。圖片來源:輝達

黃仁勳說明,「Blackwell」平台是針對上兆極限規模的生成式AI應用而生,其命名主要是紀念美國國家科學院首位黑人院士David Harold Blackwell。搭載B200晶片的GB200 Grace Blackwell超級晶片系統採用台積電4nm製程,運用多晶片封裝技術,將兩塊Blackwell GPU晶片封裝在單一巨型晶片上,每個GPU內含1040億個電晶體,因此一塊B200晶片可內含2080億個電晶體。

Blackwell為B100、B200和GB200加速器提供動力,其性能為20 petaflops,H100為4 petaflops,額外的處理能力將使人工智慧公司能夠訓練更大、更複雜的模型。

殺手級AI晶片Blackwell GB200配備2080億個電晶體,採用台積電客製化N4P製程製造。圖片來源:輝達

GB200超級晶片還能再透過NVLink,於單一機架內串接總計18組單一GB200運算節點,構成 GB200 NVL36,或是串接18組雙GB200運算節點構成「GB200 NVL72」,其推理性能較H100提升高達30倍左右。B200可支援多達10兆參數的模型,以進行AI訓練和即時大型語言模型(LLM)推理。

Blackwell創新平台將提供強大算力,用於構建和運行兆級參數的大型語言模型,實現即時生成式AI。圖片來源:輝達

包括:亞馬遜雲AWS、GOOGLE雲、微軟雲Azure 和甲骨文雲基礎設施Oracle Cloud Infrastructure,都將成為首批提供Blackwell支援執行個體的雲端服務供應商。此外,輝達雲合作夥伴計畫的成員公司Applied Digital、CoreWeave、Crusoe、 IBM Cloud 和Lambda,也將成為首批提供Blackwell執行個體的雲端服務供應商。黃仁勳強調,「透過與世界上最具活力的公司合作,我們將實現AI在各行各業的承諾」。

author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情