在高齡化、少子化年代，由於缺工緣故，百工百業都急欲投入AI應用發展，並實際將模型落地至場域，解決一個個棘手難題。為此，國立雲林科技大學智慧辨識產業服務研究中心領先全臺部署NVIDIA DGX H200，增強「業界出題，學界解題」能量。
回顧2013年，「國立雲林科技大學智慧辨識產業服務研究中心」（簡稱雲科大IRIS）孕育出舉世驚艷的研發成果，即為雲端嬰語辨識技術，主要是利用AI深度學習（Deep Learning；DL）技術，藉由哭聲迅速辨別寶寶究竟想要傳達肚子餓、換尿布、睡覺或安撫等意念。此成果一發佈，旋即吸引國內外大批媒體爭相採訪。
事實上前述的嬰語辨識，不過是IRIS眾多研發成果的其中之一。IRIS主任暨國立雲林科技大學第六屆新任校長張傳育表示，雲科大創設於1991年，建校至今30多年來始終以務實致用為指導理念，希望學生不僅學習本職學能，亦養成動手做的實踐能力，以期未來貢獻社會、服務產業。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
「我們想要打造雲科大成為一個全國最強、且具影響力的國際創新科技服務型大學，」張傳育說，2018年該校獲得教育部「高等教育深耕計畫」補助，著手建構屬於雲科大的特色領域研究中心，IRIS得以應運而生，聚焦於以AI為核心的智慧辨識技術，專注投入智慧檢測、智慧醫療、智慧生活產業跨領域整合，只開發可以落地的題目，實際解決產業的問題。譬如藉由「砂輪瑕疵檢測」，協助製造業解決難用肉眼判定砂輪缺陷位置的難題；譬如透過「基於深度學習的輪胎氣泡檢出」，協助輪胎廠大幅提高氣泡缺陷檢出率；或是譬如利用「蟲蛀聲音智慧檢測」，確保木雕藏品免受蛀蟲侵擾…等等。
不可諱言，伴隨DL技術應用日益普及，當前又有生成式AI引領風騷，導致AI訓練時需要動用更大的運算量。雲科大深知產業競爭關鍵正是速度，故IRIS必須不斷增強算力，藉此加快模型訓練與落地的效率，方能迎合產業界的殷切期盼。於是在去年（2024）10月展開NVIDIA DGX H200新款AI伺服器的招標採購作業，並於同年12月由NVIDIA認證的NPN敦陽科技協助完成裝機，讓雲科大拔得頭籌成為全臺第一個啟用DGX H200的機構。
為加速訓練與落地，搶先佈局頂尖算力平台
張傳育指出，IRIS必須收集大量資料來訓練DL模型，故需要建立堅強的GPU算力平台，所以一路走來從單機版PC逐步建構AI伺服器，針對GPU資源，也逐步從P100、V100、A100推進到了H200。主要是因為，IRIS需要快速且大量地訓練模型，而在訓練過程，經常花很多時間調整不同參數，因而必須要同步分配運用眾多運算資源，才能如期如質完成訓練工作，接著將模型轉移給產業界使用。
談及選用DGX H200的關鍵原因，無非就是為了將訓練速度、模型落地速度提升到極致。發展AI猶如軍備比賽，若無充裕的兵馬糧草，前進之路定將受阻；IRIS中心期許成為亞洲一流、世界頂尖的AI產業服務研究中心，所以必須佈建足夠的算力，不僅要追逐DGX H200如此一流頂尖的平台，且必須搶快，才有話語權。
[ 推薦文章：從小處著手：AI 轉型的起步智慧 ]
張傳育透露，2024年12月DGX H200進入IRIS場域時，敦陽所提供的協助，不只是完成裝機這麼簡單，還基於專業實力，幫助IRIS規劃和建構帶有冷熱通道、擁有絕佳冷房循環效果的綠色機房。隨著綠能機房啟用，冷卻效率不可同日而語，一來迎合當今節能減碳的主流意識，二來避免DGX H200等重要設備過熱，讓這些資產受到更安全的保護。
對此敦陽科技資深處長藍清麒強調，GPU有別於傳統IT設備，因為它的電力消耗及排出的熱量真的太大，所以假設機房的冷房循環未做好，就容易出問題。而敦陽在綠色機房建置上累積豐富經驗，此次協助IRIS打造的機房已有縝密規劃，未來即使有新機器進駐，使用10年以上也不會有問題。
善用算力資源，助百工百業開發AI應用
IRIS內部的每一位工程師或研究員都十分倚重NVIDIA的CUDA Library與 NVIDIA AI Enterprise，用以驅動並優化GPU、Bullet的潛能，進而在這個基礎上啟用PyTorch開源框架，執行AI模型開發任務。
雖然IRIS使用DGX H200迄今時間不長，但已對IRIS同仁的學術研究實作產生極為有感的正面影響。藍清麒說，畢竟以規格而論，每片H200 GPU的記憶體容量高達141GB，相比於早期A100的40GB，足足擴大3~4倍之多。
張傳育解釋，這也意謂H200比起A100更有能力載入大模型，將硬碟存取需求降至最低，有效推升運算速度，使用者只要用過都明顯有感。他接著說，IRIS擁有這麼強大的算力平台，除有助於加速模型訓練和落地外，也可望吸引更多的廠商願意前來洽談合作。現階段政府力推百工百業AI落地，雲科大所在位置偏向非都會型，代表IRIS可善用算力資源，讓以往尋求AI而不可得的更多行業別、更多中小企業，陸續踏上AI應用旅程。
綜觀這次專案，最令IRIS同仁印象深刻之處，便是敦陽的專業度和服務品質，除DGX H200伺服器的建置外，舉凡整體機房的設計、規劃或移機過程，每一個細節都處理到位。
展望未來，預期AI仍在全球風起雲湧、快速進化，所以後續雲科大IRIS還是需要不斷充實算力，有望與敦陽繼續合作。一方面敦陽服務甚多客戶，假使知道客戶有AI需求，可以轉介至IRIS；另一方面，雲科大IRIS形同敦陽的Reference Site，可幫忙將一些AI技術推廣到有需求的場域，不管像是嬰兒哭聲辨識之類的非專屬授權，或透過IRIS中心的AI技術與產業端Domain Know-how的結合，以專屬授權形式協助解決特定場域的特定難題，都是雲科大IRIS與產業對接合作的選項模式。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
