產業

以繁中打造全球第一個聯邦式GPT 杜奕瑾:台灣在全球AI賽局勝出3大關鍵

Vendor Icon

OwlNews編輯中心

以繁中打造全球第一個聯邦式GPT 杜奕瑾:台灣在全球AI賽局勝出3大關鍵

1月. 22, 2025

杜奕瑾指出,提供永續AI解決方案,是台灣以軟實力邁向全球的機會。

生成式AI熱潮席捲全球,2025年成為企業轉型與創新的核心驅動力。台灣人工智慧實驗室今(22)日舉辦2025台灣AI產業年會,與會者包括台灣人工智慧實驗室創辦人杜奕瑾、科技部前部長暨台灣大學名譽教授陳良基、臺北醫學大學董事長陳瑞杰、中華民國資訊軟體協會理事長沈柏延等,共同討論從後生成式AI(Gen AI) 、全球通用人工智慧(AGI)戰局到永續AI(Regenerative AI),為台灣企業打造突破競爭的成功策略,樹立全球AI版圖中的關鍵地位。

2025 全球AGI競賽時代:台灣機會與挑戰

根據Statista資料庫統計,2025年全球AI市場規模預計將達到2437億美元。與會專家指出,2025 AI發展要從GenAI到AGI,有數項重要趨勢,包括領域專精(Domain Expert)、主動發掘(Issue-Awaring)與主動修正(Self-Improving)。

未來的GPT將不像整天只沈浸網路推播資訊的通才,什麼都懂卻又什麼都不專精。產業需要的GPT是能根據組織需求、量身打造,具備深厚的專業知識,不僅能在特定領域中提供精準解決方案,還具備自我意識,可自主學習、解決問題並優化效能,適應多變的環境。

然而,生成式AI雖發展迅速,開發成本亦相當可觀。以微軟OpenAI為例,ChatGPT-4 最新版開發成本約為4100萬美元至7800萬美元。這些花費主要來自訓練大型AI模型所需的硬體和運算成本。另一科技巨頭Meta使用超過1.6萬張H100 GPU訓練其新模型,耗時45天,並計劃在2024年購買35萬張GPU。顯示生成式AI雖具潛力,但對一般企業而言入門門檻高、不易使用,推動技術進步需付出的代價高昂。

此外,歐盟人工智慧法案在2024年8月正式生效,逐步實施。法規強化對生成式AI的透明度要求、內容標識義務,違反法案的企業可能面臨高達數千萬歐元、或企業全球營收至高 7%的罰款。2024年底,義大利資料保護管理署 (Garante)認定Open AI 在訓練ChatGPT時,蒐集、儲存個人資料的方式違反《一般資料保護規定》(GDPR)的隱私原則,對其科處超過1500萬歐元的罰金面對新興的法規監理議題,企業又該如何應對

在這場賽局中,台灣如何提供永續、可信任、負責任的永續AI(Regenerative AI)解決方案,以符合國際監管法規的趨勢,會是台灣最主要的挑戰,同時也是以軟實力邁向全球的機會。

AI TEAM Taiwan 如何在全球賽局中勝出?

杜奕瑾指出,2025年的AI賽局中,台灣成為新的「矽島」,讓AI可量產、進入家家戶戶。想成為在市場中引領趨勢、掌握商機的先行者,有3大關鍵:

1.全球電力軍備競賽中,打造可負擔、能源永續的GPT

AI的廣泛應用,促使國際科技大廠紛紛建設資料中心,電力需求上升,背後主因是科技大廠要求使用者將資料上傳至雲端,以使用其AI服務。AI模型的訓練和推論需要極高的計算能力,帶動資料中心的電力消耗快速增長。德勤(Deloitte)預測,以美國為例,資料中心用電量可能從全國總用電量的3%至4%,增至11%至12%。

在這場電力與算力的軍備競賽中,許多國際科技大廠採取建設、收購電廠的策略,確保充足的電力供給。台灣在地緣政治與乾淨網路上能從AI資料中心(AI DC)獲益。杜奕瑾認為,但台灣因先天能源有限,企業在追尋AI便利的同時,需考量企業、社會和環境的外部成本。未來AI模型的趨勢將從傳統大型通用模型,轉向企業最適規模專用模型。以節能減碳最低成本、最高效率,達標企業任務。

「企業不需全知全能的GPT,在特定領域,我們需要的是受專業訓練、謹言慎行的GPT。」杜奕瑾以台灣人工智慧實驗室專門為銀行開發的金融FedGPT專業經驗為例,銀行所需的GPT不是會聊八卦的GPT,而是能專業輔助員工、服務銀行客戶的業務助手。

在繁體中文金融知識測試「TMMLU+」中,FedGPT Pro專業版以34B參數超越了搭載70B參數的TW-LLama3和LLama3.1-405B大參數模型,在開啟RAG功能後,許多表現更是超過GPT-4。

此外,FedGPT採用聯邦式資料治理模式,企業可搭配原本內部資料中心建立專屬的FedGPT,無需重複投資雲端資料中心,從而減少為用GPT所造成的資料遷移、重置與能源浪費問題。

2.GDPR、AI ACT上路,跟隨先進法規提早佈局市場

隨著全球市場對數據隱私、AI倫理的意識提升,可預期在2025年,將有更多國家針對AI治理、數據保護,實施更嚴謹的法規管制。無偏見、可解釋的AI,也將成為關鍵議題。企業若忽視此議題,不僅將面臨監管機構的壓力,也可能導致企業形象受損。

杜奕瑾提到,歐盟在2018年實施的《一般資料保護規定》(GDPR)常被誤解為最嚴格的個資法規,2024年上路的《人工智慧法案》(AI ACT)更引發不少企業的焦慮。然而,比起缺乏明確指引導致企業無所適從,清晰的法規反而有助產業健全發展,讓企業知道如何在可信任的框架下使用資料。

「可信任科技是台灣的強項,抗拒是因為不夠了解。」杜奕瑾觀察,歐盟《一般資料保護規定》和《人工智慧法案》的合規要求,正對全球產生深遠影響。只要應用涉及歐盟國籍的使用者,就必須符合其法規,這正是所謂「布魯塞爾效應」。雖然合規初期看似挑戰重重,但不遵循規範將導致競爭力下降。企業愈早採取行動、建立符合先進法規的成果,愈能優先進入全球市場。

他提到,台灣人工智慧實驗室長期倡議的聯合學習模式,組織不必上傳自己的機敏資料至機構外部,即可透過聯合學習平台FedGPT訓練自家的專屬模型,無痛跟上全球法規治理標準

3.率全球之先打造國家級聯邦GPT,聯合學習模式守護企業機敏資料

杜奕瑾指出,台灣在高效能運算(High-Speed Computing)製造方面具備全球領先的實力,有能力訓練強大的 AI 模型。台灣產業與台灣人工智慧實驗室更率先全球,建立了全球第一個國家級聯邦式資料治理平台。今年更建立跨中心機構內部專屬的FedGPT服務,在符合國際AI法規治理之下,為台灣 AI 產業開創主動學習發展的新局面。

聯合學習平台最大優勢,在於允許不同機構在「不分享」原始數據的前提下,資料留在原地、模型參數聚集,達成主動式持續優化模型。在醫療和金融等高度重視數據隱私與合規性的領域,聯合學習不僅能強化隱私保障,也能提升模型的準確性,為行業帶來更大價值。

杜奕瑾比喻,以聯合學習平台訓練專業GPT,就像由專業機構培訓專屬員工到各企業內部任職。專職員工不只專業能力訓練有素,還全心全意待在組織內部,完全不混用外部派遣員工、不洩漏任何工作機密。例如,台灣人工智慧實驗室協助多家銀行以聯合學習平台訓練的鷹眼識詐模型,各銀行的機密資料不出門,不使用任何外部API、一樣可強化GPT辨識詐騙型態的能力,並共享訓練模型的成果。

台灣人工智慧實驗室2025 年展望:FedGPT 新功能與應用場景

2024 年,台灣人工智慧實驗室攜手多個產業合作夥伴,將 FedGPT 引入醫療、金融、教育及多媒體娛樂等領域,針對各產業的核心需求與痛點,助力實現數位化轉型與創新。

2025 年,FedGPT 作為 AI 代理(AI Agent),整合影視音多模態模型(VLM)與自動語音對話技術,具備圖片、影片和音檔解析能力,以及人臉辨識與物件偵測功能,拓展了其在企業場景中的應用範圍。

FedGPT的特色包括:

1.「主動知識庫」(AutoKB)快速將企業內部知識轉化為GPT知識庫,回答專業問題。

2.「主動學習」(AutoML)在基礎模型之上,可建立執行特定任務的專屬模型。

3.「時事分析」(infodemic)2025年將推出的時事分析功能,GPT可即時理解並摘要當前重要議題、時事,區分真實輿論以及網路虛假誤導操作,迅速為員工提供準確的市場資訊支持。例如,金融業可藉此建立即時KYB(Know Your Business) 報告,掌握與分析全球市場脈動,優化決策與服務。

4.「主動助手」(AutoCopilot)規劃與執行組織內部複雜任務。透過模擬業務情境,搭配企業內部API、知識庫(KB)。可以把企業內部複雜的流程讓GPT學習並自動化。完全部署於組織內部,可藉由GPT學習組織學有專精人員、進而協助新進人員,加速新員工的成長,達成提升工作效率與業績。

author avatar
OwlNews編輯中心
致力革新現有網路世界底層規則,搭配區塊鏈機制,建立公開、透明新形態新聞平台,結合廣告分潤制度,實質回饋內容創作者,顛覆現有數位廣告產業壟斷現況,整合多方資源,為合作媒體與創作者開創新機,為閱聽眾嚴選優質內容,建構網路新生態。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情