眼看 2024 年就要到來，資訊長（CIO）必須牢記生成式 AI 的許諾和風險，重訂數位方策。本文探討應對大型語言模型（LLM）顛覆性潛力的五種方法。
文／Isaac Sacolick ·譯／羅耀宗
數位轉型必須是組織的核心能力。這是我對 CIO 和 IT 領導人極其重要的建議。
我在基調演說以及和 CIO 的討論中，總是提醒每一個人要知道策略優先要務如何每兩年或在更短的時間內發生重大的演變。近來的實例有 2018 年的成長，到 2020 年的疫情橫行和遠程工作，再到 2022 年的混合工作和財務限制。
ChatGPT 和其他 LLM 等生成式 AI 造成的影響，會是進入 2024 年的重大轉型動因。
許多 CIO 正在編列 2024 年的預算和數位轉型優先要務，所以制定策略，尋求商業模式演變的機會、關注近期內營運受到的衝擊、排定員工應該展開試驗的優先領域，以及制定和 AI 相關的風險緩解計畫非做不可。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
但在一片激情狂熱中，員工很容易將時間投入危及機密資料的 AI 工具，或者經理人很容易挑選還沒經過安全、資料治理和其他供應商合規審查的影子 AI 工具。更大的挑戰是制定切實可行的策略，以及想辦法回應那些「不可能的夢想家」，也就是「好高騖遠」的企業領導人，以及會把你搞得抓狂的企業高階主管。
塔塔顧問服務公司（Tata Consultancy Services）的資訊長 Abhijit Mazumder 說：「轉型優先要務應該從根本上和業務優先要務，以及任何個別組織想要實現的目標掛鉤。大多數公司的領導階層同等關注成長和營運效率，也不忘排定彈性、網路安全和技術債務消除計畫的優先順序。」
以下是 CIO 在數位轉型優先要務演變時，要考慮的幾項生成式 AI 動因。
定義顛覆形勢的 LLM 策略
我最近主持的一場和數位領航員喝咖啡（Coffee with Digital Trailblazers）的活動，討論了生成式 AI 和 LLM 將如何衝擊每個行業，提到的例子包括生成式 AI 將如何：
- 利用非結構化資料增多的智慧，加速藥物發現的過程。
- 賦予第一線製造組裝線工人力量，能夠更快、更可靠地處理問題。
- 讓醫療服務提供者能夠針對患者問到的健康問題，提供量身打造的答案。
- 根據顧客的對話，協助開發新的保險、銀行和其他金融服務產品。
- 提供教師新的方法，以加強學生的創造性思維、協作和解決問題的能力，從而促使教育轉型。
SnapLogic 的技術長（CTO） Jeremiah Stone 表示：「現在 CIO 和 CTO 不只要發揮創意，用更少的資源做更多的事，更得在競爭對手可能設法推遲或縮減本身的轉型專案之際，以經過審慎計算和評估的投資，一舉超越他們。我們必須優先考慮能夠創造新的收入流、促使技術大眾化（democratize technologies）或減少技術債的轉型行動方案，特別是在考慮生成式 AI 機會時。」
CIO 可能了解這種規模的轉型計畫需要用上好幾年的工夫，去評估 LLM 的能力、展開試驗，並設法提供顧客最低可行且足夠安全的產品。不制定策略，可能自取其敗，而且 IT 領導人出席董事會會議時，犯下的關鍵錯誤是沒有針對生成式 AI 之類改變世界面貌的新興技術，端出自己的計畫。
為專屬 LLM 清理和準備資料
生成式 AI 的能力將提高企業非結構化資料的重要性和價值，包括儲存在學習管理系統中的文件、影片和內容。即使企業還沒準備好考慮生成式 AI 可能如何擾亂它們的產業和業務，搶占先機的轉型領導人會採取行動，集中、清理和準備非結構化資料，供 LLM 使用。
Domino 的資料科學策略與傳播主管 Kjell Carlsson 說：「隨著整個組織各單位的使用者爭相利用生成式 AI 能力，作為日常活動的一部分，CIO、CTO、資料長（CDO）的首要任務，是讓組織員工能夠安全、可擴展地取用愈來愈多的生成式 AI 模型，也讓資料科學團隊能為組織的資料和用例量身打造，開發微調後的 LLM 並可操作。」
[ 推薦閱讀：實現可信賴的 AI 應用願景：淺談負責任 AI ]
已經有 14 個非 ChatGPT 的 LLM ，而如果你有大量的資料集，也可以使用 Databricks Dolly、Meta Llama、OpenAI 等平臺，打造專用的 LLM，或者從無到有建立自己的 LLM。
量身打造和開發 LLM，需要強大的商業提案案由、技術專長和資金。 New Relic 的設計長兼策略長 Peter Pezaris 表示：「訓練 LLM 的成本可能很高，而且產出還不夠完善，因此領導人應該優先投資於協助監控使用成本和提高查詢結果品質的解決方案。」
藉改善顧客支援來提高效率
麥肯錫（McKinsey）2020 年估計每年 AI 可以交付一兆美元的價值，其中「顧客支援」是個重大的機會。由於生成式 AI 出現，現在這個機會更大，特別是當 CIO 將非結構化資料集中在 LLM，讓服務助理能夠詢問和回答顧客的問題。
SPR 的執行副總裁 Justin Rodenbostel 表示：「務必尋找機會利用 GPT-4 和 LLM，去最佳化顧客支援等活動，尤其是在自動化任務和分析大量非結構化資料方面。」
改善顧客支援是利用 LLM 和 AI 搜尋能力交付短期投資報酬，迅速建功的好機會。 LLM 需要集中企業的非結構化資料，包括嵌入顧客關係管理（CRM）、檔案系統和其他軟體即服務（SaaS）工具中的資料。IT 部門一旦集中這些資料，並執行專用 LLM ，就有改善銷售線索轉化率和人力資源新人報到就職訓練流程等其他的機會。
GetK3 總裁兼執行長 Gordon Allott 說：「幾十年來，公司一直將資料塞進 SharePoint 和其他的系統中。清理它們和使用 LLM，可能真的很值得。」
溝通 LLM 治理模型以降低風險
生成式 AI 這塊領域有 100 多種工具，涵蓋測試、圖像、影片、程式碼、語音和其他的類別。員工為什麼不再試用一種工具，並將專有資訊或其他的機密資訊貼進他們的提示？
Rodenboste 表示：「領導人必須研究和制定可接受的使用政策，確保各個團隊只以經過批准的適當方式使用這些工具。」
CIO 必須和三個部門的人力資源長（CHRO）、資訊安全長（CISO）合作，溝通政策和創建治理模型以支持明智的實驗。首先，CIO 應該評估 ChatGPT 和其他的生成式 AI 如何影響程式碼編寫和軟體開發。IT 部門必須以身作則，告訴大家在什麼地方如何展開試驗，以及什麼時候不使用工具或專有資料集。
行銷是需要關注的第二個領域，行銷人員可以在內容創造、線索產生、電子郵件行銷，以及十餘種常見的行銷實務等方面，使用 ChatGPT 和其他的生成式 AI。今天有超過 11,000 種行銷技術解決方案可用，所以有無數的試驗機會，以及在使用新的 LLM 能力測試 SaaS 時，無意間犯下錯誤。
居於領先地位的組織中，CIO 正在建立一套登記簿，登錄新的生成式 AI 用例、定義審查方法的流程，以及集中記錄 AI 試驗造成的影響。
重新評估決策流程和職權
我們需要考慮的一個重要領域，是生成式 AI 將如何衝擊決策流程和工作的未來。
數十年來，許多企業的目標是藉資料取用大眾化、訓練更多的企業人員懂得資料科學，並灌輸搶占先機資料治理實務，成為依據資料經營的組織。生成式 AI 釋出新的能力、讓領導人能夠給出提示和迅速得到答案，但及時性、準確性和偏差是許多 LLM 的關鍵問題。
Appen 的企業解決方案副總裁 Erik Voight 說：「將人置於 AI 的中心，並為資料使用和模型可解釋性建立穩健的框架，將在減低這些模型內部的偏差方面取得長足的進展，同時確保所有的 AI 輸出都合乎道德和負起責任。做關鍵決策時，AI 模型真的無法取代人，而應該用來補充這些流程的不足之處，不是完全接手。」
CIO 應該尋求一種平衡的方法，排定生成式 AI 行動方案的優先順序，包括定義治理、找出短期的效率，以及尋求更長期的轉型機會。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
