生成式 AI 造成科技以前所未見的速度快速變遷，但是選擇人工智慧供應商的衍生後果也同樣大幅出現。所以科技領導人必須知道提出正確的問題，也準備好如何回答，以此協助企業繼續大展鴻圖。
文／Maria Korolov·譯／高忠義
在2023 年 11 月中，OpenAI 的董事會開除了公司的執行長 Sam Altman，他讓 ChatGPT 聲名大噪，並開啟了企業部署人工智慧的新時代。之後的三天內，幾乎該公司所有員工都說他們要同進退，造成 OpenAI 的前景極為堪慮。那家公司與它的 APIs 完全建立在 OpenAI 之上。
根據 O’Reilly 2023 年底發布的調查結果顯示，23% 的公司正使用 OpenAI 的某種模型。當時在商業上最接近的競爭對手 Google 的 Bard 仍遠遠落後，只有 1% 的市場。其他受訪者表示他們目前並未使用任何生成式 AI ，而正在自行設計，或者使用某種開源式的替代方案。暫且不談這種嶄新科技竟然獲得驚人的高採用率，這另一方面也顯示這個領域風險多高的徵兆。企業若將自己的未來賭在 ChatGPT 上面，萬一那項工具消失了，而 OpenAI 的所有 API 突然間停止運作，企業就會陷入大麻煩。所以如果 OpenAI 一夜之間瀕臨崩潰，在這領域無數的新創事業又有什麼生存機會呢？
根據 G2 最新的軟體情勢報告，人工智慧是 G2 歷史上成長最快速的軟體類型。該公司現在查到有 1,078 人工智慧供應商，而人工智慧類在 2023 年就有 643 項新產品。相較於前一年的情況，合成媒體中人工智慧生成文件、圖像、音訊與視訊已經增加了 222%。而人工智慧寫作助理這個類型則成長了 177%。所以尋找生成式 AI 供應商的企業有很多的選項可以挑選。
「我們與 Gartner、麥肯錫與其他夥伴共同進行大量的研究，希望瞭解市場的概況，以及其他公司是怎麼使用這項科技的，」跨國食品公司理奇食品（Rich Products）的資訊長 Yexi Liu 這麼說。這家總值達到 58 億元的公司有 13,000 位員工，並在超過 110 個國家有據點，已挑選出業務範圍最廣的人工智慧供應商，包括微軟、SAP 與 Salesforce。在這些大型廠商之外，大部分的供應商仍不符要求。
「許多生成式 AI 供應商聲稱他們可以提供端到端的人工智慧解決方案，」Liu 這麼說。「但事實上，這些公司當中有許多仍在發展的初期階段。在市場上目前尚無明確的領導者。」在評選供應商時，Rich Products 檢視他們的技術、架構、商業價值，以及實用的觀點。他說，目標是要瞭解人工智慧可以為 Rich 公司的業務帶來整體的效益。「我們檢視供應商的成熟度，以及他們在本公司的業務重點領域中有無可證明的成果，」他如此說。並不只有他這麼做。
[ 推薦閱讀：生成式 AI 應用在軟體開發領域 ]
根據安永聯合會計師事務所在 2023 年十月發表，針對全球 1,200 位執行長進行的訪調，有 99% 的執行長或者正歸劃生成式 AI 的「重大」投資，或者已進行這樣的投資。但這並非有很大把握的事。除了脫出營運常軌的風險之外，早期採用人工智慧的事業也需要因應多種災難情境。
關於人工智慧生成文檔與圖像得著作權訴訟、人工智慧生成內容的準確度，以及敏感資訊變成下一代人工智慧模型的訓練資料，甚至可能公諸於世，這些都是持續存在的風險。訓練資料叢組與結果中可能也有偏差，還有許多倫理上的疑慮、失控的成本、整合的挑戰，模型飄移、欠缺透明度、資料安全風險、抄襲風險與規管風險。
而且並不是只有新創事業可能讓企業遇上人工智慧相關的第三方風險。已頗具規模而競相在產品與服務組合中增加生成式 AI 的供應商也可能帶來這樣的風險。就算對生成式 AI 採取靜觀其變的態度還是可能產生重大風險，包括可能流失員工與客戶，他們會轉向更敏捷的競爭者，在爭相瞭解這項新科技的競賽中掉了隊。所以在通常的審慎查核之外，最關鍵的問題就是公司在評選生成式 AI 供應商時必須提出適當的問題，必然包括訓練資料、著作權、加值與模型獨立性。
資料隱私、安全與遵法
對 Rich Products 來說，資料保護、負責任的人工智慧，以及可信賴的人工智慧是極為關鍵的。「保護我們的智慧財產，並確保我們的人工智慧解決方案在設計上符合允妥、無偏差、安全與可解釋等標準是關鍵重點，」他這麼說。「這是不容退讓的，也是我們預先跟供應商講清楚的。我們不要在盲目信賴的基礎上建立夥伴關係」。
此外，對於特別敏感的商業資訊與資料，他期望有更高的安全性。「供應商必須有能力依我們自己的規則建立人工智慧解決方案，」他如此說。許多企業已經將網路安全與資料隱私列為挑選人工智慧或其他產品服務供應商的檢查表上接近最優先的項目。在受到高度規管的行業，供應商必須遵守某些具體的法規，例如 HIPAA 或 PCI。
同樣的方法也可以用在挑選生成式 AI 供應商、產品與服務，但可能有些新的複雜考慮。舉例來說，公司應該問過供應商在雲端環境中採行哪些安全稽核與標準，Gartner 的分析師 Arun Chandrasekaran 這麼說。
他說，現在，有了生成式 AI ，打算採用的公司也應該問問供應商採取什麼樣的措施以維護資料隱私，並確保那些資料不會被用於訓練並擴增他們的模型。
他問「在他們的環境中如何儲存提問資料？」「我們可以在自己的虛擬雲端上執行嗎？」
總部設在亞歷桑那州以整合解決方案為主要營業的 Insight 公司的夥伴聯盟及營運資深副總裁 Megan Amdahl 表示她的公司既為自用的目的，也為客戶評選生成式 AI 供應商。Insight 有個夥伴契約管理團隊會嚴格審視供應商契約。「如果我們覺得合約內容有風險，或者有疑慮的條款，我們會建議高階主管進行審視，」她這麼說。「而我們的契約團隊不只協助第一次簽約，也會審視後續要求所有的增補，以確保我們可以對應增加的各種類型風險。」
這不只是理論上的疑慮。在今年初，視訊會議供應商 Zoom 增加了人工智慧功能，包括自動化的會議摘要。在 2023 年三月時，該供應商授權自己可以使用客戶資料來訓練供應商自己的模型。有人在夏天發現這個細小字體的條款，企業立刻強力反對，而 Zoom 也很快地改掉這條。
[ 非讀不可：企業面臨的 4 大項 LLM 威脅 ]
模型訓練
生成式 AI 有關訓練的風險並不只有供應商用顧客資料訓練供應商自己的模型。有幾個人工智慧供應商，包括 OpenAI、目前被藝術家、作家與其他著作權所有權人控告。視這些訴訟的發展而定，供應商可能必須改變他們的商業模型，或者改變定價結構向著作權所有權人付款，或者可能直接關店。除了法律訴訟之外，主管機關也可能採取行動以確定某些訓練活動的界線。這些風險可能擴大影響使用這些產品與服務的企業。
Chandrasekara 表示，公司也應該詢問供應商他們的模型訓練過程。「他們的模型訓練過程透明度如何？」尤其，他們如何確保不會侵犯私有資料，他這麼問，有無任何人對公司採取法律行動？他補充，企業還可以詢問另一個問題，「我們作為顧客，供應商提供什麼樣的法律保護與風險補償呢？」
有幾個主要供應商已經宣布他們會補償企業顧客，使他們不會因為使用其產品的相關潛在著作權風險而受害。例如，微軟在 2023 年九月公布了 Copilot 的法律補償政策。公司表示，如果你因為著作權而受到挑戰，我們會為相關潛在風險承擔責任。
Google 在 2023 年十月也宣布了類似的政策，其文字幾乎是相同的，而提供 Firefly 圖像生成模型的 Adobe 則在 2023 年六月公布了自己的法律補償政策。Firefly 模型在 Photoshop 與 Adobe 的其他產品上驅動新的生成式補充功能，而也可以單獨購買作為獨立的服務項目。Getty、OpenAI 與亞馬遜也很快跟上腳步。
他們有無防護網？
ChatGPT 最初啟用時，並無閱讀 PDF 文件的能力，但是分析 PDF 內容是企業使用生成式 AI 的主要情境之一。因此，有幾家新創公司跳出來填補這項功能上的缺漏。
2023 年十月時，ChatGPT 增加上傳 PDF 的功能，讓這些新創公司大部分一夕之間失去價值。利用那些新創公司技術來建立 PDF 文件工作的企業現在就面臨在客戶能重建系統之前就失去業務機會的風險。
Constellation Research 副總裁與分析師 Andy Thurai 表示這並不是新的問題。新創事業在任何領域都可能輕易地過時了。「差別在於人工智慧模型釋出新功能的速度快到讓人難以想像，」Thurai 如此表示。「其他軟體的迭代速度沒有那麼快。大約需要六個月到一年。」那會讓較小型的供應商有時間可以進一步創新，或者讓顧客有時間轉移。
他建議企業顧客接觸他們的人工智慧供應商時要採用「立即切斷」的哲學，而且原因不只有供應商科技過時的風險。他說，也可能有管理或組織上的問題，就像 OpenAI 發生的情況那樣。「也有可能某些供應商可能瞬間破產」，他如此補充。「他們可能很快地燒光現金，走向破產。或者他們的某個系統被駭，而你不希望有任何資料再經過他們那裡」。企業要準備好因應那樣的可能性，必須有備援計畫讓他們就算沒有某個供應商，仍能繼續營運。他說「你必須有立即切斷的選項」。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
SSA & Company 應用解決方案副總經理 Nick Kramer 表示，立即切斷不只是技術上有能力轉換供應商而不需重建整個解決方案。「那也包括在契約上有權終止關係。」企業也需要留意供應商的產品提案有無適當的支持理由，資誠法律科技與聯盟主管 Sandeep Agrawal 如此表示。他說，「許多公司在 GPT-4 或 Claude 2 之間區隔出一個細微的領域，而稱之為生成式 AI 」。「但是那個區塊事實上是什麼呢？他們有沒有工程與治理上正確的技術呢？」如果供應商並無多少加值效果，他們就很難繼續留在這個行業，尤其如果是由人工智慧平台本身來加入關鍵功能，例如 PDF 的情況。
「我們的法律團隊與採購團隊必須能瞭解並分析 PDF 文件與契約，其中有部分甚至是二十多年簽署的」，他這麼說。所以資誠可以從提供閱讀 PDF 能力的供應商獲益，但現在這已經是標準功能了，而不需要為了這項功能特別找個供應商。除非功應商能做到某種特別的事情，「舉例來說，假設他們上傳了數百份的契約，而且瞭解了這些契約的特殊語言，並花時間與精力訓練並微調模型，而能以更好的方式回應特定的問題，」他如此表示。
他補充說明，通用的基礎模型可能對 PDF 文件給出泛泛的答案。對通常的業務使用者，這可能就夠了，但是對於在非常特定而技術性的領域，可能就不是如此了。他補充說明，在企業內部自行微調可能耗費很多時間，因為上市時間是非常重要的。他說，資誠聘僱了四千位律師，而且有很多關於法律文件的私有資料。「如果你有私有資料，你可以用它創造特專門領域的模型以執行契約、法律研究、訴訟及索賠業務，」他這麼說。「但如果你試著自己建構這些，你在進入市場速度上就不會成功。而那也是我們為什麼選擇已經有這項能力的供應商的重要原因之一」。專精於，例如法律 PDF 文件、財務 PDF 文件，或任何有關藥業的文件的供應商也許仍能提供價值。他說，「供應商需要瞭解他們專門行業的環境」。「你能不能創造更多的特點，更好的使用者介面、更友善的工作流程？」
模型的獨立性
除了尋找在已經採用的最基礎的模型之外也能提供重大加值的供應商之外，資誠也選擇那些在使用模型上具有彈性的供應商。「一年前，每個供應商都聚焦在 ChatGPT 正在做什麼或正在建造什麼，」Agrawal 這麼說。「現在更多有規模的供應商後多都採用多種模型。他們針對不同的事項試著採用不同的基礎模型。」基礎模型可能遇到某些狀況，或者針對特定使用情境，有更適當的選擇。
「如果你不夠彈性、不夠敏捷，你的客戶就會跑走，」他這麼說。科技顧問公司 Omdia 的應用情報分析師 Lian Jye Su 表示，現在有超過兩百個基礎模型。「供應商必須深入瞭解合適的基礎模型之功能與技術，」他這麼說。「而基礎模型容易偏向空洞，所以必須補充連結外部向量資料庫。」
他說，現在有超過二十個不同的外部向量資料庫可供選擇，各有其優勢。而不只供應商對於他們使用的基礎模型必須保有彈性。那些調校或訓練自有生成式 AI 系統的企業也需要盡全力在模型選擇上保留彈性，Gartner 的 Chandrasekaran 這麼說。「他們今天使用的模型，可能 12 個月之後就不再使用了，」他這麼說。「他們需要有能力可以換掉那些模型。」
對於那些直接使用基礎模型的企業，他們可以建立系統讓 API 的層級與其他應用程式隔離。而後他們可以讓 API 連接最適於特定任務的模型，或者如果有更好或更便宜的模型，可以直接換掉既有的模型。
[ 推薦閱讀：制定生成式AI使用政策的六大要點 ]
另外，有些企業考慮採用的方法則是建立人工智慧協作階層，而這樣的階層可能橫跨多種系統，而可以掌控不同的雲端供應商，不同的資料來源、不同的基礎模型，甚至不同的企業軟體平台。
「當你檢視業務流程時，你需要採用端到端的觀點」，系統整合廠商 TEKsystems 技術長 Ram Palaniappan 這麼說。「可能從 Salesforce 開始，並結束於 Oracle，但它需要從使用者經驗開始，而且端到端的使用情境將會影響你如何將這些事情整合在一起。」他說，有多家供應商提供這類的人工智慧超級 app，還有超大規模業者也推出他們自己的方案。LangChain 是這領域最為人知的開源方案。
Nvidia 也有解決方案，而 Meta 也有 LlamaIndex，也引起企業的興趣，Palaniappan 這麼說。「有些平台供應商，像 Google，正建立自己的應用程式階層，」他如此說。「它們可容許多個基礎模型，而他們也可以與 LangChain 整合。」微軟與 AWS 也有他們自己的應用程式建構團隊。對企業來說，只採用單一雲端平台也是好的選項。「如果你想要在應用程式階層上進行整合，第三方的超級應用程式會是好的選擇，」他這麼說。「像 LangChain 那樣的程式，可以跨三個雲端平台執行，但如果你的需求大部分都可以由單一超大規模業者加以滿足，那麼你就不需要那樣的程式。」
(本文授權非營利轉載，請註明出處：CIO Taiwan)
