生成式 AI 正改變全球各領域的遊戲規則，雖然生成式 AI 尚有許多未成熟、有疑慮的面向，但它同時又充滿許多可能性！這樣的技術迫使科技領導者必須審慎評估許多不同面向的風險，並及時地制定合適的策略！
文／Martin Veitch ‧ 譯者／曾祥信
生成式 AI 被廣泛視為是這個時代最偉大的科技突破進展之一。在 OpenAI 的 ChatGPT 掀起的無數頭條新聞背後，它迫使眾多科技巨擘做出緊急回應，同時也是全球各地科技研討會的主題和主要議題。
然而，如同任何重大新浪潮，曾經充滿希望的專案，有可能一夕失敗，而且人們對於新科技的治理、品質與安全性，存有明顯的顧慮。為避免空談，CIO.com 對許多 IT 領導者和專家進行調查，了解他們對於生成式 AI 的看法，以及他們的期望與擔憂。
現有處境
知名的英國 IT 主管 Paul Coby，現任家族房地產開發商 Persimmon Homes 的科技長，曾見證許多科技趨勢的興衰，他對生成式 AI 十分樂觀，儘管這項科技在 2022 年 11 月才首度問世。
「我相信，生成式 AI 會從根本上改變遊戲規則」，他如此說道，「我參加美國的 Gartner 研討會，他們將生成式 AI 稱為是繼大型主機運算與網際網路之後的 「第三次數位變革（third digital revolution）」。生成式 AI 的影響確實深遠且全面，因為我們擁有的工具，能夠用在眾多使用情境，從撰寫文件與設計產品，到視覺化呈現、檢查程式碼等」。
[ 推薦文章：將生成式 AI 落地是一個移動目標 ]
另一位經驗豐富的 IT 領導者，行為管理培訓公司 Team Teach 的產品與科技長 David Ivell，已經在運用生成式 AI 的威力。
「生成式 AI 是我們商業策略當中極為關鍵的環節，已經實際促使 AI 流程的成長」，他說道，「從去年中開始，我們就在分析這項領域可能帶來的潛在影響、機會，以及因創新速度伴隨的風險，並且導入策略及採取措施以達到風險最小化」。他補充道：「整體來說，我們將生成式 AI 視為巨大契機。我們與公司每個部門進行工作坊研討會，指導他們如何在這個領域加速創新，並腦力激盪各種可能的機會與風險。我們已列出與建立潛在的概念驗證項目，建立模型來評估收益衝擊，並已透過我們的創新實驗室，實現其中一項概念，導入實際生產流程之中」。
技術分析公司 GigaOm 的 Jon Collins，是 《The Technology Garden: Cultivating Sustainable IT-Business Alignment 》 一書的作者，他既是市場觀察家，也是用戶。
Jon Collins 說：「我們由個人層面測試 ChatGPT，此科技的潛力非常正面且深具影響力，特別是作為研究工具或用來提供初步答案的工具。而生成式 AI 會在資訊方面如何取代人類對於資訊的涉入度，這點仍有待觀察。但若從設計觀點來說，這類工具更有吸引力」。
IDC 人工智慧與歐洲智能流程自動化實踐的副總裁 Neil Ward-Dutton 認為，生成式 AI 的使用率很高，但企業界商業策略的發展可能會落後其使用程度。
Neil Ward-Dutton 表示：「生成式 AI 具有影響眾多商業領域的巨大潛力。IDC 在 2023 年 3 月進行的調查顯示，21% 受訪者表示他們已經投資生成式 AI 技術，另外 55% 受訪者正在探索潛在的使用案例。整體來說，我們觀察到只有少數組織根據明確政策與大量基本實驗制定而成的策略或計劃，來使用生成式 AI，不過這在戰略真空時期幾乎是不可避免的事情」。
AI 有效與無效之處
那麼，如果 AI 專案已經啟動，那生成式 AI 能在何處發揮最佳實踐，以及其發揮效果的方式如何呢？
放射醫療保健服務供應商 Medica Group 的資訊長 Marc O’Brien 表示：「最佳實踐作法無疑是跨功能的協同合作，『先試用，再購買』，並從實際做的事情當中學習。根據我的經驗，名譽良好的公司提供的演算法應是名副其實的，但真正關鍵的是要將技術運用在工作流程中的哪個位置。」
Team Teach 的 Ivell 相信，公司可以透過建置為應用程式與軟體套件的工具，迅速啟用生成式 AI 技術。
[ 推薦文章：生成式 AI 五種最佳商務實踐 ]
Ivell 說：「生成式 AI 最關鍵且立即的機會之一是，它已經被整合到我們正在使用的某些工具之中，無論是 Power BI、Adobe 或產業特定的應用軟體。要發揮生成式 AI 的優勢，需要針對新功能進行內部探索或分析，了解我們可以如何運用這些新功能，而首先，必須訓練員工，讓他們知道如何利用 AI 新功能。人們總是傾向以習慣的方式來使用工具，且緩慢地採用新功能，所以我們必須加快採用的速度」。
GigaOm 的 Collins 是「由小事開始（start small）」 思想學派的倡導者。
「由於生成式 AI 提供的答案，伴隨著風險和使用警告，因此首要之務是治理 （governance）」，Collins 表示，「根據經驗，生成式 AI 的文字答案可能錯誤、誤導，或不完整，它產生的程式碼可能有錯誤或缺陷。至少目前是如此，我們必須從小事做起，因為這將是能否成功地運用生成式 AI 這項工具的關鍵，且這通常取決於創造結構良好的出題能力」。
Ward-Dutton 與 IDC 皆認同此觀點，並提供 5 項指導原則：專注於價值和功能、找出特定使用案例、了解技術的限制、考量技術對工作與職位的影響，以及妥善管理風險，例如安全、機密、隱私和品質。
障礙物與阻礙
安全性、偏見、正確性和幻覺，依然是生成式 AI 一再出現的問題。
財富管理公司 JM Finn 的資訊安全長兼 IT 主管 Jon Cosson，回憶起他要求 ChatGPT 提供他自己的簡歷時，系統只列出他約 70% 的工作履歷，並且編造出一段全然虛構、在某知名銀行的工作經歷。
他說：「我們必須了解生成式 AI 在哪些方面可以發揮強大威力、幫助我們，但也必須小心，仍需要保留人工監督。生成式 AI 讓我生活變得更輕鬆，因為它能助我撰寫文件並讓文件內容更加豐富，但如果你依賴這頭猛獸，它可能會反咬你一口。我們在測試當中，是有選擇性地使用生成式 AI 來了解它的威力，不過需要嚴格監控，因為一旦它導致任何不利的決策，我們就無法部署任何東西」。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
Medica’s O’Brien 也提出另一項警告。他說：「在醫療保健領域，監管環境和商業框架往往落後技術好幾年，這使得幾乎無法評估 AI 技術帶來的實際盈利，進而導致難以為要實施的方案提供的資金。無論公共與獨立機構皆面臨這樣的處境，但我相信一旦克服這些障礙，以收益為導向的實現工作將會快速發展」。
Coby 補充，我們必須仔細考慮與使用生成式 AI 和大型語言模型 （LLM, large language model） 相關而尚未成熟的監管和法律結構，以及目前程序造成幻覺的傾向。「這就是為什麼在現階段，任何使用都必須經由具備專業知識的人進行檢查。從概念驗證（PoC）轉換到主流實踐的過程，需要嚴格謹慎的控管」。
Ivell 則補充，生成式 AI 也可能帶來不受歡迎的競爭動能。
他說：「在我們制訂生成式 AI 戰略的過程中，很重要的一點是了解競爭對手或新創公司可在哪些方面使用這項技術，透過新工具生產更快上市、成本更低的產品或服務，進而打擊我們的市場佔有率。所以，需要注意的事情很多，不僅是我們如何利用生成式 AI，還得密切關注它何時會開始被運用、成為我們的威脅。」
在智慧財產權方面，Ward-Dutton 表示，倘若組織在使用公有生成式 AI 服務不夠謹慎，可能會將組織本身的智慧財產洩漏到公共領域。他說：「某些系統供應商正面臨訴訟，因為他們在未經原始創作者允許的情況下，使用資料與內容訓練 AI 系統」。他補充道，成本也可能令人望而卻步，因為當今生成式 AI 威力來源的核心技術，訓練成本非常昂貴。
尋找甜蜜點
各方對於生成式 AI 在何處最能發揮價值，存有不同看法。Collins 認為是研究與設計：「從頭開始建立功能性網站的挑戰有可能完全消失，其他已經成熟的自動化領域也可能是如此」。
O’Brien 補充，任何生產內容供人類使用的東西都可用生成式 AI 取代，這些領域的監管寬鬆，且價格足以提供演算法所需的資金。
IDC 的 Ward-Dutton 表示，分析師的客戶小組指出三個主要領域：改善客戶和員工體驗；加強知識管理；與加速軟體交付。他預測，隨著時間推移，這份清單會加入更多項目，包括：企業通訊 (包括客服中心)、協同合作與知識分享、內容管理、以及設計、研究和創意活動。
雖然現在下結論還言之過早，但 Coby 相信，初期的成功模式是用生成式 AI 產生初稿，以其作為基礎，來提高人類的生產力。他說：「這種模式在許多領域都很可能發生，它需要人們學習新技能以提出正確的問題」。
[ 推薦文章：4 項 AI 專案核心準則 減少組織營運阻礙 助企業轉型成功 ]
Ivell 認同內容、程式碼生成與客戶支援等領域，他表示自己這是一件最感到興奮的是研究機會。
他說：「AI 可以分析大量文字形式的資料，以建立出新的內容形式、摘要和資料集合的分析結果。它還可以分析超大資料集合，產生出前所未見的企業級洞察能力，例如理解行為模式，並創造出可用來建立新產品的洞察力」。
JM Finn 的 Cosson 是位熱衷的部落客，他認為，使用 Midjourney 這類工具來產生文字與圖像內容，是顯而易見的近期機會。
他說：「這種工具在部落格網站中威力已十分強大，很多人都會用它作為基本框架。你不會想要失去人類的創意元素，但是你可以運用人類的監督，交付傑出的作品。缺點是，行銷類型和廣告文案編寫者會失去他們的工作，但同時也會創造新的工作機會」。
特洛伊木馬？
有些觀察家認為，生成式 AI 可以為 AI 與機器學習技術開拓出更廣泛的應用。IDC 的 Ward-Dutton 特別熱衷於此觀點。
他說：「在短短數個月內，生成式 AI 同時地引起了全球各地科技和商業領袖的注意、想像力與恐懼。我們相信，生成式 AI 是一種觸發式技術，將會開創電腦運算的新時代 – AI 無所不在的時代，這會徹底改變人們與資料的關係，以及我[們如何由結構化和非結構化資料當中萃取價值的方式。生成式 AI 的迅速採納，把 AI 在軟體架構中的定位，從新興軟體轉變成平台轉型中核心的關鍵技術」。
不過，資訊長們直言不諱機器人與人類協同合作的重要性。
Cosson 表示：「AI 在與人類攜手合作時效果最佳。人腦還是很有價值，同理心與人性都很重要，我們必須設法研究出，如何讓 AI 補足及融合這些特質」。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
