目前，人工智慧可能存在的偏誤範圍仍在探索中。隨著公司越來越常運用 AI 工具來做決策，如何處理這些潛在的損害已經成為當務之急。
文／Karin Lindstrom‧譯／Frances
AI 的效能受限於訓練它的資料品質。這表示，偏見的選擇及人類的偏好會滲透進 AI 中，從而使得它輸出的結果帶有偏頗（AI bias）。
在美國，政府部門正在透過新立法來對抗 AI 歧視問題，比方說，消費者金融保護局正在審查由於借貸或房地產估值演算法偏誤所導致的住房歧視行為。
「在我們國家的民權法律中，對於從事非法歧視的新科技和人工智慧並沒有豁免權，」其局長 Rohit Chopra 近期在 CNBC 上表示。
根據瑞典軟體供應商 Progress 進行的一項國際調查，許多 CIO 和資深管理者都認識到了這一問題。調查中，有 56% 的瑞典經理人認為他們的業務中確實或可能存在帶有歧視性質的資料，另有 62% 的人相信或認為隨著 AI 和機器學習的廣泛應用，這個問題將更加嚴峻。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
Ellevio 是一家瑞典的能源公司，主要從事電力網路的營運，該公司資訊長 Elisabeth Stjernstoft 警告說，使用不具代表性的、帶有偏誤的資料進行決策會有風險，因為這無法精確反映目標客戶群或人口。
「這顯然可能影響 AI 進行精準預測的能力，」她指出。「我們需要評估訓練模型的資料品質，同時也要關注演算法的設計以及功能選取。必須承認這樣的風險是存在的，我們才會持續監測模型並在必要時進行修改。」
儘管如此，對於目前 Ellevio 所使用的 AI 解決方案，她表示並不擔心。
「我們主要利用 AI 來提高程式編寫的速度和品質。這部分我們並不感到憂慮，畢竟開發完成的程式碼都會進行審查。至於機器學習，我們主要用於技術層面的預測分析。」
但她也提到，當涉及預測嚴寒天氣下的能源負荷時，獲取合適的訓練資料確實是一個難題。
「這非常有挑戰性，因為極端寒冷的情況非常罕見，可供學習的資料極其有限，」她補充說明。
探討後果
瑞典金屬企業 Boliden 的資訊長 Göran Kördel 確認，了解 AI 偏見潛在的風險非常重要。
他說：「這可能是所有資訊長現在都在思考的問題。我認為這是我們要做的重要工作，即使我們尚不清楚幾年後 AI 會變成什麼樣子，或者它將如何被使用。我們必需考慮這些後果。」
但是對於 Boliden 而言，他在短期內並未看到顯著的風險。
他提到：「我們主要使用的是圖像分析技術，目前已經有一些鏡頭進行初步測試替我們審查物品。」他表達了更多對於與人相關的面向和生成性 AI 的擔憂，特別是那些產出針對消費者資訊並利用消費者資料的 AI。
Kördel 同時指出，AI 可能會限制創意思考及妨礙非常規思維，這也是值得關注的風險。
仔細評估
Skandia 是一家提供金融和保險產品的瑞典公司，Skandia 資訊長 Johan Clausén 強調導入新解決方案時，評估需求和風險的重要性。然而目前，像 Boliden 與 Stjernstoft 一樣，他也認為自己公司目前使用 AI 並無風險。
他說：「我們有限度地使用 AI，這是為什麼我現在不認為偏見資料構成挑戰。我們使用的外部資料源都非常可靠。」
但為了防範未來可能發生的情況，Clausén 表示重要的是要評估哪些資料應該保持安全，哪些初始偏差資料的使用是可以接受的，並根據這樣的模型建構相應的監控機制。
受訪的資訊長一致認為，AI 能力的不足目前是一個風險因素。Kördel 特別提到，每當新技術出現時，技能的欠缺都是所有企業面臨的常見障礙。他也相信，實際上，企業適應這些技術的時間，比許多人想像的要來得多。
「尊重所有發展中的技術，我們需要考慮的是，我們要多久才能開始應用這些技術？」他說。「我認為，這個過程比我們預想的要慢，特別是在廣泛地應用這些新技術方面。」
(本文授權非營利轉載，請註明出處：CIO Taiwan)
