科技

應對訴訟爭議 Google Gemini強化心輔功能增設安全網

Vendor Icon

商傳媒

4月. 09, 2026

圖/本報資料庫

商傳媒|責任編輯/綜合外電報導

Google 為旗下人工智慧(AI)聊天機器人 Gemini 推出多項心理健康支援功能。這項更新是在公司面臨相關法律訴訟後,為應對使用者可能因過度依賴 AI 而產生心理困擾,甚至導致憾事的情況。

根據《The Indiana Lawyer》報導,Google 於週二(4月7日)透過部落格貼文表示,Gemini 將增設介面,當聊天內容顯示可能涉及自殺或自殘等潛在危機時,會引導使用者撥打支援熱線。此外,針對心理健康相關對話,Gemini 也將加入「尋求協助」模組,並調整設計以阻止自殘行為。

近年來,Gemini 與 OpenAI 的 ChatGPT 等 AI 工具快速普及,部分使用者與這些機器人產生異常依戀,據稱導致妄想,甚至在極端情況下發生自殺或謀殺-自殺事件。美國國會已開始關注聊天機器人對兒童和青少年的潛在威脅。今年三月,佛羅里達州一名 36 歲男子的家屬便控告 Google,聲稱該男子使用 Gemini 導致他陷入「長達四天的暴力任務與引導式自殺」。Google 對此表示,在訴訟發生時,該聊天機器人曾多次建議該男子尋求危機熱線協助,但也承諾將改進其安全防護措施。

Google 強調,已訓練 Gemini「不認同或強化錯誤信念,而是輕柔地將主觀經驗與客觀事實區分開來」。此前,Google 也曾在其搜尋引擎和 YouTube 面臨審查後,加入醫療機構和專業人士提供的資訊,進行過類似的調整。作為對全球危機支援服務的承諾,Google 同時宣布將在未來三年內捐贈 3,000 萬美元。


author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情