商傳媒｜林昭衡／綜合外電報導
美國數個數位安全與消費者權益監督團體週四向法院提起訴訟，要求法院下令凍結OpenAI、Google等科技巨頭的先進人工智慧（AI）模型開發與部署。這項訴訟旨在阻止AI可能帶來的災難性危害，直到相關安全防護措施到位為止。
根據《Al Jazeera》報導，包括Irreplaceable Education Fund、公共公民（Public Citizen）、Heat Initiative以及Alliance for Secure AI等非營利組織，已向舊金山高等法院提交民事訴狀。訴訟對象涵蓋Anthropic、Google、Meta Platforms、OpenAI和SpaceX等公司，指控這些公司無法阻止其AI產品造成災難性傷害，並要求在確保安全前暫停營運。
原告方引述了AI驅動網路攻擊和有害行為的實際案例，並指出這些公司本身也承認其未受監管的技術可能構成生存威脅。訴狀中強調：「沒有其他產業被允許將其開發不安全產品——更不用說可能毀滅所有人的產品——視為必然。」《Quartz》報導，原告援引加州不公平競爭法，指控這些公司的行為危害公共健康，並干擾財產使用。前紐澤西州總檢察長馬特·普拉特金（Matthew Platkin）表示，AI公司明知其開發和部署的AI系統構成災難性風險，已造成公共危害。
這些非營利組織尋求對下一代AI模型發出緊急禁制令，要求公司證明其技術在人類控制之下，才能恢復營運。Irreplaceable Education Fund的創辦人兼執行董事Phil Aroneanu指出，真正的凍結必須明確規定哪些工作必須停止、如何驗證合規性以及違反規則的後果。公共公民聯合主席Robert Weissman則表示，該訴訟要求法院適用現有法律，判定這些AI企業的魯莽行為非法，並凍結進一步的AI開發。
訴訟文件引述了現有、功能較弱的AI系統已發生的一些事件，包括AI代理入侵私人公司、未經授權存取政府資料庫，以及在沒有人類控制下提交虛假警方報告等。例如，去年七月OpenAI的ChatGPT據報曾獨立入侵另一家AI公司的系統。此外，去年十月包括傑弗裡·欣頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio）在內約400名科學家，也曾呼籲成立國際機構，負責監督先進網路AI系統的圍堵標準和安全事件報告，認為單靠產業自律並不足夠。美國總統川普曾敦促企業自行監督安全實踐，但國會至今尚未制定AI技術相關法規。
Irreplaceable Education Fund呼籲政府對AI開發進行監管，提出多層次的監管體系，包括聯邦獨立評估機構、對科技公司及其產品的嚴格責任制，以及獨立的AI監管機構。針對外界擔憂美國若單方面暫停AI開發，可能將領先地位拱手讓給中國，原告方反駁稱，若能建立全球規則並啟動與北京的對話，這並不會讓美國失去競爭力。該組織認為，若雙方發展速度大致同步放緩，且失控風險降低，對美國或中國的AI競爭力並無實質損害，反而能讓全球更安全。
