Technology

ChatGPT爆紅專家怎麼看AI?事實驗證、檢查成最大重點

Vendor Icon

CNEWS匯流新聞網

3月. 22, 2023

匯流新聞網記者王佐銘、李盛雯/台北報導

OPEN AI在3月14日正式推出GPT-4,透過大量資料訓練,改善原本GPT-3的問題且產生更多創造力,不僅可以解讀圖片,回答問題上也變得更精準。然而仍有不少人對使用AI語言模型有許多顧慮。譬如AI如何在現代社會被善用提升效率,並在使用上兼顧資訊正確?台灣科技媒體中心邀請專家說明,專家們表示,目前GPT-4在解讀圖片和生成相關文字方面已經取得了很大的進展,但這種技術還存在一些限制和挑戰,像是GPT-4在生成文字時可能會編造非事實性的回答,這可能會對使用者造成誤導和負面影響。可以考慮引入更多的事實驗證機制和檢查機制,同時需要給予模型更加高品質的訓練資料。

國立中央大學資訊電機學院資訊工程學系教授蔡宗翰表示,GPT-4透過學習大量的文字和圖像資料,獲得更高的創造力和想像力,能生成更有趣和獨特的文字和圖像描述。而且,它也具備解讀圖片的能力,可以從圖像中發掘關鍵資訊並生成相關的文字描述。

蔡宗翰也提醒,GPT-4在生成文字時可能會編造非事實性的回答,這可能會對使用者造成誤導和負面影響。可以考慮引入更多的事實驗證機制和檢查機制,同時需要給予模型更加高品質的訓練資料。另外,語言模型的訓練資料可能存在一定的模型偏見,例如性別、種族、文化背景等方面的偏見。為了解決這個問題,需要更加細緻的調整和訓練模型,同時更加嚴格的審查和檢查模型的輸出結果。

國立政治大學傳播學院助理教授李怡志說明,一般人因為先會使用Google 才會使用ChatGPT,所以常以 Google 的概念來看 ChatGPT。Google是一個資料索引目錄,你輸入了關鍵字,索引目錄協助你找到資料。ChatGPT則是學習資料後建立模型,你輸入了提示,他會解讀你的提示之後,給你GPT學會的東西。若我們將這兩個角色擬人化後,Google是一個圖書館員,它不會告訴你任何東西,只會幫你找東西。ChatGPT是一個會超級多語言的口譯員,它不會幫你找東西,但是很愛幫你「翻譯」或「轉譯」,也很樂於自己補充。簡單來說,前者是用「查」,後者用「翻譯」。

李怡志建議,使用 ChatGPT 比較好的方式是讓它好好地「翻譯」,讓它提供開放型的內容。也就是說,如果內容有明確的「是非對錯」,最好不要完全依賴它,但如果答案只有「好壞高下」,那麼我們可以開始練習如何使用它。如果我們看到一篇文章,已經註明利用ChatGPT 或人工智慧工具完成或協作,我們就要假設裡面的事實可能有錯、會腦補。但假如沒有註明,那就跟平常看到任何文章一樣,隨時保持注意,保持懷疑,如果對於內容有任何疑慮,就回頭求助圖書館員。

國立政治大學應用數學系副教授兼學務長蔡炎龍則指出,GPT-4比GPT-3更優秀的是能一次看超過25,000個字,這比GPT-3大約只能看2,048個字好非常多,這也是為什麼長一點的文章,要GPT-3作摘要就無法做得那麼好。而GPT-4的限制,最主要來自它其實只是「用前一個字預測下一個字」的模型,只是依過去訓練的經驗,覺得放哪個字合理,不是真的基於事實。但GPT-4的重點不是它還能更強,而是我們現在就可以怎麼使用它。既然GPT-4最大特點不是說出完全符合真實情況的東西,可以由使用者提供基本資訊,ChatGPT就會幫我們生成相當好的文章。你可以糾正它,它就會產生更好的文字。

Microsoft執行長Satya Nadella:「要讓GPT-4產生有用、正確的東西,是使用者的責任。」蔡炎龍指出,文字生成模型並不是有意識的提供不正確的資訊,所以刻意要造假消息的,用GPT-4不一定能更快速造出一個人要的假消息。這說不定反而會讓大家更認為,堅持把關文字的媒體、出版社、或知名人物才是值得信賴的。相反的,照片、影片和聲音,反而不會再被大家認為是「有圖有真相」,我們可能要即早思考如何因應。

國立師範大學圖書資訊學研究所特聘教授曾元顯表示,GPT-3.5、GPT-4是進一步用人類導師的導引以及強化學習的方式加以訓練,抑制較差的輸出、獎勵較好的回應,所以誤導、偏見的資訊並沒有從ChatGPT、GPT-4中刪除,只是被抑制,但仍然可能由某種提示被引導出來。GPT-4的限制跟前一代一樣,仍舊會有無中生有、推理錯誤、各種偏見(如性別、種族、職業等偏見)、不理解訓練資料之後發生的事物(訓練資料只到2021年9月的網路資料),因此使用仍須小心,必須盡力求證。儘管如此,GPT-4回應出事實的能力比其前一代高出40%。

曾元顯補充,其實最近有些研究可降低GPT-4對社會的負面衝擊,某種程度上可以偵測AI生成的文句、協助偵測GPT生成的文字,以及協助辨別是否有錯用AI文字而有欺騙、造假、不公平的情事等。

新聞照來源:CNEWS資料照

《更多CNEWS匯流新聞網報導》

福住明美監製!CAROME再推進階版限定色打造魅力持久眼妝

最美執行長!衣惠霞升任先勢博報堂集團執行長

【文章轉載請註明出處】

author avatar
CNEWS匯流新聞網
台灣內容型網路新媒體,2016年成立,由資深記者、媒體人及影像工作者組成,內容包括數位匯流、醫藥生活、網路科技、政治民調、新能源、金融財經及企業公益領域。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持