🎧ChatGPT恐成最大假訊息製造源？人工智慧可能引經據典卻胡說八道，「PTT創世神」杜奕瑾提醒科技倫理風險

AI聊天機器人ChatGPT近來在全球掀起熱潮，推出短短2個月便吸引上億名用戶，熱度遠超過以往任何網路工具的傳播速度。ChatGPT看似「謙謙有理」、「引經據典」，但它的回答卻可能是錯誤訊息，也可能演變為假訊息的溫床。

「當我們用道德規範限制、訓練聊天機器人，的確他的回答會比較正確。但如果是錯誤或有偏見的回答時，你更不容易發現，因為它騙過我們設置的規範。」台灣人工智慧實驗室創辦人杜奕瑾，日前接受國立教育廣播電台節目及𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪，探討人工智慧對人類生活帶來的變革和潛藏的科技倫理問題。

圖：台灣人工智慧實驗室創辦人杜奕瑾（右）接受國立教育廣播電台節目《新聞真假掰》主持人、台灣事實查核教育基金會顧問黃兆徽（左）專訪

「人工智慧它可能會有錯誤、會有造假、會有偏見。」杜奕瑾過去在微軟做過類似專案，打造聊天機器人Tay，但上線不到一天就緊急下架，因為Tay透過網路搜集資訊，會學習不正確的言論、暴力偏見，甚至是種族歧視。

杜奕瑾表示，即使現在透過設置倫理規範，限制ChatGPT的回答，「如果碰到它沒有學習過的限制，還是會直覺回答，它可以引經據典去回你，但實際上這個內容不是真實的。」目前無法確保ChatGPT生成回答的正確性，呼籲民眾對於AI的回答需要提高警覺。

AI可以透過向世界一流人才學習之後，自行生成作品，要超越一般人的創作並非難事。針對人類是否被AI取代的憂心，杜奕瑾認為：「當你會用Google的時候，你就比不會用Google的人強大非常多，同樣的，當你會使用這種生成式工具，你可以利用生成式工具輔導你去寫內容，扶助你去創作劇本，甚至輔導你去做相關的藝術創作、音樂創作。」善用AI，將能夠提升人類創作的豐富性與效率。

杜奕瑾也表示，未來會需要懂「AI詠唱」，知道如何帶領人工智慧去做創作工作的人才。透過人工智慧，不會繪圖、程式語言等專業技能的人，只要學會「和AI對話」也能得心應手。

透過「辨識」、「理解」，一直到「生成」，人工智慧為人類社會帶來創新的發展，但也可能被有心人士利用而產生隱憂。杜奕瑾表示：「在未來，不管是資訊安全、詐騙，或者是認知操作的領域，大家都嚴陣以待。」由於人工智慧會不斷學習，一旦它的辨識能力與人類相同時，就可以再生成新的詐騙訊息。為打擊不實資訊，未來可能演變成「人工智慧對抗人工智慧」的軍備競賽。

杜奕瑾提醒：「未來人工智慧的發展，其實不在於資料量的多寡，不在於運算Power有多少，你要做到可信任的人工智慧演算法（Responsible AI）。」人工智慧演算法的透明度，必須提升「可追蹤、可解釋、可驗證以及可稽查」。

而該如何做到可信任的演算法？杜奕瑾提出「聯邦式學習（Federated Learning）」的解方。「第一件事情要思考人權隱私、資料收集的合法性，第二是演算法是不是可以開放被驗證，確保演算法是沒有偏見的方式。」他分享，台灣人工智慧實驗室在蒐集個人資料，會透過「去中心化」方式，由演算法分析資料與學習，過程中，資料不會離開資料所有權人的手裡。

以疫情期間，民眾所熟知的「社交距離App」為例，該程式透過去中心化方式進行資料分析，所有資料都存在手機裡，利用藍牙訊號記錄隨機ID，做到病毒傳遞分析，此模式能夠防範中心資料庫被有心人攻破，也能保障人權隱私。面對AI浪潮來襲，此實例也在在呼應杜奕瑾強調的：「以人為本」、「可信任」的人工智慧，尤為重要。

【新聞真假掰｜假訊息ByeBye！】由台灣事實查核教育基金會顧問黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題，為聽眾提升媒體素養、增強對假訊息的抵抗力，希望達成「群體免疫」，讓大家都和假訊息說掰掰！

更多精彩內容請搜尋「新聞真假掰」，或上各大 Podcast 平台收聽， YouTube 頻道則有訪談精華影片陸續上架。除了適合大眾收聽收看，也推薦各級學校老師在規劃媒體素養課程時可列入影音輔助教材。（撰文：張家瑜、張育騰）

【立即收聽】新聞真假掰 — 假訊息 Bye Bye｜EP63︱

EP63｜ChatGPT使用者破億！「生成式AI」是什麼？人工智慧將帶來人類生活的重大變革！「PTT創世神」提醒科技倫理亟需規範。專訪杜奕瑾（台灣人工智慧實驗室／人工智慧發展基金會董事長）

Apple：https://pse.is/4sagzl

Firstory：https://pse.is/4rucww

Spotify：https://pse.is/4rqqne

KKBOX：https://pse.is/4r3ezy

Google：https://pse.is/4sgxfb

【非聽不可的相關訪談】當AI

🍀AI如何揪出「網軍」？發文同進同出、朝九晚五、週休二日？「PTT創世神」談社群媒體上的「協同性行為」與認知操作：專訪杜奕瑾（台灣人工智慧實驗室創辦人）

🍀「PTT創世神」如何用AI迎擊資訊戰網軍？俄烏戰爭假訊息臺灣也受害？臉書貼文為何被「祖」？專訪杜奕瑾（台灣人工智慧實驗室創辦人）

🍀未來5到10年人工智慧全面滲入生活，我的同事不是人，是機器？如何面對AI世代的來臨？專訪蔡明順（臺灣人工智慧學校校務長）

🍀「元宇宙」是什麼？你準備好登入了嗎？沉浸式體驗能增進人類幸福感？！AI人工智慧全面擴及生活各層面，有哪些倫理課題？專訪林日璇（政大傳播學院特聘教授）

🍀AI與新科技如何協助打擊不實訊息？阿根廷與巴西查核組織開發出哪些好用工具？

【喜歡這集嗎？想對主持人或來賓提問嗎？】

🌟評分、留言這裡走｜https://pse.is/4p9wyd

【好節目需要鼓勵～請給我們五星好評】

🌟訂閱、評分、留言這裡走｜https://pse.is/4lblzz