AI輔助辨識假訊息 PTT創世神杜奕瑾：最重要是揪出「協同性帳號」

AI（Artificial Intelligence，人工智慧）時代來臨，新科技正在重塑人類生活，除了日常上的輔助，AI也在網路世界裡發揮偵測假訊息的功效。「台灣人工智慧實驗室」創辦人杜奕瑾在接受𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目【新聞真．假掰】主持人黃兆徽專訪時，便分享團隊利用AI，觀測到烏俄戰爭期間，大量社群帳號協同散佈、操作假訊息。然而，杜奕瑾也指出，社群平台以判別假訊息的名義、潛藏言論審查隱憂，呼籲社群平台應該讓下架的內容和下架準則更透明，適度提供第三方研究單位檢驗。

四十五歲的杜奕瑾在就讀台大期間即創辦了「PTT批踢踢實業坊」，成為台灣最大的BBS論壇，PTT的命名也來自杜奕瑾的綽號，因此杜奕瑾也成為PTT鄉民口中的「創世神」，曾任微軟公司人工智慧（AI）部門亞太區研究總監。2017年杜奕瑾自美返台，創立非營利導向的非政府組織「臺灣AI實驗室」。杜奕瑾在【新聞真．假掰】節目中暢談各種網路行為觀察與媒體識讀的重要性，分享將AI運用於假新聞的偵測和分析，他指出，以人工智慧判斷新聞內容真實與否，是非常危險的事情，因此「台灣人工智慧實驗室」的研究方式，是從行為傳播、訊息傳散的模式來分析，而不靠AI偵測內容真假。

圖：「台灣人工智慧實驗室」創辦人杜奕瑾（右）接受台灣事實查核教育基金會Podcast節目【新聞真・假掰】主持人黃兆徽（左）專訪，分享人工智慧如何觀測、分析網路行為，以及團隊對於資訊戰的觀察。

杜奕瑾舉例，透過人工智慧的語意分析、語意理解之後，建立知識庫，會發覺很多人接收到「片面」或是「被餵養」的訊息，「社交平台有同溫層現象，所以可能把類似意見的人圈在一個同溫層後，餵食不實訊息。」杜奕瑾解釋。

針對俄烏戰爭期間的訊息傳播，「台灣人工智慧實驗室」也對傳播行為、訊息傳散做分析，發現明顯的「協同性行為」。杜奕瑾解釋，團隊發現俄羅斯對烏克蘭採取攻擊前的幾週，俄國官方媒體便開始發動政治宣傳、以不實資訊誤導大眾，網路上則出現與議題本身「共進共出」的多組帳號，這類帳號平常並不活躍，在關鍵時刻則同步、不斷地發表同性質、具攻擊和誤導性的言論，即所謂「協同性行為」。

杜奕瑾進一步說明，俄羅斯的政治宣傳訊息，會由社群平台上不起眼的帳號擔任「放大器」的角色，「放大器」先發佈文章，再由成千上萬的「水軍」轉發。「這些帳號都不是KOL（Key Opinion Leader, 意見領袖），但他們有非常高的一致性，只要放大器發了一個訊息，其他人就轉推。」杜奕瑾指出，資訊交戰中的另一方烏克蘭，傳播方式相較之下則比較零散，「（烏克蘭方面的）意見領袖做了有趣哏圖，民眾轉發，與俄羅斯從單點散佈、有組織性地席捲社交媒體版面的政治宣傳不同。」

「台灣人工智慧實驗室」也注意到，華文世界的政治宣傳與俄羅斯發佈的內容常能互相呼應，都聚焦在「烏克蘭是魁儡政府、美國是幕後老闆、俄羅斯是解救者」這一類的論述。杜奕瑾說，在臺灣，有些帳號會專門出沒在重要意見領袖的版面，把政治宣傳的訊息帶到留言區，「有些看不到臉或是偽裝成（傳播）戰爭新聞的帳號，也有過去發表很多電玩內容的帳號，會追蹤有影響力的KOL，在KOL發文的時候，到下方回文。」杜奕瑾分析台灣「協同性行為」的樣態，是把這些政治宣傳的訊息帶到名人發文的留言區，讓大量粉絲看到，是「蹭熱度」的手法。

杜奕瑾提醒，戰爭讓國際社會意識到「社交媒體平台武器化」的危機，「烏克蘭被侵略之前，其實從社交媒體平台看得到『侵略已經在發生』，可以有預警的效果，知道後面的軍事行動即將展開。」

談假訊息 杜奕瑾：​​最好的方法是直接點破，不要再讓別人流傳

當民眾經常使用的社群媒體，成為認知作戰的工具，杜奕瑾表示，要特別留心社群媒體平台如何做中立性分析、確保平台透明度，「把（社群媒體）平台變成武器，會比過去的新聞媒體更有效，更難衡量。」杜奕瑾提醒，群眾要有「對認知戰的認知」，知道這個世界存在認知戰、用什麼方式操作，並養成查核的習慣，查核後也千萬不要姑息，只要姑息，這些訊息就會不斷的再發送給其他人。

既然不該姑息假訊息，一般民眾又能怎麼做？杜奕瑾開玩笑說：「以前是說『你媽知道你在這裡發廢文嗎？』現在這個年代，是『你知道你媽在網路上發假消息嗎？』」，他進一步舉例，「看到霸凌，最好的辦法就是挺身而出，看到假消息，最好的方法就是直接點破，不要再傳、也不要再讓別人流傳。」因此面對假訊息在社群媒體上流竄，他建議要即時查核，也教會自己的家人查核，才是中斷假訊息傳播最有效、直接的方法。

除了傳播到民眾眼前的假訊息，「台灣人工智慧實驗室」也關注「哪些言論在社群媒體平台上『被消失』？」以臉書為例，Meta公司除了和國際上通過事實查核聯盟認證的查核組織合作，在查核為假的貼文加上標示，也會依公司訂定的《社群守則》，移除違反規則的言論。然而，杜奕瑾認為社群守則定義很模糊，「我也曾經申訴，申訴後被立刻駁回，我可以感受到，中間流程不是經過嚴謹的審核過程。」杜奕瑾提出自身經歷，認為Facebook文章下架是經「委員會決定」的說法令人存疑。

為了分析社群平台現況、建立公開資料，「台灣人工智慧實驗室」於2021年推出「葉黃素計畫」，整合使用者提供的臉書下架貼文資料，進行研究分析，杜奕瑾指出，很多使用者裝了葉黃素計畫的瀏覽器外掛功能之後，發現Facebook下架好多文章，使用者本人都不知情。進一步分析這些被臉書下架的貼文，「台灣人工智慧實驗室」判斷，其中98％的並非假訊息或仇恨言論，杜奕瑾因此好奇，負責臺灣的臉書審查人員位處何處？背景為何？如何驗證這些審查員有無偏見？「我相信Facebook可能是無辜的，它只是為了商業利益考量，審查人員編制的關係，造成平台上的偏見。」杜奕瑾認為，未來社群平台應著重言論審查的透明度，讓被下架的言論可以受第三方組織檢驗，也讓民眾可以清楚地了解演算法的機制。

【新聞真．假掰｜假訊息ByeBye！】是由台灣事實查核教育基金會製作的Podcast節目，由台灣事實查核教育基金會教育總監黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題，為聽眾提升媒體素養、增強對假訊息的抵抗力，希望達成「群體免疫」，讓大家都和假訊息說掰掰！

更多內容請搜尋「新聞真．假掰」，或上各大Podcast平台收聽。

【立即收聽】新聞真．假掰 — 假訊息Bye Bye｜EP05｜

「PTT創世神」如何用AI迎擊資訊戰網軍？

Apple Podcast
Google Podcast
Spotify
KKBOX

【非聽不可的相關訪談】

俄烏戰爭改線上？假訊息滿天飛 臺灣人必須看懂的「資訊戰」：專訪沈伯洋（民主實驗室理事長）【上】
https://podcasts.apple.com/podcast/id1607447086?i=1000552907703

人流、金流、資訊流，從俄烏戰爭拆解中共認知作戰手法與因應之道：專訪沈伯洋（民主實驗室理事長）【下】
https://open.firstory.me/story/cl0ix42trayvr0972bkeo55ov/platforms

【其他精彩訪談回顧】

你的一舉一動，都是臉書的賺錢工具？幫孩子來一劑假訊息疫苗：專訪黃哲斌（專欄作家）
https://open.firstory.me/story/ckywvdupiag560993vjy86wud/platforms

志祺七七來了！想當 YouTuber 容易嗎？如何確保訊息真實？知識型網紅工作大解密：專訪張志祺（YouTuber、青年創業家）【上】
https://open.firstory.me/story/cl0tdizi9003b0hzxb40g6gfc/platforms

【關鍵字】

#杜奕瑾 #社群 #葉黃素計畫 #俄烏戰爭 #認知戰 #資訊戰 #協同性帳號 #媒體素養 #PTT #網軍 #水軍 #演算法 #KOL #AI #人工智慧 #Podcast