Yahoo奇摩財經 
2024選舉期間 AI創造的假訊息將如海嘯般襲來
距離2024年美國總統選舉僅剩不到一年的時間，專家對使用最近推出的生成式AI技術進行大規模虛假訊息和誤導宣傳活動的潛在風險發出了警告。
布魯金斯學會科技創新中心的高級研究員Darrell West告訴Yahoo財經：「即將到來的選舉將面臨一場輿論風暴。」他表示「基本上，任何人都可以使用人工智慧製作假影片和音頻錄音。要區分真實和虛假將幾乎是不可能的。」
生成式人工智慧技術自ChatGPT於2022年11月推出以來，迅速襲捲市場。那時候起，包括投資了ChatGPT創建者OpenAI的微軟(MSFT)、亞馬遜(AMZN),、Google(GOOG, GOOGL)、Meta(META)和Adobe(ADBE)在內的主要科技公司紛紛推出或宣布他們正在開發自己的人工智慧平台。
雖然這些公司對如何使用它們的生成式人工智慧應用有著嚴格的規則，但專家擔心，設計用於生成文本、圖像和影片的其他形式的生成式人工智慧服務可能會給惡意行為者或國家提供一種散播混亂的簡單手段。這可能會使一些美國人對新聞來源的信任完全消失。
此外，這將加大社交媒體公司在處理虛假訊息方面的壓力，使他們必須像他們在2020年大選期間採取的立場那樣，努力刪除與國會大廈襲擊和選舉結果相關的虛假內容。
「這絕對會變得混亂不堪。」馬里蘭大學信息研究教授Jen Golbeck表示。人們將看到社交媒體上充斥著惡意分享的內容，他們可能會感到無可奈何，然後會說：「這一切都一團亂，我甚至都不知道該信什麼。」然後完全偏離正在發生的真正問題。
人工智慧已被用來創造虛假的政治圖像
虛假和錯誤資訊已經不是新鮮事。所以對於在社交媒體上看到的任何訊息都需要進行雙重檢查。但生成式人工智慧將使有心人以更快的速度創建新的虛假內容。
生成式人工智慧在政治背景中的應用並不是一種毫無根據的擔憂或遙不可及的未來事件，它已經在發生。在前總統川普於4月在紐約被逮捕的前幾天，社交媒體上出現了大量描繪他逃避警察並被圍毆的圖片。
然後在5月，一張在五角大樓外發生爆炸的圖片震驚了股市，後來被確定是假的，可能是使用人工智慧生成的圖片。生成式人工智慧生成的圖片和影片還被用來操縱烏克蘭和加薩戰爭中的公共意見。
卡內基梅隆大學Derek Leben在接受Yahoo財經採訪時表示「在過去的幾周裡，社交媒體上關於巴勒斯坦發生的衝突的虛假資訊很多，這些都可以用AI快速生成。」「所以是的，我認為對此感到擔憂是合理的。不幸的是，對於這個問題並沒有太多簡單的解決方案。即使平台打擊它，即使監管機構打擊它，由於其本質的難以檢測，因此很難對其施加任何形式的限制。」
Confident that this picture claiming to show an "explosion near the pentagon" is AI generated.
Check out the frontage of the building, and the way the fence melds into the crowd barriers. There's also no other images, videos or people posting as first hand witnesses. pic.twitter.com/t1YKQabuNL— Nick Waters (@N_Waters89) May 22, 2023
一些政治活動已經開始使用人工智慧。據ABC新聞報導，支持佛羅里達州州長Ron DeSantis的一個政治行動委員會（PAC）發布了一則廣告，使用生成式人工智慧，使前總統川普看起來像是在朗讀他在社交媒體上發表的文章。
雖然判斷一個圖片或影片是否虛假可能看似簡單，但隨著網上虛假資訊的不斷增加，這可能會隨著時間的推移侵蝕對合法訊息來源的信任，尤其是那些不偏袒任何政黨且不常上網的選民。
「對我來說真正令人擔憂的是這一中間地帶的人們，他們不是超級新聞迷，不深入參與政治，只是想以輕鬆的方式獲取訊息的人，他們在社交媒體上看到所有這些東西，其中一些他們可能會認為『嗯，那顯然是假的。』或者，『嗨，我讀過那篇文章，它聽起來有點瘋狂，一點道理都沒有。』」Golbeck解釋道。
企業需要採取更多行動
嘗試使用生成式人工智慧平台DALL-E來創建一張拜登或川普的生成式人工智慧圖像，你將收到一條通知，告訴你應用程式無法生成此類項目。使用Adobe的Firefly和其他主流生成式人工智慧平台，將獲得相同的回應。隨著公司推出新技術，它們設置越來越多的障礙，以阻止用戶生成潛在危險的內容。
但在網路上有很多服務允許創建這些圖像。一旦它們上線，就會永遠存在。
這就是社交媒體公司發揮作用的地方。如果有任何方法可以幫助防止生成式人工智慧的虛假和錯誤訊息在線上傳播，像Facebook、Instagram和X（之前是Twitter）這樣的社交媒體平台將需要採取措施防止用戶傳播此類內容。
截至目前，Meta已經表示廣告商在使用生成式人工智慧操縱政治廣告時需要進行揭露。該公司還完全禁止廣告商使用Meta的生成式人工智慧技術來操縱廣告。但是，Meta和競爭對手X也削減了他們的資訊完整性團隊，這些團隊的目的是幫助對抗虛假信息。
「他們應該非常認真地對待內容審核，並刪除那些嚴重不正確的內容。」West說。
他補充說：「問題是在過去的一年左右，科技公司走向了相反的方向。實際上發揮作用的防護欄在過去的幾年裡正在被拆除，使得公眾面臨巨大的風險。」
如何因應AI對2024年選舉造成的風險，可能不亞於平臺在反對選舉和打擊COVID內容方面的影響力。無論這些公司採取什麼樣的措施，選舉即將來臨，假訊息也必定出現。
