【2023人工智慧年會】《時代》AI百大人物！唐鳳：AI與「審議式民主」相互擴展

數位部長唐鳳入選《時代》雜誌「人工智慧（AI）領域百大影響力人物」（TIME 100/AI）名單，唐鳳在「2023年人工智慧年會」親揭入選理由。

唐鳳提到，她在今年 4 月 2 日到美國矽谷休假，矽谷朋友們對於即將或已經釋出的 AI 非常惶恐，可能對社會造成不可回復的損害，經調查顯示，開發人員認為 AGI 有 10% 的可能性成為生存威脅。

唐鳳與朋友發起了「集體智慧計畫（The Collective Intelligence Project）」，試著利用大型語言模型把所有論點都丟進去，構建一系列公眾意見協調平台，並試著找出能夠兼顧參與、進步、安全三大價值的說法。

唐鳳指出，透過公眾意見協調平台，參與者慢慢凝聚共識，大家雖不滿意，但是可以接受且保留細節（nuances）的共同主張。她認為，《時代》雜誌可能是鼓勵能夠透過這種「協商式民主」凝聚共識，而非困在一邊，不斷隔空喊話。

生成式 AI 聊天機器人 ChatGPT 在今年初爆紅，當時在推特談論 AI 發展的相關貼文，大致有三大分歧，分別是參與（participation）、進步（progress）、安全（safety）。

資本主義加速：犧牲安全換取進步，同時保持基本參與
威權技術統治：為了安全而犧牲參與，同時保持基本進步
共同停滯：為了參與而犧牲進步，同時維持基本安全

唐鳳解釋，是否該稱 AGI 為生存威脅（extinction risk）引發相當大的分歧，部分參與者認為，稱 AGI 「生存威脅」會把人們嚇死，如此一來，連對「安全」的投資都做不到。

但其他參與者覺得，現在對「進步」的投資是「安全」、「參與」投資的 30 倍，如果不喊出核子級危機、生存威脅這類的話，永遠無法喚起人們對「安全」投資的重視。

唐鳳提出解決分歧的方法，第一步要先廣納各界對人工智慧的看法及意見，並使普通公民能夠就廣泛的問題發表意見，包括AI的使用、倫理、規範和影響。不管是透過 pol.is 互動式問卷，或是透過點子松蒐集意見。

她與 Open AI 隨機抽出大量的美國人名冊，然後寄 e-mail 問有沒有興趣填表，然後問他們是否同意如「政府應該放慢 AI 的發展」和「接受比以往更低的透明度是值得的」等說法，按照所給予的特徵去計算可能的分佈地區，這只是統計代表性，而非實質互動代表性。

她特別提到，所創建的模型引用「Coherent Blended Volition」的概念，即把討論的細節全部保留，而非把將多種不同的意願或觀點壓縮，過度簡化到只剩下標題。

下一步採用研發機構 Anthropic 的 語言模型 Claude「憲法式訓練（Constitutional training）」，也就是先把想法丟給小的語言模型，然後用它訓練大的語言模型時，確保後面的模型更靠近人群的想法。

唐鳳指出，未來在上位者做政策時，不是只是看審議出來的那最後幾頁報告，而是利用蒐集意見訓練出來的 AI 聊天機器人，隨時去詢問所碰到的真實情況，按照當時討論的原則，有什麼要考慮的點等等，因此總結報告就不再是靜態的東西，而是一個可以去跟你對話的 AI。

唐鳳說，這種方式「使協商式民主更具擴展性」，也使 AI 的發展更加民主，不僅僅是頂級實驗室裡的幾位工程師決定它該如何行為，而是由人民自己決定。

核稿編輯：湯皓茹

《商益》主張「商業是最大的公益」，報導專注於讓讀者理解資本力量、商業本質以及財經語言。歡迎加入 Discord 社群，並免費註冊訂閱商益電子報。

延伸閱讀：

【2023人工智慧年會】簡立峰揭AI產業7趨勢、4挑戰：「至今還沒人賺到錢」
【2023人工智慧年會】Google Bard推手紀懷新：對話AI把算力推到極限
【2023人工智慧年會】抱持國父革命精神與AI共舞！廣達林百里喊：「免驚啦！」
【2023人工智慧年會】哈佛教授：AI發展正處於「奧本海默時刻」