美、英等18國簽署國際協議,確保AI設計安全

【財訊快報/陳孟朔】美國、英國等18個國家公布一份國際協議,涉及如何確保人工智慧(AI)免受惡意行為者的侵害,推動企業創建「設計安全」的AI系統。外電報導,18個國家一致認為,設計和使用AI的公司在開發和部署AI時,必須確保客戶和廣大公眾的安全,防止其被濫用。該協議不具有約束力,主要是一般性建議,如監控AI系統是否被濫用、保護數據不被篡改,以及審查軟件供應商等。該框架涉及如何防止AI技術被駭客劫持,並包括一些建議,如只有經過適當的安全測試後才能發布模型。

不過,協議並未涉及AI的適當用途或如何收集這些模型所需的數據等棘手問題。

美國網絡安全和基礎設施安全局局長Jen Easterly表示,重要的是,很多國家都認同AI系統需要將安全放在首位的理念。

除美國和英國外,簽署新指導方針的18個國家還包括德國、義大利、捷克、愛沙尼亞、波蘭、澳洲、智利、以色列、奈及利亞和新加坡等。