專家傳真-防AI危及人類安全與權利 應速立法規範

圖/freepik
圖/freepik

前一陣子,微軟的雲端系統在安全防護更新時,造成數百萬台機器的當機。許多美國公司的飛機停飛,地勤人員只能手寫登機證。這問題提醒了我們,當越來越依賴雲端技術服務幫我們減少人力時,事實上就是把我們的命運全放進同一個籃子裡。一旦這籃子出了問題,整個企業就將停擺。

近年來大家都極力地推展將公司的系統送到雲端上,如亞馬遜的AWS、微軟的Azure,這樣可以減少許多公司裡的資訊人力需求,同時增加許多彈性。雲端運算就是隨需應變,快速彈性的可量測服務,用多少付多少。可等到即將有需求時,再向雲端要求大量資源,而不用隨時在家裡擺著大量的伺服器,來等待未來需求,如此便能減少資源閒置的浪費。雲端服務同時還有一個好處,它可以隨時的做軟體的安全更新,避免駭客利用軟體尚未更新的漏洞來做零日攻擊,讓雲端服務商為你的網路與軟體安全把關。但很諷刺的是,這次事件卻是雲端服務商自己在安全更新時出了問題,讓所有的人都不能工作。

■所有服務都架在公有雲上,一家出事眾人倒楣

一般把雲端服務分成公有雲,私有雲和混合雲三種。後來大家比較推薦的就是混合雲架構。它是把比較沒有機密性的資料放在公有雲上,然後在自家中建立私有雲保存機密資料。這次出問題的公司,應該就是把所有的服務都架在公有雲上。所以一旦雲端服務商出了問題,那公司的所有運作就停擺了。

於是大家這時就發現,私有雲不單可以保護公司的機密資料,同時還可以當作公有雲發生問題時的備援系統來用,不會讓公司的業務完全停擺。這個案例也提示我們在推廣無現金社會的理想時的一個警示,當完全不用現金時,災難時停電或是斷訊,就無法買東西,整個經濟活動都將停擺。推廣純電車也有同樣的問題,一旦長期停電,則將無車可用。

現在生成式人工智慧(AI)當道,大家就希望AI可以幫我們解決更多的問題,替我們做決定。但AI最大的問題卻是不可解釋性,不可控制性。你不知道它做決策的邏輯是什麼,內容是怎生出來的,只能看到它提出的答案。所以如果你要你的命運交到它手上,由它指導你的方向,幫你決定人生,那就是下了一個風險極大的賭注。

■將AI當成工具代理人,人類還是主導者

所以現在的新趨勢,是用由谷歌大腦創辦人吳恩達教授近年所積極推動,把AI成一個工具代理人,將它提出的答案嵌入工作流程的系統中,再由工作流程的邏輯來判斷決定下一步要做什麼。人們可以控制這工作流程的邏輯,於是整個AI系統所做的決策,就提高了可解釋性,以供監督。

除了AI聊天機器人等的大幅進步之外,人形機器人也到了實用的地步。現在餐廳中已經有很多送餐機器人到處跑。日後工廠中,將出現可以自行到處活動的人形機器人在做工。這不像現有汽車工廠的固定式機器手臂,只會有一個有限的活動範圍。運用人形機器人將會出現的危險就是,它們力大無窮,而且行動範圍不受物理性拘束。因此萬一失控,這樣對人類造成許多傷害。所以一旦發生硬體錯誤,電路損毀或是軟體損壞,人形機器人可能亂衝亂跑,揮舞手臂,甚或攻擊人類。就如同常見的車輛暴衝的車禍一樣。人形機器人的暴衝,將是未來常見的社會安全事件。有人說人形機器人是會走路的ChatGPT。但全靠雲端運算或邊緣運算控制,機器人會不會被駭客綁架?以後自駕車、AI忠誠僚機也有相同問題。

■明定紅線與罰則,才能防堵AI觸法行為

另一個方面,整個AI的訓練過程,就像用影印機或錄影機把別人的作品存入AI的模型裡。所以就牽涉到所使用的語料,圖片和影片的版權問題。AI服務公司要拿這個來賺錢,如同要公開播放與展示別人的作品,需先付錢搞定這一切版權所有者,否則就等著被告。這將是天價費用,只有大公司付得起。要解決的問題,還有AI所產生的偏見與毒性。如性別歧視,種族歧視,仇恨言論,色情內容等等。提供服務的AI服務商,有責任要對這一切做過濾把關的動作。

然而猶如洗錢防治工作一般,道德勸說與呼籲是沒有用的,只有明確規範提供服務廠商的責任,訂定違反法規後的重罰,才能夠提供廠商一個明確的指引,才會知道哪邊是紅線不可以去觸犯。

這一切,都要在整個服務還沒有大量散播前就要完成,否則等資源投下去後再修改,那將工程浩大,也會產生許多損失。趁著一切還沒很成熟的時候,大家還是多花點時間,趕快把這些保障所有人安全與權利的AI的基本法律規範制定下來吧。

更多工商時報報導
核四剩餘空地 火力電廠列選項
泓德能源衝刺綠電 明年看旺
美光早盤大漲逾9% 記憶體族群歡騰