OpenAI成立新安全顧問委員會,成員全為公司內部人員

【財訊快報/陳孟朔】過去幾個月,OpenAI的技術團隊中有多名安全方面的高層人員離職,這些前員工中有些人對OpenAI在AI安全方面的優先順序下降表達擔憂。OpenAI週二宣布成立一個新的安全顧問委員會,負責監督與公司專案和運營相關的“關鍵”安全和安保決策。而值得注意的是,進入該安全顧問委員會的成員全部為該公司內部人員,包括OpenAI的CEO Sam Altman,外部人員一個也沒有。

根據OpenAI公司博客上的一篇文章,安全顧問委員會將在接下來90天內負責評估OpenAI得安全流程和保障措施。然後,該委員會將向OpenAI董事會彙報其發現和建議,OpenAI表示,屆時將以符合安全和安保的方式公布任何已採納的建議的更新。

OpenAI週二表示,已開始訓練新一代旗艦人工智慧模型,以期超越目前的GPT-4大模型。

除阿爾特曼(Altman),安全顧問委員會的其他成員包括OpenAI董事會成員Bret Taylor、Adam D’Angelo和Nicole Seligman,以及前席科學家Jakub Pachocki、OpenAI早期籌備團隊的Aleksander Madry、安全系統負責人Lilian Weng、安保負責人Matt Knight和“人工智慧對齊”(AI Alignment)負責人John Schulman。

過去幾個月,OpenAI的技術團隊中有多名安全方面的高層人員離職,這些前員工中有些人對OpenAI在AI安全方面的優先順序下降表示擔憂。

曾在OpenAI擔任團隊治理工作的Daniel Kokotajlo在4月辭職,因為其個人對OpenAI在發布越來越強大的AI時“負責任的行為”失去信心。