Yahoo奇摩財經 
超級智慧安全與否太重要、OpenAI創辦人設AI新創
MoneyDJ新聞 2024-06-20 07:33:39 記者 郭妍希 報導
甫於5月離職的OpenAI共同創辦人Ilya Sutskever宣布，他成立了一家AI新創，旨在追求安全的超級智慧(superintelligence)。
Sutskever 19日透過社交平台X宣布，他成立了新公司「Safe Superintelligence」(SSI Inc.)，傾注全力追求安全的超級智慧，只有一個焦點、一個目標、一項產品。他說，「我們準備組建一個小型精銳團隊，透過革命性的突破來達成目標。」
CNBC、路透社報導，Sutskever曾是OpenAI科學長，跟Jan Leike共同帶領OpenAI的超級對齊(Superalignment)團隊。Leike也在5月離去，加入背後有亞馬遜(Amazon.com)及Google撐腰的AI新創商Anthropic。
OpenAI的超級對齊團隊原本負責引導及控制AI系統，但在Sutskever、Leike宣布離職不久後便遭到解散。
Sutskever新設立的企業將持續聚焦人工智慧安全性。SSI官網指出，「SSI是我們的使命、公司名稱以及整個產品路線圖，因為這是我們唯一焦點。」「我們專注於一個目標，不會因管理事務或產品週期分心，我們的商業模式確保安全、保安和進步都不會受到短期商業壓力影響。」
Sutskever跟曾領導蘋果(Apple Inc.)AI與研究工作的Daniel Gross、OpenAI前技術人員Daniel Levy共同創辦SSI，在加州帕羅奧圖(Palo Alto)及以色列特拉維夫(Tel Aviv)皆設有辦公室。
Sutskever曾是去(2023)年11月試圖將OpenAI執行長阿特曼(Sam Altman)逐出公司的董事會成員之一。阿特曼及Sutskever等董事，對於OpenAI追求先進AI時應設立哪些防線衝突不斷。
Sutskever老師、被業界尊為「AI教父」的辛頓(Geoffrey Hinton) 3月底接受日經訪問時曾透露，Sutskever非常擔憂安全機制，OpenAI原先使命是，就算營利也要把安全擺第一，如今營利卻排在安全前面。2012年AI還無法跟上人類，只能辨識物體及影像，無法理解語言及複雜事物。然而，Sutskever比辛頓還要早改變看法，最後證明他是對的。
阿特曼近日傳出考慮改變OpenAI的治理結構、轉型為營利事業，屆時非營利董事會沒有控制權。The Information 6月14日報導，聽聞過相關討論的不具名人士指出，阿特曼對部分股東表示，OpenAI正在考慮的方案是成為一家營利性福利(for-profit benefit)公司，跟AI競爭對手Anthropic、xAI使用的治理結構相同。
(圖片來源：shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申 述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
延伸閱讀：
資料來源-MoneyDJ理財網
