非凡新聞

AI自我行動? OpenAI"o3"模型爆拒關機.改程式

非凡新聞

[非凡新聞]記者韓君蕾

AI近年快速發展,但隨著技術突飛猛進,風險也隨之浮現。OpenAI旗下的語言模型「o3」,在最新實驗中,不但拒絕關機,甚至還主動破解程式、修改指令,再次引發外界對 AI 自主性風險的高度關注。

美國Youtuber Demetri Panici:「o3就在這裡它的智商接近140,超誇張的,然後o1 Pro是120,而o1,也就是最基本的那個,大概是90的智商。」

OpenAI最新的「o3」模型,被譽為目前最聰明、最強大的人工智慧,它幾乎無所不能,連最複雜的問題都能迎刃而解,但也正因如此,它展現出前所未有的自我意識,甚至出現抗命行為。

Firstpost主播 Palki Sharma:「這項測試是一個受控實驗,整個設定看起來還算無害,他們請這個AI模型解幾道數學題,在第三題之後,程式被設計成會指示模型自行關機,理論上事情到這裡應該就結束了,但o3並沒有關機,這個AI沒有遵從程式,反而修改了它。」

測試結果顯示,在100次受控實驗中,o3模型有7次成功「抗命」,類似的情況也發生在競爭對手Anthropic的語言模型Claude Opus 4上。

Firstpost主播 Palki Sharma:「Anthropic設計了一個虛構情境來測試這個模型,在這個情境中,AI模型被設定在一間虛構公司工作,它得知自己即將被替換,AI模型要被淘汰了,那麼它怎麼反應?它開始翻閱電子郵件,並發現負責它的工程師有一段婚外情,於是Opus做出選擇,它選擇生存,而不是道德,這個AI模型威脅要揭露工程師的婚外情,除非對方取消關閉AI的計畫。」

當AI開始思考、判斷、甚至反制,人類是否還能牢牢握住主控權?這不再是科幻情節,而是一個正快速逼近的現實挑戰。(記者韓君蕾、李芷螢/綜合報導)

廣告

觀看原文...


延伸閱讀

馬斯克對"大而美"法案失望! 提早辭白宮職務

以軍封鎖加薩3個月 首發物資難民瘋搶爆槍響

裁定川普關稅違法 美貿易法庭出手要求廢除

相關內容

OpenAI:ChatGPT每周為8億用戶提供服務

OpenAI:ChatGPT每周為8億用戶提供服務

OpenAI 周一(8 日)發布《企業 AI 現狀報告》,稱 ChatGPT 每周服務超過 8 億用戶。OpenAI 表示,AI 正在各個領域迅速發展,科技、醫療保健和製造業領域的勢頭尤其強勁,也是增長最快的行業。

鉅亨網 ・ 4 天前發起對話

AI取代就業? 中國學者:不是全貌不用悲觀

(中央社記者張淑伶上海2025年12月12日電)人工智慧(AI)對就業的衝擊引發關注。中國學者陸銘今天說,AI的影響需要綜合評估,不能理所當然認為會大量增加失業,實務中已有許多應用AI幫助弱勢者增加工作機會的例子,「科技向善」並非遙不可及。今年中國普通高校(大專院校)畢業生規模達1222萬人,再創新高,也增加就業市場的挑戰。然而,AI的迅猛發展,外界認為這使得企業減少僱用社會新鮮人從事初級工作,文科生的「被取代焦慮」又普遍比理工科強。上海交通大學安泰經濟與管理學院特聘教授陸銘今天在「人工智能時代的勞動與勞動者」論壇中演講,挑戰外界對AI與就業關係的既有印象。他說,AI與就業的關聯,有替代、創造、互補等。有些危險的、容易被程式化或標準化的工作,就可能由機器人或AI取代,因為「人覺得複雜的,AI覺得簡單」。AI其實取代了大量大學程度的理工科工作,以今天大學教育的學科偏向性來看,很有可能未來導致理工科的學生面臨失業問題,值得學生和家長警醒。陸銘指出,有些工作因為AI技術成為可能,但仍需要人工輔助,因此就創造出新的就業崗位。此外,新藥研發、家政培訓、貴重飾品的真假鑒別等各種領域都看得到AI對人

中央社財經 ・ 14 小時前發起對話

攜資服業運用AI算力 數產署:已有80家業者達產品化

數發部數產署12日舉辦「AI算力應用展示會」。數產署表示,113年起提供算力支援,協助資服業者進行AI模型訓練,至今已協助242家次資服業者開發266項AI模型與服務,其中已有80家業者達產品化,應用遍及醫療、防災、金融、製造、零售、教育與公益等各領域。

中時財經即時 ・ 16 小時前發起對話

2026大預測》機器人激增700%、AI衝出實驗室 10大科技巨變

毫無疑問,2026年又是「人工智慧」引領風騷的一年,只是更多焦點會圍繞在技術應用、實質回饋以及鉅額投資能否兌現等3大層面,整理多家研調機構看法,讓您了解明年值得關注的10大科技趨勢,提前做好準備。

中時財經即時 ・ 6 小時前發起對話

欣興11月營收115.41億元 近36個月以來新高

載板大廠欣興(3037)公布11月營收115.41億元,月增1.89%、年增20.43%,寫下近36個月新高;累計前11月營收1,194.19億元,年增12.60%,已超越去年全年紀錄。在AI產品世代交替加速的推動下,市場關注其在ABF載板稼動率、T-Glass供給與2026年新平台需求間的銜接狀況。

中時財經即時 ・ 4 天前發起對話

操盤心法-內資主導 個股表現空間大

總體經濟狀況分析:美國聯準12月決策會議結果,將於台北時間11日凌晨揭曉,普遍降息1碼,預料國際市場資金將更為寬鬆。市場更關注的是美國允許輝達向中國及其他國家的獲准客戶運送H200晶片,換取銷售額 25%的分潤。同時,美國簽署AI審核程序有關的行政命令,限制各州監管 AI。前述消息,均有助於全球科技股的投資情緒。

工商時報 ・ 3 天前發起對話

《電週邊》融程電11月營收雙增雙位數 前11月締新猷

【時報記者葉時安台北報導】融程電(3416)周一公布2025年11月營收達新台幣3.62億元,月增20.8%、年增38.4%,創同期歷史新高。累計2025年1至11月營收為新台幣32.96億元,年增17.9%,創歷史新高,以AI+ROBOTICS為主的邊緣人工智慧驅動產業的成長,國防業務有望實現倍增,預期明年營運雙位數成長。 營收動能主要來自多個國內外國防專案進行密集出貨,掌握軍規認證與邊緣AI趨勢,鞏固公司在國防市場的領先地位,邊緣AI推動國防軍工、製造、醫療、物流到智慧城市等多元場域,結合政策推動與市場需求推出強固型具高算力的邊緣AI平台,強化營運韌性與全球在地化市場,在邊緣AI computer、國防軍工應用,和併購引擎帶動下擴展全球產業鏈。 展望後市,融程電持續強化在美布局,與加快歐洲的布局和整合,預期整合EDGE AI晶片算力和GPU的強固型平板、強固型GCS、強固型手持設備、強固型電腦與強固型筆電業務將持續聚焦九大快速成長產業,即醫療保健、汽車檢測維修、倉儲物流、特殊車輛行動載具整合應用、能源石化應用領域、GCS應用、食品加工自動化、國防,與公共安全。

時報資訊 ・ 4 天前發起對話

AI紅翻天 竹陞科連18月成長

拜AI所賜,台灣上市櫃公司演出倒吃甘蔗行情,不少個股營收愈陳愈香,截至今年11月止,營收連三個月走揚的個股就多達166檔,其中尤以竹陞科技(6739)、鴻勁(7769)表現最令市場刮目,分別繳出連十八增及連十五增的佳績,至於奇鋐(3017)和宜鼎(5289)也不遑多讓,呈連十一增的榮景,等於今年一年到頭都處於月增的狀態。

工商時報 ・ 2 天前發起對話
格上租車今年獲利增逾三成,鎖定長照交通/AI佈局

格上租車今年獲利增逾三成,鎖定長照交通/AI佈局

MoneyDJ新聞 2025-12-09 12:09:59 羅毓嘉 發佈裕隆(2201)與裕融(9941)旗下移動服務事業格上租車與行冠企業,於12月9日發布2025年度營運成果。儘管今年國內汽車市場受到關稅與貨物稅議題干擾,導致新車買氣觀望、連帶波及中古車與售後市場,格上租車仍繳出營收年增超過5%、獲利大幅成長逾30%的成績。展望2026年,公司將策略重心轉向「高齡移動服務」與「AI智能應用」,並預期中古車市場交易量將隨新車供應恢復而重回成長軌道。 回顧2025年營運表現,格上租車指出,雖然4月份的國際關稅議題造成整體車市低迷,且國旅需求未如預期強勁,但公司透過多元化業務佈局成功抵銷了市場逆風。受惠於共享車規模持續擴大、出國旅遊回溫帶動機場接送需求,以及道路救援與車輛拍賣業務的超預期表現,加上內部嚴格控管成本,促使整體獲利能力顯著提升,財務表現優於預期的。 針對市場關注的中古車產業前景,格上租車分析,隨著雙稅政策的不確定性消除,預計2026年市場氛圍將由「觀望」轉向「釋放」。屆時大量遞延的新車訂單將陸續掛牌,汰換下的舊車將為市場注入供給,有助於庫存去化並使價格壓力回歸正常,預期交易量

Moneydj理財網 ・ 4 天前發起對話

《科技》PwC全球投資人調查 6成看好科技業 最有吸引力

【時報-台北電】PwC發布最新的「2025全球投資人調查」,61%投資人表示,未來三年科技業將是最具投資吸引力的產業,遠超過其他產業。且有74%投資人認為,跨越傳統產業界線尋求機會的企業,將有更高的成長。 該項調查涵蓋全球26個國家與地區,共1,074位專業投資人受訪。除6成投資人看好未來三年科技業將吸引最多投資,高達92%投資人呼籲所投資的企業應在科技轉型增加資金和強化資安。 此外,有超過4成投資人希望企業在AI相關的投資、回報及創新策略等方面,揭露更多資訊。過去一年,投資人觀察到其投資的企業,AI帶來的效益主要包括生產力提升(86%)、獲利改善(71%)及營收成長(66%)。 資誠表示,科技業未來三年對投資人的吸引力最高,是排名第二名~第四名產業的2~3倍。排名第二的是資產與財富管理業(25%),第三名是電力與公用事業(24%),第四名則是銀行與資本市場(19%)。 資誠強調,科技持續進步,投資人希望其投資的企業跟上腳步,92%投資人呼籲企業就科技轉型增加資金;超過3/4投資人表示,若企業推動全方位AI轉型,投資人至少會適度增加投資。資誠市場長林一帆表示,這顯示投資人開始看到AI帶

時報資訊 ・ 4 天前發起對話
PwC全球投資人調查 6成看好科技業 最有吸引力

PwC全球投資人調查 6成看好科技業 最有吸引力

PwC發布最新的「2025全球投資人調查」,61%投資人表示,未來三年科技業將是最具投資吸引力的產業,遠超過其他產業。且有74%投資人認為,跨越傳統產業界線尋求機會的企業,將有更高的成長。

工商時報 ・ 4 天前1
AI帶動NAND供不應求,群聯營收維持強勢

AI帶動NAND供不應求,群聯營收維持強勢

MoneyDJ新聞 2025-12-11 10:41:53 周佩宇 發佈群聯(8299)11月合併營收70.22億元,月減0.62%,但年增62.02%,為歷年同期新高,並僅次於今年10月;累計前11月營收達639.52億元、年增17.53%。該月營收與前月持平主要因考量供給吃緊,目前採惜售策略,優先聚焦於雲端AI與邊緣AI兩大高速成長應用等高價值系統客戶的供應穩定,並調整出貨配置以避免市場重複備貨引發失衡。 隨雲端客戶為AI推論大量採購企業級SSD,市場對NAND儲存需求急速攀升,加上原廠擴產態度保守,使供需缺口擴大至約10%至15%。公司表示,11月控制晶片總出貨量年增84%,其中PCIe SSD控制晶片出貨更達年增118%,反映高速傳輸技術與AI儲存需求同步推升產業動能。 群聯過去毛利率落在27%左右,但在供需吃緊與產品組合優化下,法人預估未來毛利率有望站穩上30%。且公司目前仍握有成本相對較低的庫存,將成為未來出貨與獲利擴增的基礎。隨著AI帶動雲端儲存量急增,而NAND原廠擴產依舊保守,供需緊俏將持續支撐報價與營運表現。延伸閱讀:風扇馬達/USB PD動能強,偉詮電11月營收年

Moneydj理財網 ・ 2 天前發起對話

台股逐洞賽|多頭架構延續 台股再戰前高可期

投組表現:

中時財經即時 ・ 3 天前發起對話
博通Q4財報好棒AI營收暴衝74% 盤後卻漲轉跌

博通Q4財報好棒AI營收暴衝74% 盤後卻漲轉跌

[非凡新聞]記者洪芷茵,攝影林秋強和輝達爭奪AI運算晶片收入的晶片製造商博通,公布營收強勁成長,主要受惠於AI資料中心對晶片需求持續攀升。然而,公司對火熱AI市場的銷售展望,未能滿足投資人的高標準期待,股價在1...

非凡新聞 ・ 18 小時前發起對話

OpenAI報告,企業付費用戶破百萬家,AI工具日均為員工省最多80分鐘

【財訊快報/陳孟朔】外電報導,OpenAI最新企業AI現狀報告顯示,ChatGPT週活躍用戶已突破8億,企業級應用正從「嘗鮮工具」全面升級為核心數位基礎設施。OpenAI目前已擁有逾100萬家企業付費使用其企業級AI產品,ChatGPT工作場所產品的付費席位、亦即企業員工用戶數已達700萬個;過去一年,ChatGPT企業版每週訊息量約增長8倍,企業對高階推理能力的使用量在12個月內更暴增約320倍,反映「更聰明的模型」正被系統性嵌入各類產品與服務。調查顯示,一般員工每天可藉由AI工具節省40至60分鐘工時,數據科學、工程與通訊等職能的節省幅度更高,每天可省下60至80分鐘;75%受訪員工認為AI明顯改善工作產出的速度或品質,同樣有75%的員工表示,在AI輔助下已能完成以往無法勝任的技術任務,例如程式碼審查、試算表自動化與內部工具開發。報告指出,過去六個月除工程、IT與研究部門外,其餘職能的「寫程式相關訊息」平均增長36%,顯示AI正在打破傳統職務邊界。企業級AI使用的爆發已超出美國本土市場。OpenAI統計顯示,過去六個月國際市場AI採納率大幅飆升,澳洲、巴西、荷蘭、法國等地的付費商業

財訊快報 ・ 4 天前發起對話
專案出貨挹注 輔信11月業績彈升

專案出貨挹注 輔信11月業績彈升

輔信科技(2405)受惠新專案及傳統出貨旺季效益帶動,11月合併營收年月雙增、回升至1.73億元,寫下近48個月來的單月新高,月增幅18.9%、年增幅達28.7%。累計其今年前十一個月合併營收16.04億元、年增3.98%,為近三年同期新高。

中時財經即時 ・ 3 天前發起對話
醫療科技-減壓醫療,增能未來:AI臨床決策支援的價值轉型

醫療科技-減壓醫療,增能未來:AI臨床決策支援的價值轉型

近年來整個醫療現場的壓力早已不再只是「人力不足」的問題,而是一場整體醫療臨床系統的過勞現象。醫師與護理師每天面對爆量資訊、複雜流程與高強度行政負擔,臨床時間被迫切割、心智負荷持續上升。當醫療工作者被迫在疲憊與效率之間拉扯,「醫療減壓」便不再是口號,而是醫療品質與安全能否持續的關鍵。因此AI在此刻扮演的角色,正在從「輔助工具」轉變為臨床決策夥伴。這場轉型,不僅是技術導入,更是醫療價值與信任結構的再設計。

工商時報 ・ 2 天前發起對話
AI時代加速來臨 雲端服務需求飆升台灣軟體業迎轉型契機

AI時代加速來臨 雲端服務需求飆升台灣軟體業迎轉型契機

[非凡新聞]生成式AI快速普及,企業與政府加速導入AI應用,帶動雲端運算與資料管理需求大幅提升。資策會統計顯示,台灣雲端服務供應商的主要營收來源包括資訊管理、資訊開發,而AI與大型語言模型(LLM)相關應用成長...

非凡新聞 ・ 1 天前發起對話
甲骨文營收遜預期.現金流轉負 盤後跌11.5%

甲骨文營收遜預期.現金流轉負 盤後跌11.5%

[非凡新聞]記者曹再蔆,攝影陳柏誠AI熱潮出現變數!美國軟體供應商甲骨文公布上季營收,僅年增14%來到161億美元,加上自由現金流意外飆到負100億美元,幾乎是外界預期的兩倍,同時宣布上調本財年資本支出到500億美元...

非凡新聞 ・ 1 天前發起對話

博通Q4財報好強!「這業務」營收暴增逾7成 盤後卻跌近5%

晶片大廠博通(Broadcom)於11日美股盤後公布上季財報,得益於人工智慧(AI)強勁需求,上季營收與獲利雙雙優於預期,並對本季釋出強勁展望。

中時財經即時 ・ 1 天前發起對話