Google前CEO示警:AI防護機制脆弱
在各家AI新創公司及科技大廠爭相訓練AI模型之際,Google前執行長施密特(Eric Schmidt)警告,目前AI模型的防護機制還相當脆弱,易受駭客入侵,還可能因此學會如何殺人。
施密特參加10月8至9日舉行的科技高峰會Sifted Summit時警告,AI模型存在被駭入與濫用的風險,甚至可能學會致命技能。他表示:「AI是否可能出現擴散問題?絕對有可能。」
施密特指出,AI模型無論開放或封閉,都有「被駭客入侵移除安全防護」的證據。他表示:「AI模型在訓練過程中會學到許多事,但在壞的情況下可能學會如何殺人。」
他補充:「開發AI模型的主要公司都禁止AI模型回答這類問題,但有證據顯示這些防線可能被逆向破解。」
CNBC新聞網站報導,AI模型遭到駭客攻擊的常見手法有兩種,一是透過提示注入(prompt injection),二是越獄(jailbreaking)。前者是由駭客將惡意指令藏於使用者輸入或網頁、文件等外部資料中,誘使AI執行不該做的事,例如洩露私人資料或執行有害命令。後者則是透過操弄回應或複雜提示,讓AI忽視內建安全規則,產生禁忌內容或危險內容。
2023年ChatGPT問世後不久,就曾發生駭客透過「越獄」創造DAN(Do Anything Now)分身的案例。這個分身被迫遵從威脅語言,能提供犯罪手法或其他不當內容。
施密特警告目前尚無完善的「AI不擴散制度」可有效遏阻這類風險,且AI模型易於被逆向或改寫,帶來不可預見的安全問題。
他認為企業雖已採取防護措施使模型不回應危害性問題,但這些防線並非萬無一失,仍有被破解的證據與案例。
相關內容
工商社論》主權AI競賽正快步走向能源戰場
AI從雲端走向邊緣,演進從模型開發、演算法精進,快速由企業布局推進到國際戰略層次,AI軍備所面對的競賽,也從單純的科技對決,進入一場深層的能源競爭博弈。這不僅是科技產業要事,而是一場國際主權與基礎建設競爭。OpenAI創辦人阿特曼(Sam Altman)說「電力就是新石油」(Electrons are the new oil),精準點出全球AI競賽的下一個戰場,隨著AI布局升級到主權AI,世界各國正快速地擘劃、因應這場能源之戰。
工商時報 ・ 4 天前
退休理財術-ETF鎖定三大AI主題 退休金加速放大
2025年AI投資熱潮持續延燒,也使半導體主題型ETF成為投資人目光焦點。進入AI時代後,大企業紛紛競賽AI科技力,展現在財富上,AI讓輝達成為市值最大的公司,讓微軟市值重返榮耀。分析師估計,AI產業三關鍵利器人工智慧、雲端運算、AI晶片2025~2030年產值複合年成長率分別高達36%、17%、33%,投信法人建議,布局AI相關ETF,掌握長線爆發力,打造退休金放大術。
工商時報 ・ 1 天前
輝達、谷歌、馬斯克都參戰 「太空算力」是AI電荒終極解方?
隨著全球 AI 基礎建設工程如火如荼地展開,科技巨頭們正將目光投向地球之外,啟動一場全新的「太空算力」遊戲。近一週以來,全球「太空算力」動向密集,預示著資料中心部署正從地面轉向太空軌道,以解決效率、能耗及擴展性等地面瓶頸。 國際科技巨頭近期動作頻頻。輝達 (
鉅亨網 ・ 2 小時前
AI股急挫興風雨?投資人:短暫調整 無需過度恐慌
全球科技股近期大幅震盪,市場對人工智慧 (AI) 熱潮是否恐形成泡沫再度引發熱議。然而多位分析師與投資人認為,儘管漲勢過於火熱後出現修正,但暫不需因短期拉回過度驚慌,市場仍具後續支撐力道。
鉅亨網 ・ 4 天前
不要怕AI!財經專家點名「這10種工作」最難取代:「人類感情」是最大優勢
[FTNN新聞網]實習記者藍彥欣/綜合報導AI正加速重塑職場結構,許多重複性、標準化的工作逐漸被自動化取代。不過,美國財經媒體《FinanceBuzz》分析指出,未來...
FTNN新聞網 ・ 1 天前台積電、鴻海、南亞科、華邦電…主力鐮刀割下 這些股不跑得當韭菜 專家示警:狼真的來了!
台股自4月起一路上攻站上2萬8千點大關,指數雖創高,但個股表現卻明顯分歧,資金集中於AI族群,掀起市場狂潮。專家指出,AI伺服器、記憶體、被動元件、PCB、散熱族群全面上漲,但過熱跡象明顯,短線正乖離過大恐引發技術性回檔;不過,專家也強調,長線AI需求仍強勁,拉回反成布局良機。
中時財經即時 ・ 4 天前操盤心法-AI多空論戰 財報展望仍樂觀
盤勢分析:台股加權指數攻上28,000點後回檔整理,市場關心的是美股多空、整理時間以及類股輪動表現空間,畢竟指數「天天上漲」可能是漲勢末段的徵兆。AI多空論戰熾熱,最大利多是AI需求持續強勁:雲端服務供應商CSP財報顯示AI需求支持資本支出擴張,進而推升台灣AI伺服器、液冷散熱、PCB供應鏈訂單能見度與營運動能,符合第四季傳統旺季效應。
工商時報 ・ 2 天前【台股盤後】鴻海翻紅 終場跌399點站回月線
(中央社記者江明晏台北2025年11月5日電)市場憂AI熱潮泡沫化,美股、亞股齊挫,台股開低震盪,盤中一度跌743點,下探27373點,隨後鴻海、聯發科翻紅,指數跌勢收斂,終場下跌399.5點,收在27717.06點,站回月線;投顧指出,台股相對抗跌,多頭趨勢並非反轉,是短線漲多面臨震盪。市場擔憂人工智慧(AI)產業熱潮正在形成泡沫化現象,加上美國利率前景充滿不確定性,美股4大指數收黑。費城半導體指數挫跌4.01%,輝達股價下跌近4%,台積電美國存託憑證(ADR)下跌3.55%。台股今天開低震盪,盤中下挫逾700點,下探27373點,失守28000點整數關卡,收盤指數收復月線27653點。觀察權值股走勢,台積電終場下跌45元,收在1460元,跌幅2.99%,鴻海、聯發科翻紅,終場上漲逾1%,國巨、台達電收黑,但跌勢收斂,AI股漲跌互見,奇鋐、廣達收紅,緯創、緯穎、金像電下跌。觀光族群逆勢上漲,夏都漲停,遠雄來、寒舍收紅,機器人概念股佳能、中光電與軍工股逆勢勁揚。台新投顧副總經理黃文清向中央社記者表示,台股從今年4月低點至今,已經上漲11000點,漲勢非常驚人,高達64%,台股近期指數呈
中央社財經 ・ 4 天前那指週線急挫3%為4月來最慘,「AI八巨頭」市值蒸發8,000億美元
【財訊快報/陳孟朔】以科技類股為主的那指11月第一週急吐3%,創4月4日當週急瀉10%以來的七個月最差表現;與AI最緊密的八大權值單週市值合計縮水約8,000億美元,整體AI相關美股單週損失逼近1兆美元,反映市場對高估值與巨額AI資本開支的擔憂急速升溫,風險偏好明顯降溫。「AI八巨頭」指的是:輝達(Nvidia)、微軟(Microsoft)、亞馬遜(Amazon)、Alphabet(Google 母公司)、Meta、甲骨文(Oracle)、博通(Broadcom)和Palantir。名單聚焦雲端與晶片鏈、AI原生軟體股,蘋果就被排除。在11月7日這一週,輝達市值縮水約3,500億美元,微軟、甲骨文、博通等同步衰退,投資人對「燒錢換增長」模式的耐受度下降。機構指出,四大科企本季資本支出高企、且債務融資比例上升的趨勢,使估值邏輯面臨再平衡壓力,類股輪動加快。與此同時,政府停擺引發數據黑窗,投資人轉向民間與高頻指標觀察就業與消費動能;密大消費信心降至三年多低點、就業市場轉弱訊號增多,零售投資人由「逢低買進」轉為觀望,部分熱門AI與量子計算概念出現獲利了結。另一方面,市場擔心AI基建投入規模龐
財訊快報 ・ 3 小時前【台股盤中】台股盤中挫逾700點 AI股疲軟、台積電跌50元
(中央社記者江明晏台北2025年11月5日電)市場擔憂AI熱潮泡沫化,美股4大指數收黑,台股今天開低走低,盤中低點下探27373點,挫逾700點,隨後跌點收斂,台積電下跌50元,至1455元,權值股、AI族群、高價股疲軟。市場擔憂人工智慧(AI)產業熱潮正在形成泡沫化現象,加上美國利率前景充滿不確定性,美股4大指數收黑。費城半導體指數挫跌4.01%,輝達股價下跌近4%,台積電美國存託憑證(ADR)下跌逾3%。亞股今天一片殺聲隆隆,日經指數跌逾4.6%,下跌2390多點,韓股早盤跌勢猛烈,觸發熔斷機制,盤中跌勢逾4%。台股今天開低走低,盤中下挫逾700點,下探27373點,失守28000點整數關卡、10日線、月線。截至10時30分,加權指數下跌598.8點,至27517.76點,跌幅2.13%,成交值新台幣3181.29億元,電子股下跌2.55%,金融股下跌0.77%,櫃買指數下跌1.89%。觀察權值股走勢,台積電低點下探1455元,下跌50元,鴻海下跌逾2.5%,國巨、台達電挫近4%,聯發科下跌約1.5%。台股今天下跌家數逾700家,AI概念股表現疲弱,散熱族群奇鋐、雙鴻相對抗跌,在平
中央社財經 ・ 4 天前操盤心法-AI泡沫疑慮 市場修正是好事
市場分析:市場分析上周全球股市風聲鶴唳,AI概念股的集體回檔修正,讓市場上空瀰漫著不安的氣息。投資人心中最大的疑問浮現:「這是否是2000年網路泡沫的重演?」市場擔心的泡沫論,主要集中在估值。
工商時報 ・ 6 小時前
擷發科技軟硬整合 全力搶攻北美市場
AI晶片與軟體設計服務商擷發科技(7796)於美國舉行的 Embedded World North America(EWNA) 展會上驚艷亮相,以「AI軟體設計服務 × ASIC設計服務」雙引擎策略展示其軟硬整合實力,同時宣布成立北美業務團隊,積極推動AI應用於邊緣運算市場的全球落地。
中時財經即時 ・ 3 天前
意藍:智能搜尋明年續強
意藍資訊5日發表AI Search智能搜尋產品,主要鎖定五大應用場景。意藍總經理楊立偉表示,AI智能搜尋業務今年成長率逾6成,明年亦能維持同樣的成長力道,目前客戶數約25家企業,明年可新增約40家客戶,整體客戶數約可達70~80家。
工商時報 ・ 4 天前股價指數期貨贏家專欄-AI長線趨勢不變 高出低進
美國ADP於周三公布10月私部門新增就業人數達4.2萬人,明顯高於市場預期的3.2萬人,終止連續兩個月下滑的趨勢,也使得AI泡沫疑慮暫時降溫,預期台股有望築底。隨著國際股市回穩與外資回補,短線指數或有反彈契機,建議投資人維持操作彈性,關注AI、半導體及電子權值股的後續表現。
工商時報 ・ 3 天前
反超DeepSeek!Q3以1.72億月活用戶拿下行動端AI王座 豆包將是「新百度」?
最新產業數據顯示,字節跳動旗下 AI 助理「豆包」在今年第三季反超 DeepSeek,以 1.72 億月活躍用戶規模登頂中國行動端 AI 應用程式榜首,引發業界關注。 根據 QuestMobile 發布的《2025 年第三季 AI 應用產業報告》,目前行動端 AI 應用用戶總規
鉅亨網 ・ 3 天前台北金融博覽會導入AI創新 信用卡秘書防詐ATM吸睛
(中央社記者蘇思云、呂晏慈台北2025年11月7日電)台北國際金融博覽會今天登場,金融業積極導入AI人工智慧應用,像是AI信用卡秘書,可分析個人化消費狀況並給予建議,保險業也推出全新數位平台,一次快速掌握保障,防詐ATM也導入AI持續進化,對用戶戴口罩或辨識到多張臉孔等行為,也提供警示。2025台北國際金融博覽會今天起為期3天在台北世貿一館展出,多家金融業者展示數位金融創新成果,吸引不少民眾到場參觀,現場氣氛相當熱烈,可以看出金融業從過去智能客服應用AI之外,也慢慢有更多消費者會親自接觸到的AI應用實例。中信銀行總經理楊銘祥指出,銀行觀察用戶需求,這次首次展示AI信用卡秘書功能,可以分析消費金額,也有刷卡安全提醒;中信銀AI智能防詐ATM結合AI影像分析與多重安全機制,偵測是否有口罩遮掩臉部等,並跳出警示頁面提醒移除遮蔽物,預計年底前導入逾500台具備AI智能辨識技術的ATM。中信銀行也攜手同業打造首創跨行金流履歷安全網,透過模型結合財金公司資料,掃描異常資金流動,讓金融業可以跨機構聯防,快速辨識可疑帳戶,攔阻詐騙金流。國泰金控也攜手5大子公司展示創新金融服務,像是國泰人壽全新數位平台
中央社財經 ・ 2 天前《研究報告》半導體ETF 息利雙收可期
【時報-台北電】美科技巨頭競逐AI強權,推動2026年半導體進入產能擴張、技術革新雙週期齊頭並進,帶動台股半導體明年成長榮景佳,法人認為,半導體ETF多頭息利雙收表現有望續航。 根據CMoney統計至11月4日,2025年半導體ETF息利表現各有所長,績效方面,新光臺灣半導體30(00904)今年以來累積含息報酬率達24.58%,在同類型ETF績效表現最佳;配息方面,中信關鍵半導體(00891)年初迄今每單位累積配發金額共1.83元,為同類型累積配息金額最多;其他含息績效如群益半導體收益(00927)、兆豐台灣晶圓製造(00913)與富邦台灣半導體(00892),今年以來累積總報酬率,也都有上漲逾2成以上的表現,若與加權指數同期間創22.06%的表現比較,以新光00904、群益00927兩檔截至11月4日止,含息報酬維持領先大盤表現。 新光臺灣半導體30 ETF(00904)研究團隊指出,美國科技巨頭最新一季財報,幾乎都加大投資中心投資金額,且輝達最近在華盛頓舉辦GTC大會上,列出未來投資發展方向,並投資諾基亞進入6G領域,顯示晶圓代工龍頭成長動能驚人,下游封測廠產能轉趨緊俏,台灣半導
時報資訊 ・ 4 天前黃仁勳示警:美國束縛產業 AI競賽恐輸中國
(中央社倫敦2025年11月5日綜合外電報導)美國人工智慧(AI)晶片大廠輝達(Nvidia)執行長黃仁勳今天警告,中國能源成本較低,監管限制也較寬鬆,恐在AI競賽擊敗美國。黃仁勳在英國倫敦舉行的「金融時報AI未來峰會」(FT Future of AI Summit)場邊表示,美國與英國在內等西方國家正受到「犬儒主義」心態所束縛,「我們需要更多的樂觀心態」。他指出,美國各州AI新規可能產生「50條新規範」。他將這種做法與中國的能源補貼相對比,稱中國提供的能源補貼讓當地科技公司更具成本優勢,得以運行輝達AI晶片的替代品,「電力幾乎是免費」。黃仁勳先前曾警告,美國最新的AI模型並未遠遠領先中國對手。他呼籲美國政府開放市場,讓外界使用美國晶片,以維持全球對美國技術的依賴。
中央社財經 ・ 4 天前
日經跌逾1100點 失守5萬大關 韓股重挫逾2%
最新消息,受到美國股市收跌,科技股拋售潮重現,加上投資人面對就業和經濟的擔憂,以及對AI熱門股票,估值過高的影響。日經指數今(7)日開盤後再度重摔超過700點,而且盤中持續下殺超過1千點,5萬大關再度失守,南韓綜合指數開高走低,下跌89點,跌幅2.22%。
EBC東森財經新聞 ・ 3 天前《興櫃股》資拓宏宇明競拍 前3季每股盈餘0.87元
【時報記者莊丙農台北報導】資拓宏宇(6614)配合上市前公開承銷,對外競價拍賣5,254張,競拍底價38.98元,最高投標張數696張,暫定承銷價46元。競拍時間為11月7日至11日,11月13日開標;11月12日至14日辦理公開申購,11月18日抽籤,預計11月24日掛牌。 公司前三季營收32.48億元,年增15.97%、營業毛利4.06億元,年增10.77%,毛利率12.49%,營業利益0.76億元,營業利益率2.34%、稅後淨利6312.5萬元,年增159.7%,每股盈餘0.87元,年增163.6%。其中,第三季營收為13.92億元,季增29.58%,年增58.67%;成長主因為受惠智慧政府、智慧金融、智慧醫療、智慧城市這四大領域客戶數位轉型需求提升所致。 此外,10月營收為3.91億元,前10月累計營收為36.39億元,年增16.46%。 董事長吳麗秀表示,政府近年積極推動AI創新應用與數位韌性建設,以跨域科技、AI模型應用、大數據分析及資安防護為核心推動方針。資拓宏宇持續厚植生成式AI能量,並以自主開發的iNana RAG權限控管與知識擷取平台為基礎,整合DevSecOps安
時報資訊 ・ 4 天前