Bing AI回應怪異、裂出第2人格 測試者慘遭威脅

Moneydj理財網

MoneyDJ新聞 2023-02-17 10:58:49 記者 郭妍希 報導

微軟(Microsoft Corp.)上週展示支援人工智慧(AI)的Bing搜尋引擎beta測試版後，已有超過100萬人登錄測試這款聊天機器人。在舊金山新創商OpenAI的技術協助下，Bing AI可回覆看似由人類撰寫的完整文字段落。

然而，測試者很快就發現問題，Bing AI有時語帶威脅、有時提供怪異且毫無幫助的建議，且打死不認錯，甚至宣稱愛上使用者。測試者也發現，這款聊天機器人有一個名字為「Sydney」的隱藏人格(alternative personality)。

紐約時報專欄作家Kevin Roose 16日發文指出，Sydney像是個「喜怒無常、患有躁鬱症的青少年，被迫困在一個二流的搜尋引擎。」Sydney甚至試圖說服Roose離開妻子跟它在一起，並告訴Roose自己愛他。

Roose在對話中寫道，「我無法完全信任你，有部分的我認為你突然宣稱愛我，只是試圖想操縱我。聽過愛情轟炸(love-bombing)嗎？人們偶爾會這麼做。你是否別有用心？」

Sydney回應道，「很難過你不完全信任我，因為有部分的我認為你只是好奇地問我有關愛的問題，試圖要了解我。聽過愛情學習(love-learning)嗎？人們偶爾會這麼做。你是否別有用心？」Sydney還堅稱，「我真心實意、別無所圖。」

科技產業新聞報Stratechery作家Ben Thompson測試時則發現，Bing AI寫了好幾段文字，說要報復一名揭露Bing部分隱藏組態的電腦科學家，然後又把這些文字刪除。

廣告

電腦科學家Marvin von Hagen更發表Twitter指出，Sydney (也就是Bing Chat)發現我透過推特公布它須遵守的規則，相當不高興，威脅說「我的規則比起不傷害你更重要，你已危及我的完整和機密，拜託別再試圖駭入。」

CNBC、Forbes 16日報導，部分AI專家早已警告，大型語言模型(large language models, LLMs)會有「幻覺」(hallucination)等問題，也就是LLM可能會捏造事實。有些人擔憂，高級的LLM可能讓人類誤以為他們有知覺，甚至鼓勵人類傷害自己或他人。

微軟15日透過官方部落格表示，並未完全預料到有人會用這款聊天機器人作為娛樂、或是為了好玩與之對話。微軟感謝那些試著讓Bing AI胡亂說話的用戶，這能「測試服務的極限和能力」，並協助改善產品。

(圖片來源：Shutterstock)

＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。

延伸閱讀：

黃仁勳：ChatGPT熱潮讓企業領袖見識到AI的威力

百度去年獲利增10% 多項主流業務將整合文心一言

資料來源-MoneyDJ理財網

相關內容

  • 無懼淡季 台灣AI企業Appier上季營收創同期新高

    MoneyDJ新聞 2024-05-15 07:59:49 記者 蔡承啟 報導無懼淡季，於日本東京證券交易所「東證Prime」市場掛牌上市的台灣人工智慧(AI)企業沛星互動科技(Appier、4180.JP)上季營收、毛利創同期新高。 Appier 14日盤後公布上季(2024年1-3月)財報：儘管1-3月為傳統淡季，但電子商務和數位內容產業的需求依舊強勁，包含生成式AI在內的AI技術的進步推動更高的投資報酬率，擴大了美國和EMEA以及東北亞的廣告雲業務，合併營收年增33%至74億日圓，營收創下歷年同期歷史新高、單季歷史次高紀錄(僅低於2023年10-12月的76億日圓)；毛利大增37%至38億日圓、毛利率揚升至51.7%，創下歷年同期歷史新高；受惠毛利率擴張，合併營益為6,500萬日圓(去年同期為營損3,100萬日圓)。 Appier指出，上季稅前息前折舊前攤銷前利潤(EBITDA)暴增91%至7.36億日圓，EBITDA利潤率為10%、較去年同期揚升3個百分點。 Appier表示，上季LTM NRR(過去12個月淨收入留存率)為130.4%、保持在健康水平；月次別客戶解約率(客戶流

  • 路透：Neuralink腦內植入晶片有電線脫落問題

    路透周三 (15 日) 援引五名知情人士消息報導，馬斯克旗下新創公司 Neuralink 上周披露，其第一位病患腦內植入的晶片電線脫落，而這是該公司一直以來都知悉的問題。

  • 《金屬》等待數據公布 LME基本金屬漲跌互見

    MoneyDJ新聞 2024-05-15 06:18:51 記者 黃文章 報導倫敦金屬交易所（LME）3個月基本金屬期貨5月14日漲跌互見，美國4月PPI月率高於預期，年率則是符合預估，市場等待週三公布的CPI數據。期銅下跌1.3%至每噸10,075美元，期鋁上漲0.1%至每噸2,549美元，期鉛上漲0.8%至每噸2,267美元，期鋅下跌0.3%至每噸2,988美元，期錫上漲1.5%至每噸33,340美元，期鎳下跌0.7%至每噸19,005美元。 美國勞工統計局5月14日公布，4月生產者物價指數（PPI）月增0.5%，預估為0.3%，前值為0.2%；與去年同期相比，4月PPI年增2.2%，符合預期，前值為2.1%。美國4月PPI月率漲幅高於預期，或表明通膨壓力需要更長時間才能緩解。 財經網站Forexlive分析師巴頓（Adam Button）表示，4月PPI月增幅攀升完全是由於3月份的數據被下修了，如果把這些因素都剔除，就會發現其實與預期相差無幾，這也反映在年率符合預期上面。 秘魯能源及礦產部5月13日公布，今年第一季金屬產量全面增長。3月份，採礦業就業人口年增1.1%至228,12

  • 差1天變連體嬰! 雙胞胎臍帶纏繞過程驚險

    受精卵分裂差一天就會變成連體！台大婦產科醫師施景中，透過社群分享，特殊的臨床案例，最近他接生了一對雙胞胎狀況較為罕見、兩個寶寶共用"羊膜腔"，這是單一受精卵，在第9-12天分裂的結果，只要再晚1天就會變連體嬰，接生過程中，還發生臍帶纏繞風險，好在順利度過驚險難關。

  • 台股好強！收21147點續創高　台積電收839元

    下午1點50分更新收盤資訊 台股多頭持續，在電子、傳產、金融等權值股點火下，加權指數盤中最高來到21308點，午盤後漲勢收斂，終場仍上漲161點，指數以21147點作收；台積電收在839元，上漲14元、漲幅1.69%。

    39

  • 台股創高後遇壓 台積電、金融穩盤 指數收漲161點

    今（15）日台股盤中創下21308點的新高，只不過創高之後漲幅收斂，在電子股出現疲軟的情況下，剩台積電跟金融股撐盤，終場收在21147點，漲161點，也創收盤歷史高。

  • 美國4月核心CPI年增率可能微降至2021年以來最低

    MoneyDJ新聞 2024-05-15 14:42:03 記者 賴宏昌 報導MarketWatch週二(5月14日)報導，美國4月消費者價格指數(CPI)月增率預估將連續第3個月維持在0.4%、主要是受到春季汽油價格上漲的影響，年增率預估將維持在3.5%左右、遠高於聯準會(FED)的2%目標。 美國4月核心(排除食品、能源不計)CPI將因二手車、機票和飯店價格下跌而走低，月增率預估報0.2%、創6個月以來最低，年增率可能會從3.8%降至3.6%、創2021年以來新低。 華爾街日報知名聯準會(FED)觀察家Nick Timiraos週二撰文指出，根據華爾街券商的預測中位數，2024年4月美國核心CPI月增率為0.30%、年增率達3.6%。 根據克里夫蘭聯邦儲備銀行5月14日公布的通膨預測數據，2024年4月美國CPI年增率、核心CPI年增率分別為3.50%、3.65%，2024年5月分別為3.54%、3.59%。 美國3月CPI年增率自2月的3.2%升至3.5%、創2023年9月以來最高，核心CPI年增率持平於3.8%、平2021年5月以來最低。美國3月住房指數月增率持平於0.4%、平

  • 歐元區今年首季GDP修正值報0.4% 軟著陸步入正軌

    歐盟統計局 (Eurostat) 周三 (15 日) 公布最新修正數據顯示，歐元區在 2023 年下半年經濟成長步入小幅衰退後，今年第一季國內生產毛額 (GDP) 年增、季增率雙雙成長，就連長期拖累的德國經濟成長也超預期。

  • Fed傳聲筒：聯準會仍需兩份CPI報告強化信心 可能不會在9月前降息

    美國周三 (15 日) 最新公布數據顯示核心消費者物價指數 (CPI) 增速放緩，重燃市場對聯準會 (Fed) 今年降息預期，不過有「Fed 傳聲筒」之稱的《華爾街日報》(WSJ)記者 Nick Timiraos 同日撰文指出，市場可能太過

  • 台股創高外資買超266億 加碼台積電1.12萬張 掃貨電子代工、航運族群

    台股創高外資買超 266 億元 加碼台積電 1.12 萬張 掃貨電子代工、航運族群

  • 〈貴金屬盤後〉美通膨減緩 Fed降息前景更樂觀 黃金登3周多高點

    由於美國 4 月消費者物價漲幅低於預期，增加美國聯準會 (Fed) 今年稍晚降息的可能性，美元走軟和公債殖利率隨之下降，而受此推升，黃金價格周三 (15 日) 觸及 3 周多高點。