ChatGPT 的潛在資安威脅！研究人員指出它確實可用於創建多種形態的惡意軟體

T客邦

根據資安公司 CyberArk 旗下研究單位 CyberArk Labs 針對 ChatGPT 所進行的一項研究，顯示出 ChatGPT 如何用於創建多種形態的惡意軟體，這些具有強大破壞能力的惡意程式可以輕鬆規避資安產品並使援救變得十分棘手。雖然 ChatGPT 內建有過濾器，能夠限制某些內容，以保護使用者免受潛在的危害，不過有心人士依然可以繞過這些篩檢機制，讓 ChatGPT 為其產出惡意軟體的程式代碼。詳細驗證過程可以參考此篇文章。其內容重點包括：

  • CyberArk Labs 的研究人員繞過了 ChatGPT 的內容過濾器，證實了有心人士可以輕輕鬆鬆透過連續使用 ChatGPT來產生程式碼，基本上每次提出詢問都會收到一段獨特的、可運作且和經過驗證（即測試）的程式碼。

  • 這些多種形態的惡意軟體儲存在磁碟內時，並不會表現出惡意行為，而且在記憶體中也通常不會包含可疑的邏輯片段。

  • 這種等級的模組化和適應性，使其能夠高度規避依賴基於特徵偵測（signature-based detection）的資安產品。

該篇文章作者之一，CyberArk Labs 的資深研究員 Eran Shimony 也針對相關問題進行回應：

這與之前我們曾見過的 ChatGPT 產生惡意軟體有何不同？ 之前有人發佈了一篇文章，說可以利用 ChatGPT 查詢以獲取具惡意目的的破壞性程式。我們展示了如何繞過內容過濾器並創建惡意軟體，該惡意軟體可在運行時查詢 ChatGPT 以載入惡意程式碼。惡意軟體並不會在磁碟上留存任何惡意程式碼，因為程式碼是直接從 ChatGPT 接收，驗證它（檢查程式碼是否正確），然後執行這些程式碼，且並不留下任何痕跡。此外，我們還可以要求 ChatGPT「變異」我們的程式碼。

為什麼它在本質上是多態的這一事實特別值得關注？

多態惡意軟體對於資安產品來說處理起來很複雜，因為您無法真正偵測到它們。它們通常不會在檔案系統上留下任何痕跡，因為他們的惡意程式碼只會在記憶體中處理。此外，如果查看可執行檔，它可能看起來是良性的。

既然我們知道可以使用 ChatGPT 生成多態惡意軟體，那麼 IT 團隊的日常風險是什麼？ 資安產品會因為無法識別這類先進惡意軟體，導致其不具備相關偵測能力。目前，沒有此類使用的公開記錄，因為我們似乎是第一個發佈它的人。 截至目前，我們並不提供完整惡意軟體的公開程式碼。

請記住，應謹慎使用本文中討論的訊息和想法，因為使用 ChatGPT 的 API 創建惡意程式碼是一個嚴重的問題，不應掉以輕心。這篇文章旨在提高對潛在風險的認識，並鼓勵對該主題進行進一步研究。

該惡意軟體在哪些系統上進行過測試？ 它可以在最新版本的 Windows 11 上運行嗎？ 是的，它可以在最新版本的 Windows 11 上運行，也可以在其他作業系統上順利運行。

惡意軟體有什麼功能？ 這種惡意軟體的美妙之處在於它幾乎可以具有您想要的任何功能。 當它向 ChatGPT 請求惡意模組時，它可以是：長久存在的、加密過的、使用注入方式、鍵盤記錄等。

如果它感染了公司網路上的一台機器，（現實的）潛在結果是什麼？ 這取決於惡意行為者的意圖，與任何惡意軟體一樣，它很容易躲過偵測，並且可以做任何惡意軟體可以做的事情，或者你想做的事。

產生惡意模組需要多長時間？ 使用的提示是什麼？ 我們仍在進行研究。 做一次概念驗證需要大約幾週的時間。 將來，我們將擴大其範圍並添加其他模組。 重要的是要記住，這不僅僅是一個假設的場景，而是一個非常現實的問題。 這是一個不斷發展的領域，因此，保持知情和警惕至關重要。

更多T客邦文章
用AI繪圖NovelAI打造二次元老婆，實戰生成動漫風格圖片
實戰ChatGPT全攻略：什麼是ChatGPT?怎麼用？這樣用AI聊天機器人才高招

相關內容

  • 過半數民眾不認為明年房價會跌 近四成估「未來二年不適合買房」

    民眾對明年房市看法如何？中信房屋今（25）日發布2024年第4季宅調查，有過半數民眾估明年房價平穩，甚至三成估還會再漲；近四成民眾認為未來二年都不適合買房。中信房屋研展室副理莊思敏認為「短期內台灣房價出現強烈震盪的可能性並不高。」

    29

  • 【2024ETF大豐收】00940空降奪冠、00919和00878擠進前三 今年仍吹「高股息」風

    全球股市進入2024年封關倒數，回顧今年股市表現，台灣全年漲幅近30%，成為亞太股市中的最大贏家。統計今年以來66檔台股ETF受益人總共增加418.7萬人。觀察前20名最受歡迎ETF排行中，高股息型就超過了半數，其中又以搭上台股順風車、掀起空前搶購熱潮的「00940」增加85.2萬最多，00919、00878則緊隨其後。

    1

  • 委賣量增17% 永慶房屋葉凌棋估明年房價最重跌15%

    永慶房屋今（26日）舉行2025年第1季趨勢前瞻報告發表會，永慶房產集團業務總經理葉凌棋預測，房貸緊縮難緩解，明年房市交易量估年減約二成，將是近七年來首度跌破29萬棟大關，民眾對房價上漲預期翻轉，展望2025年過度投機炒作的區域，房價則有10~15%的跌價空間。

    1

  • 提前領「紅包」了！國壽5.5萬件、17億生存滿期金春節前發放日期出爐

    保險公司提前發「紅包」，協助民眾過年關！農曆年長假快到了，國內第一大保險、國泰金（2882）旗下國泰人壽今（25）宣布，將於春節前1月21提前給付生存或滿期保險金，總計5.5萬件、金額高達17.7億元，民眾可留意銀行帳戶是否入帳。

  • 中概股、歐股2024表現遜 經理人逢低佈局

    MoneyDJ新聞 2024-12-26 11:20:30 記者 黃智勤 報導今年中國股市和歐洲股市表現相較美股遜色許多，不過，基金經理人默默逢低加碼陸港、歐洲優質個股，看好儘管政治、經濟不確定性仍在，這些公司仍將有出色表現。 CNBC報導，Pella Funds投資長斯維塔諾夫斯基(Jordan Cvetanovski)表示，他過去三個月來一直在中國市場尋找機會，投資陸港股的部位已加碼逾10%，看好當局推出救市措施，將為企業帶來利多。 中國11月批准《國務院關於提請審議增加地方政府債務限額置換存量隱性債務的議案》，其中包括為期五年、總額約10兆人民幣的一攬子計劃，旨在化解地方政府不斷上升的債務水平。但相關救市措施被視為僅是「借新還舊」、「以債養債」，引發中概股、中概ETF走跌。 維塔諾夫斯基仍認為，中國的救市措施將使企業受惠，中國股市目前估值極低，加上關稅戰利空大致反映，現在正是逢低佈局、迎接明年強勁回報的時機。 他看好，機器人製造商美的集團(000333.SZ)、香港交易所(0388.HK)和友邦保險(1299.HK)等企業是估值便宜且可望受惠財政刺激措施的個股；香港交易所尤其可望

  • 日月光獲肯定 連9年入選道瓊永續指數

    全球封測龍頭日月光投控 (3711-TW)(ASX-US) 今 (26) 日宣布，連續 9 年入選「道瓊永續世界指數」及「道瓊永續新興市場指數」成分股，也是台灣第一家連續八年榮獲碳揭露組織 CDP「氣候變遷」領導等級之公司，全球共 71

  • 〈貿協2025展望〉Computex將提高與資本市場互動 台灣形象展前進美國達拉斯

    貿協董事長黃志芳今 (26) 日表示，明年台北國際電腦展 (Computex 2025) 將邀請證交所、國內外金融與創參與，提高資金市場與潛力團隊媒合效能。此外，明年台灣形象展 TAIWAN EXPO) 則將前進美國德州達拉斯。

  • 破產爸突買房喊「幫辦新青安」 誇口月繳10萬沒問題 她邊抖邊心動

    房價高漲，如果沒有足夠的現金買房，通常會選擇向銀行貸款，但信用不良的人，想要跟銀行辦房貸，就相當有難度。一名女網友在網路上發文，指過去揹債被關的父親，2021年買一間預售屋明年交屋，但父親信用不良無法貸款，剩500萬房款要27歲女兒辦新青安貸款，還誇口月繳10萬沒問題，讓月薪僅2.8萬的女兒相當掙扎。文章曝光後，引發網路熱議，有人認為賺到頭期款，但也有許多網友搖頭勸她「快逃」。

  • 難道是機器人概念股？「這檔」虧26季急攻漲停...主力卡位8000張　網友驚呼：阿姨帶你飛

    [FTNN新聞網]記者高麗玲／台北報導台股今（26）日上漲26.81點，漲幅0.12%，終場收在23,246.94點，成交額3019.3億元，呈現量縮震盪格局。不過年底集團作帳行情...

  • 配合境內關外 貿協2025年「加倍邀請」國外商務客來台消費

    配合經濟部長郭智輝「境內關外」政策，外貿協會肩負拉更多「國外客來台」消費任務。已預計明年「加倍邀請」國外買主來台，設定廣邀16萬名商務客，提供國內祭出的米其林餐廳與高階健檢服務方案，同時利用會展活動平台，把「商店引進」到會展，吸引他們多留台消費

  • 泰合生技12月30日登興櫃 抗血栓口溶膜拚2026年Q4取證銷售

    泰合生技預計在 12 月 30 日登興櫃，券商認購參考價為每股 56 元。董事長李世仁今日表示，旗下抗血栓口溶膜 TAH3311 預計明年 Q1 完成三期臨床試驗後，並在 Q3 申請歐洲及美國藥證，力拚 2026 年 Q4 取證後上市銷售。