趨勢科技：AI三暗黑應用 拉警報
趨勢科技台灣暨香港總經理洪偉淦27日出席AI EXPO Taiwan 2025論壇時指出，有7成資安事件肇因於未知或未被管理的數位資產。而AI有三個暗黑應用，使資安風險升高，資安業者應善用AI來防範AI所引起的資安問題。
洪偉淦表示，AI推理成本一直下降，每年大約以40倍速的下降。而AI在企業的應用亦逐漸轉向核心業務。該公司觀察到，AI被駭客惡意使用，加劇資安問題。
AI暗黑風險有三個。首先，駭客不需要會寫程式，而AI還可加速駭客突破語系障礙，並生成高仿真、客製化的釣魚文件。其次，駭客已自行訓練大型語言模型，第三，深偽詐騙當道。駭客只要取得一小段的聲音，就能創造出仿真的聲音或訊息。
洪偉淦指出，AI時代需要關注資料安全及模型安全。資料安全方面，企業應避免將個資、商業機密、或是憑證，丟進AI模型訓練。模型安全方面，目前難以防備，因駭客會運用精心設計的提問來繞過AI模型的安全設計。
AI時代的資安意識，要從資料、模型及代理（agent）、應用程式、邊緣AI等來全面檢視。趨勢科技則認為還是需「用AI對抗AI」。
趨勢因應AI時代推出CREM平台，運用AI技術、透過資安的大語言模型，及AI生成圖型化，了解企業的弱點及駭客可能攻擊的路徑，進一步分析出企業在資安投資效率最高的阻斷點。可協助企業的資安，化被動為主動。目前該項平台及服務為訂閱制，客戶包括有製造業、學校、政府及中小企業等單位。
