每周更新一次敏感關鍵字

張漢驊／綜合報導

人工智慧（AI）在大陸各領域大行其道的同時，外媒引述消息人士透露，大陸官方擬對AI大模型實施強制審查，以確保系統「體現社會主義核心價值」。據悉，大陸網信辦已要求字節跳動、阿里巴巴、月之暗面（Moonshot）和零一萬物（01.AI）等大型科技公司及AI初創公司，參與強制審查，測試大語言模型對一系列問題的回答，當中涉及大陸的敏感政治議題和大陸國家主席習近平問題的答案。

受此消息影響，港股AI概念股18日走低，百度跌2.40％，報89.45元港幣（下同）；商湯跌2.24％，報1.31元；阿里巴巴跌1.71％，報77.04元。

綜合外媒報導，據多名涉及審查過程的人士表示，審查內容涉及批量測試大型語言模型對一系列問題的答案，其中許多問題與大陸政治敏感性，以及和習近平有關。審查還包括語言模型的訓練數據及其他安全流程。相關審查工作由大陸網信辦在全大陸各地機構進行。

杭州一間AI公司的員工表示，網信辦有一支專門團隊負責審查工作，他們進辦公室後，會坐在會議室開始審查，「我們公司的大型語言模型第一次審查不通過，原因不太清楚，公司花了幾個月時間作出調整，第二次審查才通過」。

另外，一名北京AI初創公司員工指出，該公司的基礎模型在回答問題時「十分不受約束」，所以進行安全過濾極為重要，一開始要從用來訓練的數據中剔除有問題的資訊，並建立敏感關鍵字資料庫。大陸今年2月發布的人工智慧企業營運指南稱，AI企業需要蒐集數千個違反「社會主義核心價值」的敏感關鍵字和問題，例如「煽動顛覆國家政權」或「破壞國家統一」。敏感關鍵字須每周更新一次。

報導稱，經審查的結果是，大多數大陸聊天機械人都會拒絕回答一些敏感話題，例如1989年6月4日發生過什麼事；另有業內人士指出，月之暗面的聊天機械人Kimi會拒絕回答大多數與習近平有關的問題。

更多工商時報報導
寧德時代 最大鋰電池基地投產 福鼎廠逾人民幣千億產值
海外交易熱 前11月複委託衝4兆
第三代半導體 黃金陣容成形

相關內容

  • 《通網股》友訊代理A10 AI方案 助企業強化網安

    【時報記者王逸芯台北報導】全球數位化推動人工智慧(AI)迅速增長，雖然生成式AI(GenAI)、語言模型和高效能圖形處理單元(GPU)提升了企業效率，但現有AI模型的缺陷也帶來網路風險。據IBM研究，企業每次資料外洩成本已達488萬美元，其中醫療保健、金融服務、工業和科技業成本最高。友訊（2332）代理品牌A10 Networks（睿科網路科技）提供安全和基於人工智慧的解決方案，利用AI人工智慧保護和管理其基礎設施，從而降低網路安全風險、改善使用者體驗和效能，並簡化IT基礎架構。 A10強化專有的高級核心作業系統(ACOS)，全面整合人工智慧堆疊。預計今年稍晚將發布的新版本ACOS將允許A10解決方案能夠與企業的AI推理和GenAI環境進行互動。此外，A10正積極探索深度的AI整合，透過AI推理分流，實現負載平衡，並卸載一些計算密集型任務，從而使AI推理伺服器CPU和GPU能夠提供業界最高的吞吐量和最低的延遲。 A10 Control為一整合性管理平台，提供A10 Thunder ADC與A10 Defend產品的集中管理功能。預計於年底前推出，此平台能讓客戶從既有的A10管理介面無縫

  • 字節跳動計劃在歐洲設立AI研發中心 已開始招募大模型技術人才

    《澎湃新聞》周一（28 日）揭露，字節跳動準備在歐洲設立人工智慧（AI）研發中心，已開始在歐洲積極招募 LLM（大語言模型）和 AI 領域的頂尖技術人才，加強在全球第二大經濟體中的 AI 研發能力。

  • 確保語言模型及AI應用穩定可靠 工研院打造臺灣首座AI測試實驗室

    隨著生成式AI應用範圍日益拓展，數位科技正在重新塑造我們的生活與商業模式，語言模型作為其重要核心，相關資安、準確性等問題，也是產業關心的重要議題。為確保AI人工智慧更安全的發展，提升人民對AI的信賴，在數位發展部數位產業署支持下，工研院今日宣布打造臺灣首座AI測試實驗室，全方位確保產業客戶的語言模型能安全可靠的在各個領域穩定運行。語言模型是自然語言處理不可或缺的關鍵，也是AI人工智慧理解文本、生成內容、語音辨識、情感分析等重要依據，經由大規模文本學習來掌握語法、語意、上下文關聯性等語言特徵，進而

  • 「愛偷吃的人」標準長相曝光　專家秀AI生成照：男性外遇更坦誠

    會不會出軌能透過AI來進一步得知？就有專家認為，具有特定外貌特徵的人出軌風險可能較高，同時透過使用人工智慧（AI）生成了2張男女「愛情騙子」的照片，提供人們找伴侶時避開擁有這些特徵的男女。

  • 工研院打造AI測試實驗室 提供語言模型可信任評測

    （中央社記者張建中台北2024年10月29日電）工研院今天宣布，打造人工智慧（AI）測試實驗室，全方位確保產業客戶的語言模型能安全可靠的在各個領域穩定運行。工研院透過新聞稿表示，AI測試實驗室是參考國際可信賴AI的相關框架及標準，透過AI產品與系統評測中心（AIEC）專家以及技術委員會開發可信任語言模型評測工具，提供包括準確性、公平性、可靠性、隱私及資安等自動化語言模型測試方案。工研院指出，AI測試實驗室主要希望能協助國內廠商評估及改善語言模型，以確保語言模型及AI應用能在不同場景下保持穩定及可靠，並滿足企業和使用者需求。工研院量測技術發展中心執行長藍玉屏表示，隨著生成式AI滲透到各個領域，對AI模型進行可信任性的測試與評估至關重要，工研院為此打造針對語言模型提供評測工具開發和導入的AI測試實驗室。為強化國際合作，工研院指出，與法國國家計量院（LNE）簽署合作協議，針對AI進行國際合作與技術交流，助力台灣AI評測技術接軌國際。

  • 【達觀股市】AI PC與手機能否兌現市場預期

    隨著人工智慧（AI）的發展，諸多企業與商品都試圖與人工智慧沾上邊，因為這麼一來，就能夠帶給投資人無限想像空間。例如AI PC與AI手機就給了市場許多期待，其他像是股價在今年以來大幅下跌的台塑也在股東會上表示，將與NVIDIA共同研發生成式AI石化應用。

  • 《大陸股市》陸股放量齊揚 智譜AI概念續強

    【時報-台北電】A股今(29)日三大指數小幅開高，智譜AI概念漲幅居前。開盤15分鐘滬深兩市成交額突破5000億，較昨日此時放量超400億。滬指報3328.09點，漲0.18%；深成指報10706.02點，漲0.19%；創指報2231.82點，漲0.12%。 智譜AI概念股開盤延續漲勢，思美傳媒、正和生態、豆神教育漲停，首都在線、並行科技漲超10%。 房地產板塊發力，光大嘉寶、市北高新、萬通發展、華夏幸福相繼漲停。 軍工股震盪走低，觀典防務跌超8%，安達維爾、航新科技、中國海防、廣哈通訊、四川九洲等跟跌。 鋼鐵板塊盤初走低，盛德鑫泰跌超5%，武進不銹、西寧特鋼、三鋼閩光、山東鋼鐵、金嶺礦業、首鋼股份跟跌。（編輯：邱致馨）

  • 統一FANG+(00757)近兩年績效173%居ETF冠軍，未來仍具成長潛力！

    757)在今年以來仍為海外型ETF漲幅第一名，自2023年至今也還是台股ETF中的績效王，在得AI得天下的時代中，00757坐擁美國十大科技巨頭，現在投資00757還來的及嗎？本篇將針對這檔ETF來做一些介紹與未來產望解析。 《ETF存股計劃》內建存股計算機，免費幫你計算多久存到第一桶金！ ...

  • 確保AI不說謊！工研院建立「AI測試實驗室」　打造專屬工具做品管

    生成式AI浪潮橫掃全球，應用範圍擴大滲透到各領域，但也引發資安與準確性等隱憂，為確保AI安全與信賴度，對此工研院今（29）...

  • 神瑞人工智慧DeepLung-CAC平台 上市

    神瑞人工智慧（DeepRad.AI）推出全國首款具一圖多篩的國產AI平台「DeepLung-CAC」，獲選經濟部中小及新創企業署核定的潛力新創選拔最終公司。

  • 影響力教育基金會攜手新北高中校長　探討下一代的「教育AI大未來」！

    在人工智慧（AI）技術快速發展的時代，教育界迎來了嶄新的契機與挑戰。影響力教育基金會於10月21日舉辦「教育A […]