研究人員警告，澳洲企業在選擇AI工具時務必謹慎。此前有研究人員發現，一款流行的中國AI模型生成的內容中存在政治審查以及嚴重安全漏洞。

周四（11月27日），網絡安全公司CrowdStrike發布了這一警告。此前該公司的一項研究發現，中國的DeepSeek AI工具在被輸入政治敏感詞彙時，會在電腦程式碼中生成更多漏洞。

這項發現公布之際，聯邦政府宣布將成立「澳洲AI安全研究所」（Australian AI Safety Institute），以統籌全國性AI技術政策，而業界也正翹首以盼AI安全規範措施的出台。

美國安全公司CrowdStrike的研究人員在評估DeepSeek的輸出結果，以判斷公司使用其工具是否安全時，開始進行這項調查。

這款中國AI工具於今年一月推出了R1 版本，因其承諾能以較低的算力提供與OpenAI的ChatGPT質量相近的結果而備受關注。

然而，研究人員發現，當輸入涉及中國政治敏感的詞彙，如西藏、台灣、法輪功和維吾爾族時，該工具產出易受攻擊代碼的可能性增加了50%。

CrowdStrike反對手行動負責人亞當‧邁爾斯（Adam Meyers）表示，這項發現尚屬首例，應該給部署AI工具的公司敲響警鐘。

他告訴澳新社，「他們最終創造的是我稱之為『忠誠語言模型』，它忠於黨，忠於中國共產主義意識形態。」

「它在某種程度上決定了自身安全性不足。」

研究人員將DeepSeek R1的生成結果與西方AI工具進行了對比，發現它比推理模型更容易出現嚴重的安全漏洞，但當提及地緣政治敏感詞時，出現漏洞的機率大幅上升。

邁爾斯說：「我們要求它為一家足球俱樂部和維吾爾族編寫相同的代碼。」

「在足球俱樂部的例子中，它按預期編寫了代碼；但在涉及維吾爾族的例子中，它引入了漏洞，例如缺乏會話管理（Session management）或其他安全機制。」

在許多情況下，當面對政治敏感詞彙時，DeepSeek還會拒絕生成代碼，邁爾斯表示，這暗示其程序中設有「終止開關」（Kill switch）。

他表示，類似的缺陷可能也會在其他AI模型中被發現，CrowdStrike發布這些發現旨在激發進一步的研究。

根據網絡流量分析平台StatCounter的的數據，ChatGPT目前主導全球人工智能版圖，佔有 81% 的市場份額，其次是Perplexity和微軟的Copilot。DeepSeek排名第六，落後於Google Gemini和Claude。#

--------------------
向每位救援者致敬　
願香港人彼此扶持走過黑暗
--------------------

🔔下載大紀元App 接收即時新聞通知：
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand

📰周末版實體報銷售點👇🏻
http://epochtimeshk.org/stores