當OpenAI、Anthropic等頂尖AI公司不斷加強模型安全限制，試圖避免人工智慧被用於發動網絡攻擊時，一批原本站在防禦第一線的安全研究人員卻開始提出質疑：

如果AI模型不能幫助研究者模擬攻擊，那麼防禦者又如何提前找到漏洞？

近期，Anthropic Mythos模型相關限制措施再次引發討論。部分網絡安全專家認為，過度嚴格的安全策略，正在讓合法漏洞研究變得更加困難，甚至迫使部分研究人員轉向沒有審查機制的開源模型。

這背後暴露出的，不只是AI產品設計問題，更是一場關於「安全」定義的爭論。

AI能力越強，安全限制越複雜

過去幾個月，人工智慧模型能力快速提升。

大型模型已經可以協助分析代碼、發現漏洞、生成測試方案，甚至模擬攻擊路徑。

對企業而言，這是一項巨大的安全工具。

但另一面也存在風險。

同樣的能力，如果落入惡意攻擊者手中，也可能被用於尋找系統弱點、設計攻擊流程。

因此，OpenAI、Anthropic等公司開始建立更嚴格的訪問控制與安全防護機制。

例如，OpenAI推出「網絡安全可信訪問計劃」（Trusted Access for Cyber），Anthropic也推出「網絡驗證計劃」（Cyber Verification Program，CVP），希望讓經過審核的安全研究者獲得更高權限。

問題在於，這些措施並沒有完全解決研究者的實際需求。

漏洞研究需要攻擊視角，但AI正在拒絕這種請求

安全產業有一個基本邏輯：

想修復漏洞，首先必須理解攻擊者如何利用漏洞。

NCC Group首席科學家Chris Anley表示，讓AI模型嘗試利用漏洞，是確認漏洞是否真實存在的重要步驟。

但當安全機制讓模型拒絕執行相關操作時，防禦工作也會受到影響。

簡單理解，安全研究人員需要一個「模擬敵人」的工具。

然而現在部分AI模型更像是一個高度謹慎的助手，只要偵測到可能涉及攻擊行為，就可能停止提供協助。

這讓研究者花費大量時間處理模型限制，而不是專注於真正的漏洞分析。

RemoteThreat CEO Chris Thompson指出，一些安全防護措施存在不一致問題，研究人員經常需要與模型反覆溝通，確認哪些內容可以獲得支持。

換句話說，本來應該用AI提升效率，結果部分時間反而消耗在「說服AI」。

最大爭議：研究者正在轉向開源模型

更值得注意的是，這些限制正在改變安全研究者的工具選擇。

部分研究人員表示，由於商業AI模型存在較多限制，他們開始轉向可以本地部署的開源模型。

其中，包括中國開發的一些開源AI模型，例如GLM。

這些模型可以下載並在本地環境運行，不需要經過大型AI公司的審核流程。

對研究者而言，這提高了工作自由度。

但另一方面，也帶來新的安全問題。

當涉及敏感漏洞研究時，如果大量安全人員開始依賴海外開源模型，數據治理、安全標準以及模型來源都可能成為新的考量因素。

這形成一個矛盾：

AI公司想降低濫用風險，因此增加限制；

但限制增加後，部分防禦者可能離開受監管平台，轉向更難管理的環境。

並非所有安全專家都認為AI限制是問題

不過，業界並非完全反對AI安全機制。

專注零日漏洞研究的安全研究員Giuseppe Cali表示，他並不依賴AI完成漏洞發現與利用。

他認為，漏洞挖掘本身仍需要研究者保持主導。

對這類安全專家而言，AI更多是一種輔助工具，例如幫助逆向工程、整理資料或建立分析工具，而不是取代人的判斷。

這也說明，AI安全限制帶來的影響，並不是所有研究者都相同。

大型安全團隊可能可以透過認證項目獲得更高權限，而沒有加入相關計劃的小型研究者，可能面臨更多限制。

AI安全真正的挑戰：如何平衡開放與風險

說到底，AI安全問題並不是「限制越多越好」，也不是「完全開放最好」。

真正困難的是找到平衡點。

如果AI模型完全沒有限制，惡意使用風險可能增加。

但如果限制過度，防禦者可能失去與攻擊者競爭的工具。

安全領域一直存在攻防對抗。

攻擊者會尋找新的方式突破防線，防禦者則需要提前發現問題。

AI正在加入這場競爭。

因此，未來AI公司的核心問題，不只是如何阻止模型被濫用，也包括如何讓合法研究者能夠安全、高效地使用這些能力。

AI時代，安全不能只靠「禁止」

人工智慧正在重新改變網絡安全產業。

它可以幫助企業更快發現漏洞，也可能成為攻擊者的新工具。

目前圍繞Anthropic Mythos以及OpenAI安全機制的爭論，本質上反映了一個更大的問題：

當AI能力快速提升時，誰應該擁有使用這些能力的權限？

對企業而言，需要防止AI被濫用。

對安全研究者而言，也需要足夠強大的工具保護數字世界。

未來真正有效的AI安全策略，或許不是簡單增加限制，而是在風險控制、身份驗證以及研究自由之間建立新的平衡。

因為在AI時代，防禦者如果失去最好的工具，也可能意味著攻擊者正在獲得更大的優勢。

FAQ

Q1：為什麼AI安全限制會影響網絡安全研究？

AI模型可以協助安全研究人員分析代碼、測試漏洞以及模擬攻擊場景。但部分安全限制可能讓模型拒絕執行相關操作，導致研究者無法完整驗證漏洞，降低防禦效率。

Q2：為什麼一些研究人員轉向開源AI模型？

部分研究者認為商業AI模型限制較多，影響漏洞研究流程，因此選擇可以本地部署的開源模型。這類模型提供更高自由度，但同時也涉及數據安全與治理問題。

Q3：AI模型完全開放是否更適合網絡安全？

完全開放可能提升研究效率，但也可能增加惡意使用風險。目前業界更關注如何建立合理的訪問制度，讓合法安全研究者獲得能力，同時降低被濫用的可能。