來源：Eric Frommelt

不法分子正利用生成式人工智能發起網絡攻擊：借助 AI 深度偽造實施詐騙、利用 AI 編程工具開發惡意軟件、依托聊天機器人開展釣魚攻擊，甚至通過智能 AI 代理入侵主流開源代碼倉庫。這類由 AI 驅動的網絡威脅正在持續攀升。

今年 4 月初，Anthropic 旗下負責評估模型安全風險的前沿紅隊公布：Claude Mythos 預覽版已識別出數千個高危及嚴重等級的安全漏洞。即便該模型并未接受專門的漏洞挖掘訓練，仍發現了所有主流操作系統及主流網頁瀏覽器中存在的多處隱患。

這一發現促使 Anthropic 啟動玻璃翼計劃（Project Glasswing），旨在防范各類借助 AI 實施的網絡攻擊。亞馬遜云科技、蘋果、谷歌、微軟、英偉達等科技巨頭作為首批合作方，將利用 Mythos 預覽版開展軟件漏洞掃描與安全加固工作。

生成式 AI 在代碼編寫、邏輯推理及自主任務執行方面能力愈發強大，既能精準發現代碼安全隱患，也同樣能被用來利用這些漏洞發起攻擊。網絡安全專家認為：只要在流程中搭建多層核驗機制，并保留人工研判與專業審核環節，就能在借助 AI 檢測代碼漏洞的同時守住安全底線、實現合理平衡。

AI 可精準挖掘高危代碼漏洞

Mythos 預覽版挖掘出的漏洞包括：開源類 Unix 系統 OpenBSD 中一處長達 27 年未被發現的程序缺陷，可讓遠程攻擊者癱瘓任意搭載該系統的設備；一款瀏覽器漏洞，攻擊者只需擁有自建網站域名，就能跨域讀取用戶銀行等敏感數據；此外還在多個密碼學函數庫中發現缺陷，可被黑客用于解密加密通信、偽造數字證書。

代碼漏洞挖掘本就是網絡安全研究員的常規工作，AI 只是新增的強力工具，代碼安全解決方案廠商 Sonar 代碼安全副總裁杰里米?卡茨表示。大語言模型擅長根據定向指令檢索特定安全漏洞。“你可以讓 AI 代理掃描大型代碼倉庫，它極擅長在海量代碼中精準定位隱藏漏洞?！?/p>

金融科技公司 Upgrade 首席應用安全工程師納揚?戈爾認為，速度與代碼語義理解能力是 AI 模型的核心優勢。AI 發現漏洞的效率遠超人工，且能理解代碼深層語義、跨抽象層級追蹤數據流，能力遠超傳統靜態分析工具的簡單模式匹配。

“這種跨組件邏輯推理能力，從架構上就超越了傳統規則化工具?！?戈爾說道，“新一代 AI 安全工具的思考方式，已經貼近專業安全研究員的分析邏輯?！?/p>

網絡安全公司 Theori 聯合創始人兼首席技術官安德魯?韋西也持樂觀態度：“我們如今擁有了一套有望找出全部漏洞的方法，這曾被視作遙不可及的夢想，而現在已經具備落地可行性。”

盡管潛力巨大，但大語言模型仍普遍存在誤報問題：把普通程序缺陷誤判為安全漏洞，或是夸大漏洞危害等級。這導致海量告警中難以篩選有效風險，尤其對于維護開源項目的志愿者而言，被迫承受快速修復漏洞的巨大壓力。

長期參與開源漏洞協同披露工作的卡茨對此深有體會：“漏洞上報數量激增，其中不少確實是需要修復的程序 Bug，但并不屬于安全漏洞，兩者的邊界正在變得模糊。同時漏洞分類研判耗費的時間成本也大幅增加。”

另一大隱患在于：AI 工具既可能被提示注入等手段攻擊，也能主動發起攻擊。例如 Mythos 預覽版可將多個獨立但關聯的漏洞串聯，形成完整攻擊鏈路，進而獲取 Linux 內核最高管理員權限。

平衡 AI 安全工具效能 堅守人工審核底線

網絡安全專家指出，完全可以揚長避短，合理利用 AI 安全能力、規避其固有缺陷。Claude 代碼安全工具、谷歌 CodeMender 等產品采用對抗性自我復核機制：模型輸出結果前先自我質疑、自查校驗。還可將一份檢測結果交由另一大模型或 AI 代理交叉驗證，減少誤報，在流程中形成制衡校驗。

但戈爾強調，AI 標記的所有隱患必須經過人工復核確認?！癆I 輸出的是概率性結果，并非最終定論。它無法替代專業的安全架構評審與滲透測試。必須有人讀懂代碼背后的業務邏輯并完成審核。AI 給出的每一項發現，都要經過完整核驗流程，始終保留人工介入環節，以此建立安全信任邊界?！?/p>

戈爾還提出，動態威脅建模與紅藍對抗演練也是平衡 AI 漏洞檢測風險的有效方式。動態威脅建模持續評估 AI 系統面臨的潛在威脅，并隨系統迭代優化防護策略；紅藍對抗則專門測評 AI 自身的安全隱患及衍生風險。

實現代碼漏洞檢測的安全平衡，還需要優化研發流程：將安全左移，在程序員編碼階段就嵌入安全審查，可大幅降低后續風險。

軟件安全公司Secure Code Warrior 聯合創始人兼首席技術官馬蒂亞斯?馬杜表示：“企業應建立常態化培訓與技能提升機制，讓開發者在軟件發布前就能自行規避代碼缺陷。從源頭培養安全編碼與審核能力，是防范重大安全事故的必要舉措?！?/p>

隨著 AI 識別代碼漏洞、精準判定危害等級的能力持續提升，下一階段的核心挑戰，是實現漏洞規?；瘷z測與批量修復的閉環。

Theori 產品副總裁杰弗里?馬丁表示：“安全工作流程的最后一環是漏洞修復。安全從業者都清楚漏洞需要閉環整改，且修復具備固定規律，未來完全可以借助 AI 實現規?；啃迯停@也將是 AI 下一階段的核心發力方向?！?/p>