近年來，隨著人工智能產業的高速發展，如何利用大模型技術來有效提升網絡安全保障水平已成為網絡安全領域的熱點研究方向。針對當前網絡安全行業存在的安全能力不足、運營效率低下、產品協同困難、安全專家缺乏等諸多問題，國內眾多網絡安全從業組織正積極探索大語言模型等人工智能技術在安全領域的應用，并相繼推出各具特色的安全大模型相關產品，以提升整體網絡安全保障能力。
為進一步規范安全大模型的設計、開發與應用，中國信息通信研究院(簡稱“中國信通院”)依托人工智能產業聯盟(AIIA)安全治理委員會，聯合多方研制了《安全大模型能力要求及評估方法》系列規范，共包含5部分。其中，《安全大模型能力要求與評估防范 第1部分：總體框架》和《安全大模型能力要求與評估防范 第2部分：基礎網絡安全》已于近日正式發布。
《安全大模型能力要求與評估方法 第1部分：總體框架》
文件規定了安全大模型所覆蓋能力的總體框架和評估方法。安全大模型的架構分為基礎設施層、通用安全能力和安全原子能力三層。安全大模型的研發旨在解決各類復雜的安全應用場景需求，通用安全能力和安全原子能力以不同的組合方式可以滿足不同安全應用場景的需求。文件適用于網絡安全大模型的研究開發、建設部署的相關組織，也適用于安全大模型使用方或第三方評測機構開展能力測試與產品選型。
安全大模型總體框架圖
1. 安全大模型包含如下三層：
(1)基礎設施層：基礎設施層包含了支撐大模型運行的算力、模型和數據。
(2)通用安全能力：包括了安全問答、安全語言翻譯、安全數據處理、安全任務編排、安全工具調用、安全告警研判、安全報告生成、大模型內生安全等通用能力。
(3)安全原子能力：包括了安全大模型可具備的基礎網絡安全能力、數據安全能力、內容安全能力和業務安全能力。
2. 安全應用場景場景包括：
安全運營、態勢分析、安全管理、事件研判、安全技術防護、風險評估、攻防等場景。
《安全大模型能力要求與評估方法 第2部分：基礎網絡安全》
文件規定了安全大模型基礎網絡安全領域應具備的能力以及相應的評估流程與方法，適用于安全大模型基礎網絡安全能力部分的研究開發、建設部署的相關組織，也適用于網絡安全大模型使用方或第三方評測機構開展能力測試與產品選型。
文件主要對安全大模型基礎網絡安全應具備的原子能力提出了具體要求，包括安全大模型可具備的惡意流量檢測、入侵檢測、訪問控制、漏洞檢測、惡意代碼檢測、滲透測試、攻擊面檢測溯源、WEB攻擊檢測、惡意郵件檢測、代碼審計、威脅情報分析、威脅狩獵等能力，同時對安全大模型應具備的通用安全能力進行了詳細描述。
中國信通院將繼續開展安全大模型系列規范的研制工作，圍繞數據安全、內容安全、業務安全等方向編制相關標準，提升人工智能大模型等新技術產品變革與行業應用能力提升，歡迎業界同仁共同參與。
