國家工業信息安全發展研究中心近日在京主辦人工智能融合發展與安全應用研討會。國家語音及圖像識別產品質量檢驗檢測中心（簡稱AI國檢中心）在會上發布首批人臉識別系統安全測評結果。騰訊云、京東科技、商湯科技、曠視科技、?？低暤攘覚C構成為首批通過測評的企業。
作為人工智能領域最具商業價值的技術方向，人臉識別廣泛應用在安防、金融、交通、教育等領域，但在技術層、應用層仍面臨安全挑戰，漏洞攻擊、數據泄漏、技術濫用等問題經常成為社會焦點。因此，作為人工智能領域的國家級第三方檢驗檢測機構，AI國檢中心對人臉識別系統安全啟動測評工作，對市場主流人臉識別系統開展測試評估，規范人臉識別產業健康發展。
國家工業信息安全發展研究中心人工智能所副所長劉永東說，人臉識別系統安全風險主要涵蓋算法安全、數據安全和應用軟件安全等維度。本次測評對人臉識別系統的安全風險提供明確的測試方法，包括算法層面的活體檢測+假體攻擊等。
清華大學人工智能研究院孵化企業瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”的技術防御機制。被動防御是為人臉應用部署靜態的安全能力，比如人臉AI
防火墻，對外部訪問等進行檢測，提升人臉系統抵御攻擊的能力。主動防御則是引入和強化安全團隊力量，比如打造攻防演練靶場，幫助企業構建自適應、自生長的安全能力。
據悉，本次測評是國內首次面向人臉識別系統安全性的國家級檢測與評估，依據《信息安全技術人臉比對模型安全技術規范》等現行和在研的有關國家和行業標準，通過呈現攻擊、注入攻擊等技術手段對人臉識別產品和服務進行全方位測試，有效評估人臉識別的安全風險。
