1月18日，國家工業(yè)信息安全發(fā)展研究中心AI國檢中心發(fā)布《人臉識別系統安全評測研究報告》?！秷蟾妗凤@示，騰訊云、京東科技、商湯科技、曠視科技、?？低?、的盧深視成為首批通過(guò)人臉識別系統安全測評的企業(yè)。

近年來(lái)，作為人工智能領(lǐng)域最具商業(yè)價(jià)值的技術(shù)方向，人臉識別在安防、金融、交通、教育等領(lǐng)域實(shí)現廣泛應用，但在技術(shù)和應用層面仍存在安全挑戰，漏洞攻擊、數據泄露、技術(shù)濫用等問(wèn)題屢屢成為社會(huì )焦點(diǎn)。因此，作為人工智能領(lǐng)域國家級檢測機構，AI國檢中心就人臉識別系統安全啟動(dòng)測評工作，對市場(chǎng)主流人臉識別產(chǎn)品實(shí)施監督檢驗，規范人臉識別產(chǎn)業(yè)健康發(fā)展。

據悉，這是首個(gè)人臉識別系統安全能力的國家檢測與評估，依據《信息技術(shù)生物特征識別人臉識別系統技術(shù)要求》《信息安全技術(shù)人臉比對模型安全技術(shù)規范》等現行和在研的有關(guān)國家和行業(yè)標準，通過(guò)呈現攻擊、注入攻擊等技術(shù)手段對人臉識別產(chǎn)品和服務(wù)進(jìn)行全方位的測試，有效評估人臉識別安全風(fēng)險。

“人臉識別系統安全風(fēng)險主要涵蓋算法安全、數據安全和應用軟件安全等維度?！眹夜ば虐踩行娜斯ぶ悄芩彼L(cháng)劉永東介紹，本次測評對人臉識別系統的安全風(fēng)險提供明確測試方法，包括算法層面的抗惡意攻擊檢測，軟件層面的靜態(tài)代碼安全測試、注入攻擊測試和程序數據掃描等。

“測試過(guò)程中我們發(fā)現諸多問(wèn)題。首先，對人臉識別身份認證系統的安全評估，不能采用同一尺度衡量。不同場(chǎng)景對技術(shù)安全性判定規則應加以區分?！眹夜I(yè)信息安全發(fā)展研究中心人工智能所圖像檢測室負責人朱倩倩說(shuō)，以門(mén)禁通行和金融支付為例，門(mén)禁閘機注重通行效率，對安全性要求相對較低，金融支付則非常高。從應用角度而言，沒(méi)有百分之百安全的技術(shù)，所以高風(fēng)險場(chǎng)景應采用多重身份認證方式。此外，由于人臉識別技術(shù)采用深度學(xué)習結合大數據訓練模式，受呈現攻擊測試樣本量數據限制，檢測不能完全覆蓋各種不安全情況，建議采用與人臉識別相匹配的數據庫規模測試，結合呈現攻擊測試的方式，綜合判定人臉識別系統安全性。

朱倩倩介紹，針對上述問(wèn)題，AI國檢中心將研究應用場(chǎng)景安全等級，按照不同場(chǎng)景、不同功能、不同應用階段劃分人臉識別安全等級，研制技術(shù)和應用安全測評標準。持續提高檢測水平，研究測試樣本差異，為企業(yè)提供高水準測試服務(wù)，幫助企業(yè)找到安全問(wèn)題，提出改進(jìn)及優(yōu)化建議。

目前，對人臉識別技術(shù)的規范和管理早已成為全球關(guān)注的重點(diǎn)。美國、歐盟相繼推出《人臉識別和生物特征識別技術(shù)禁令法案》《通用數據保護條例》等監管政策，同時(shí)主導多項人臉識別國際標準。我國則提出發(fā)展與安全并重的理念，多措并舉推進(jìn)人臉安全應用，逐步牽頭引領(lǐng)部分標準制訂，在公安和金融等領(lǐng)域先行構建規范。本次測評工作為進(jìn)一步完善人臉識別標準體系、推動(dòng)產(chǎn)業(yè)規范發(fā)展提供有力支撐，通過(guò)測評的企業(yè)也將參與后續的標準編制工作。

人臉識別具有高度的社會(huì )屬性，應在法治框架下開(kāi)展協(xié)同治理。如何貫徹落實(shí)政策法規要求？北京瑞萊智慧科技有限公司高級副總裁朱萌認為，技術(shù)廠(chǎng)商可聯(lián)手律師事務(wù)所，針對數字經(jīng)濟時(shí)代新場(chǎng)景下監管機構的合規要求，對內健全技術(shù)合規體系建設，對外輸出應用合規咨詢(xún)服務(wù)，比如培育數據安全咨詢(xún)、數據保護設計與數據安全管理等服務(wù)，從技術(shù)和業(yè)務(wù)流程角度提供完整安全保障解決方案。

來(lái)源：經(jīng)濟日報