人工智能有60多年的發(fā)展歷程，回溯一下，人工智能經(jīng)過了以知識驅(qū)動，到以數(shù)據(jù)驅(qū)動，走到了現(xiàn)在的以安全可控為核心的階段。
近七年來，螞蟻集團不斷在AI的安全可信方向上深耕，把以可信AI為基礎(chǔ)的IMAGE風控體系作為抵御數(shù)字時代風險的核心能力。        刷臉、指紋等生物識別技術(shù)生物識別的應用離不開深度學習AI的爆發(fā)式發(fā)展，如何保證生物識別中的AI安全可靠，成為了社會關(guān)注的焦點問題。
       在前段時間的云棲大會上，螞蟻安全實驗室旗下專攻終端設備生物核身安全性的天璣實驗室，分享了可信AI技術(shù)的最新實踐——“基于智能對抗的生物識別全鏈路安全可信檢測技術(shù)”。
       伴隨智能終端的普及與人工智能技術(shù)在眾多領(lǐng)域的應用，生物特征識別已成為移動設備的標配。但生物識別技術(shù)涉及計算機科學、光學與聲學、生物科學、安全技術(shù)及人工智能技術(shù)等眾多創(chuàng)新技術(shù)，其終端設備應用又涉及底層硬件、芯片、傳感器到操作系統(tǒng)、應用層、云端復核等多個鏈路環(huán)節(jié)，產(chǎn)業(yè)鏈上包含技術(shù)廠商、芯片廠商、設備廠商和應用廠商等各類生態(tài)，對技術(shù)領(lǐng)先性及安全性要求較高。
       為了提升生物識別技術(shù)的安全水位，近年來國家和相關(guān)企業(yè)聯(lián)盟推出了一系列安全標準，例如《信息技術(shù)移動設備生物特征識別》國家標準，IIFAA（互聯(lián)網(wǎng)金融身份認證聯(lián)盟）發(fā)起的《IIFAA本地免密技術(shù)規(guī)范》等。更進一步，要確保一個生物識別系統(tǒng)滿足相關(guān)安全標準，則需要利用到安全檢測技術(shù)。
       螞蟻安全天璣實驗室從2016年開始投入生物識別安全檢測的技術(shù)研發(fā)，已經(jīng)獲得超50項國際專利，主導制定六項國際與國內(nèi)生物識別相關(guān)標準，并在2020年開始與谷歌開展針對智能設備的生物安全檢測，成為谷歌全球唯一官方合作的“Android生物識別安全檢測”實驗室，面向智能設備的產(chǎn)業(yè)鏈廠商提供高精度生物安全檢測認證能力。
       天璣實驗室自研的這一套智能終端設備“生物安全檢測認證體系”，基于多年的行業(yè)檢測實踐，走過了三代技術(shù)演變和體系創(chuàng)新。        【1.0人工檢測時代】主要依賴人工經(jīng)驗和人工測試手段，可以做到對系統(tǒng)的關(guān)鍵功能進行測試，但受限于人工成本高，無法做到大規(guī)模測試得到具有統(tǒng)計意義的量化結(jié)果，也無法保證測試過程標準化。
       【2.0自動化檢測時代】依托計算機視覺算法+機械臂自動化控制技術(shù)，螞蟻安全天璣實驗室在2020年發(fā)布的“全自動生物安全評測系統(tǒng)”，這套體系會給每臺檢測設備提供超過 20萬次的測試程序，實現(xiàn)毫米級的測試精度，并且測試過程0人工干預，可以做到測試結(jié)果可量化，測試過程可復現(xiàn)。
       【3.0智能對抗檢測時代】近年來生物識別面臨了很多新型安全挑戰(zhàn)，例如基于AI的深度偽造、制作更精細3D頭模呈現(xiàn)攻擊，AI對抗樣本攻擊等。如何讓檢測系統(tǒng)能夠像人一樣去思考，利用反饋信息實時對抗找出潛在的安全漏洞，是幫助生物識別系統(tǒng)抵御新型攻擊的關(guān)鍵方向。為此，螞蟻安全實驗室提出了基于智能對抗的生物安全檢測技術(shù)，從“防偽全面性、模型魯棒性、鏈路安全性、隱私合規(guī)性”的四個方面提供檢測能力。生物安全檢測也邁入了基于智能對抗的3.0時代。

       升級之后的智能終端設備“生物安全檢測認證體系”，在高精度測評結(jié)果、智能對抗缺陷挖掘、全方位攻擊方式和全覆蓋測評場景等多個方面，都實現(xiàn)了很好的效果。它也是行業(yè)首個實現(xiàn)“模型魯棒性”、“防偽全面性”、“鏈路安全性”、“隱私合規(guī)性”的全鏈路測評體系。
       2.1 模型魯棒性
       注入式攻擊是除了呈現(xiàn)式攻擊外另一種常見的攻擊方式。以生物識別為例，它指的是將一段視頻或者照片注入到傳感器數(shù)據(jù)中，讓系統(tǒng)誤認為是被攻擊者自己的真實數(shù)據(jù)。注入式攻擊往往要結(jié)合現(xiàn)在流行的DeepFake深度偽造算法、照片活化等AI技術(shù)，也是目前行業(yè)關(guān)注的重點。
       對于此類的檢測，關(guān)鍵就是對于深度偽造識別算法的魯棒性評估。螞蟻安全天筭實驗室對行業(yè)開放了“蟻鑒”AI安全檢測平臺，內(nèi)嵌了自研的AI安全計算引擎，配備了40余種國內(nèi)外主流及自研的攻擊算法模型，通過生成深度偽造數(shù)據(jù)和人臉對抗樣本，能對生物識別算法的魯棒性進行全面評估。
       天璣與天筭兩大實驗室能力合作，利用該平臺生成的全面大量的對抗樣本，可以大規(guī)模進行識別魯棒性檢測，相比較于人工實際采集圖片進行檢測，不僅覆蓋對抗類型全，而且檢測速度快，成本低。        2.2 隱私合規(guī)性
       隱私合規(guī)性檢測是為加強對個人信息安全的保護，提高App信息安全保障能力與水平的又一類新型檢測手段；依據(jù)多個規(guī)范性文件、國家標準，對隱私政策內(nèi)容、個人信息收集與使用、用戶權(quán)利保障等方面，進行全方位且高效的檢測分析的過程。
       結(jié)合螞蟻集團自研的App隱私合規(guī)檢測平臺能力，我們將隱私合規(guī)性檢測劃分為基礎(chǔ)合規(guī)、形式合規(guī)和實質(zhì)合規(guī)三個維度、超過60個檢測項，依托自動化源代碼靜態(tài)掃描，方法動態(tài)調(diào)用棧自動分析，請求自動化攔截和內(nèi)容分析等技術(shù)自動找到敏感、冗余權(quán)限申明，越權(quán)行為，第三方SDK違規(guī)采集等問題點，最終輸出綜合性評估報告，助力企業(yè)監(jiān)測違規(guī)風險。
       2.3 鏈路安全性
       鏈路安全性檢測考量的是生物識別系統(tǒng)從硬件協(xié)議到系統(tǒng)應用，再到云端服務整個鏈條的安全性。由于市面上已經(jīng)存在很多諸如替換視頻、篡改圖像等注入攻擊手段，對系統(tǒng)的安全性造成了很大的威脅，天璣實驗室聯(lián)合螞蟻集團安全攻防團隊一起研究了主流黑灰產(chǎn)是如何從系統(tǒng)層面、SDK層面和協(xié)議層面進行侵入的。
       以人臉識別為例：針對用戶終端設備攝像頭的攻擊，在系統(tǒng)驅(qū)動層篡改攝像頭獲取的人臉信息，主要途徑是利用黑產(chǎn)手中的手機虛擬視頻刷機工具，通過刷入特定的程序來劫持相機、攻擊人臉識別系統(tǒng)。鏈路安全性檢測，立足防Root手機注入、防攝像頭劫持、防篡改、不安全環(huán)境感知等多個方面，可以快速找到系統(tǒng)鏈路上的問題點，提前出預警提示，供送檢方修復，具有極強的指導性。
       2.4 防偽全面性
       呈現(xiàn)式攻擊一直是生物識別技術(shù)所面臨的主要偽造手段。呈現(xiàn)式攻擊指的是將人臉、指紋等攻擊元素通過物理、屏幕呈現(xiàn)的方式進行攻擊。指紋場景的呈現(xiàn)攻擊，以假指紋制作后物理呈現(xiàn)為主。而人臉場景，攻擊方式可以分為包含靜態(tài)紙質(zhì)與電子照片、動態(tài)圖像或視頻在內(nèi)的二維呈現(xiàn)攻擊，和包含面具、高精度頭模在內(nèi)的三維呈現(xiàn)攻擊。
       為了確保檢測的全面性，天璣實驗室擁有上百種指紋、人臉呈現(xiàn)材料，實驗室測評車間還具備光照色溫、光照強度、呈現(xiàn)距離、呈現(xiàn)角度等可控呈現(xiàn)條件。在一次呈現(xiàn)攻擊中，為了在上億種可能的呈現(xiàn)條件組合中找到攻擊成功率最高的那個，我們引入了強化學習算法，讓系統(tǒng)根據(jù)系統(tǒng)實時分數(shù)反饋，學習如何調(diào)整呈現(xiàn)距離、角度、光照強度、色溫等條件，系統(tǒng)根據(jù)一段時間的對抗，可以快速找到最佳的呈現(xiàn)攻擊組合條件，讓系統(tǒng)真正學會像人一樣去思考和檢測。        這套面向生物識別場景的全鏈路安全可信檢測的檢測指標和度量體系，一方面是根據(jù)國內(nèi)和國際標準設計，符合市場準入要求；另一方面，天璣實驗室作為Google全球唯一“Android生物安全檢測”官方合作實驗室，已持續(xù)為全球超70%的安卓手機型號提供生物安全檢測，豐富的檢測實踐也證明這套檢測指標和度量衡具備科學性和全面性，可以實現(xiàn)從技術(shù)模型到功能設備的不遺漏檢測，符合工業(yè)場景需求。
目前，這套全鏈路安全測評方案已成熟并面向行業(yè)開放，為國內(nèi)頭部知名手機廠商的旗艦手機、頭部生物識別解決方案供應商提供檢測服務。


       未來，螞蟻安全實驗室在生物識別安全檢測上會在幾個方面持續(xù)投入。
       第一，從對抗檢測到對抗攻防�，F(xiàn)在我們的檢測結(jié)果最終產(chǎn)出往往是一份可量化的檢測報告，對于被檢測方來說，并不能直接有效地提升自己的安全水位。如何充分利用強人工智能，采用智能對抗、強化學習等技術(shù)，讓檢測方能夠像人一樣思考，同時被檢測方也能夠在實時對抗的過程中不斷進化，以攻促防，才是我們做這個事情的根本目的。        第二，從功能測評轉(zhuǎn)向系統(tǒng)測評。一個完整的生物識別系統(tǒng)不僅僅是一個校驗功能，往往還包括生物特征模板留存和更新策略、多因子認證機制、風險決策引擎等。僅僅對指紋或者人臉功能的檢測，并不能代表系統(tǒng)的整體安全水位。如何結(jié)合智能對抗技術(shù)，找到不同環(huán)節(jié)和模塊的漏洞，評估系統(tǒng)性風險，是值得探索的方向。
       第三，生物識別安全中的社會責任。對于老年群體、殘障群體等特殊人群，生物識別方式的安全性體現(xiàn)有所不同。例如視障群體面臨的密碼偷窺，非配合刷臉等風險。如何用技術(shù)檢測生物識別產(chǎn)品對這類風險的防范程度，也是我們未來需要思考的問題。