隨著環(huán)球影城走紅，阿里安全的圖像偽造檢測AI發(fā)現(xiàn)，有不法分子試圖通過偽造的環(huán)球獨家旅游咨詢點線下門臉圖像和“票務(wù)咨詢”電話進行欺詐牟利，經(jīng)AI技術(shù)迅速自動識別該門臉圖的PS痕跡，工作人員在線下地點再次進行人工審核，發(fā)現(xiàn)實際區(qū)域并無該咨詢點，且該“票務(wù)咨詢”電話為詐騙電話，于是攔截了這一申請。

 圖說：偽造圖像檢測AI發(fā)現(xiàn)用戶上傳的圖片存在修改痕跡

安全專家介紹稱，近年來大量詐騙違法人員引入偽造各類證件、轉(zhuǎn)賬記錄等技術(shù)手段實施詐騙，識別破解難度大幅增加。2月17日，阿里安全在天池平臺針對性上線篡改圖像檢測大賽，邀請各路安全技術(shù)人員參與“篡改截圖”比賽，考驗AI的防守性能。阿里高級安全專家渡明表示，舉辦此次大賽一方面旨在推進相關(guān)防篡改技術(shù)的進步，助力解決網(wǎng)絡(luò)詐騙的社會問題，另一方面也是為了給行業(yè)培養(yǎng)更多安全技術(shù)人才。

當前，國內(nèi)外學術(shù)屆對圖像篡改檢測的研究集中在自然圖像篡改檢測，但日常帶來風險損失的假圖通常是資質(zhì)證書、文案、截圖等，現(xiàn)有的篡改檢測方法直接應(yīng)用到這些新類型圖像時，準確性能大幅下降。

 圖說：偽造圖像檢測AI發(fā)現(xiàn)“營業(yè)執(zhí)照”的偽造痕跡

“若篡改檢測技術(shù)能得到推廣普及應(yīng)用，會很大程度遏制網(wǎng)絡(luò)詐騙?！倍擅鞣Q，希望通過真實場景中大量出現(xiàn)的篡改圖像檢測比賽，讓篡改檢測領(lǐng)域更加關(guān)注此類高風險篡改圖像，進而促進檢測技術(shù)進步。

中國人民大學計算機視覺方向的研究生鹿月與輪輝在2021年參加了阿里安全舉辦的AI挑戰(zhàn)者計劃第五期“偽造圖像的對抗攻擊”比賽，他們在比賽中沉淀的論文研究成果被計算機視覺三大頂會之一的ICCV收錄。之后，兩人又收到阿里安全的面試邀請，并最終獲得媒體安全團隊實習機會。

現(xiàn)在鹿月投入到了實習項目“盜圖識別”研究中，她對新研究能實際接入產(chǎn)業(yè)應(yīng)用而感到興奮，“比如我也注意到現(xiàn)在網(wǎng)絡(luò)上一張P圖就能編造很多假新聞和謠言，希望檢測技術(shù)能夠幫助發(fā)現(xiàn)這些假圖，識破謠言?！甭乖抡f。

據(jù)阿里安全介紹，目前新一代安全架構(gòu)核心技術(shù)偽造圖像檢測AI已經(jīng)應(yīng)用在聊天信息、資質(zhì)證明、物流風控、轉(zhuǎn)賬記錄、媒體內(nèi)容等領(lǐng)域的真實性檢測中。

“很開心以往的參賽選手能將研究和實際應(yīng)用結(jié)合，我們也希望以創(chuàng)新性的比賽培養(yǎng)更多技術(shù)人才，推動該領(lǐng)域的技術(shù)進展，從源頭以科技創(chuàng)新解決社會生產(chǎn)、生活的安全問題。”渡明說。