速途網訊 近日螞蟻集團基于可信AI技術研發的反欺詐模型，正式通過國家金融科技測評中心（銀行卡檢測中心）的技術測評，成為業內首個完成國家級金融權威機構測評的人工智能算法金融應用。
該次送檢的模型名為“欺詐風險識別模型”及其相關系統，是螞蟻集團基于人工智能前沿技術開發，能夠自動貼合用戶行為特征，自動預測分析交易支付中的異常行為及欺詐風險程度，并根據不同的風險分值，實時輸出彈窗提示、問卷答題、語音交互、叫醒熱線等不同的交互勸阻手段，確保支付寶用戶的資金及交易安全，并將對用戶的干擾降到最低。
國家金融科技測評中心是中國人民銀行總行批準成立的中國金融行業權威檢測機構，近期依據中國人民銀行發布的《人工智能算法金融應用評價規范》，面向全社會開放“人工智能算法金融應用”的檢測工作，從算法對多種攻擊的防范能力、建模全流程的可解釋性、算法精準性和性能等近百個項目評價算法是否滿足金融應用要求。
近年來，人工智能作為全球關注的新興技術，廣泛應用到風控反欺詐、身份核驗等金融科技場景，但伴隨行業智能化發展，算法黑箱、安全問題等也不斷出現。今年3月，中國人民銀行發布并實施《人工智能算法金融應用評價規范》，首次對人工智能的安全可信應用明確了行業標準，要求應用AI算法需滿足安全性、可解釋性等基本要求。
據了解，螞蟻集團此次送檢的“欺詐風險識別模型”及其相關系統，在安全性、精準性和性能等各項檢測中均以高標準獲得了通過，在算法可解釋性方面的檢測表現較為突出。
中國工程院院士陳左寧曾表示，當前，對于技術的需求就是將可解釋性融入軟件環境中，第一是為現有軟件框架增加可解釋技術接口，第二是將“人-AI”系統結合，把人對事情的解釋跟整個模型融合，提升模型的可調式性和透明度。
據了解，這套“螞蟻反欺詐智能風險感知與響應系統”，基于可信AI技術，借助“圖神經網絡”、“博弈攻防”、“交互式主動風控”等創新應用，可實現“信息泄露防治-風險預警分析-異常操作捕捉-風險交易攔截-線下精準打擊”全鏈路的欺詐防控和追溯可視，屬于行業首創，日均成功保護潛在被騙資金1500萬，極大遏制平臺電詐發生率。
螞蟻集團自2015年起投入可信AI技術的研究，2016年全面啟動人工智能風控防御戰略，目前已在反欺詐、反洗錢、反盜用、企業聯合風控、數據隱私保護在內的多個場景落地，并形成了新一代“IMAGE風控體系”，支撐全風險域的防控。
