全球知名權威科技刊物《麻省理工科技評論(MIT)》最新發布報告顯示,數字經濟時代,以“Deepfake”為代表的深度換臉技術更加智能化和高度真實化。當前,深度偽造技術被非法用于經濟、政治、社會等領域,形成嚴重危害,深度偽造檢測面臨更大挑戰。研究發現,相比傳統防偽技術,來自中國的馬上消費技術團隊的防偽大模型,已成為大模型時代深度防偽新機遇。

2025年,AI深度偽造很可能成為“全球首要風險”。今年年初世界經濟論壇發布《2024年全球風險報告》預測,AI生成的錯誤信息和虛假信息被列為“未來兩年全球十大風險”之首,其會使本就兩極分化、沖突頻發的全球形勢進一步惡化。

馬上消費人工智能研究院院長陸全近期表示,Sora無疑是技術領域的一次重大突破,但也會降低AI偽造門檻,潛在引發Deepfake等黑色產業鏈滋生蔓延。防偽大模型為金融黑產提供了先進武器。據測算,2023年,國內黑產欺詐引發的經濟損失達1149億元,金融業務欺詐金額達75億元,國家監管機構持續預警,金融機構聲譽嚴重受損,金融客戶合法權益不時受到侵害。

聚焦到金融行業,Deepfake主要構成身份欺詐,即通過深度偽造的虛假圖像和視頻來冒充他人,騙過金融信貸流程中的身份核驗系統,進而實施盜刷、惡意注冊等。得益于防偽大模型的技術突破,金融行業目前對Deepfake有了比較成熟的解決方案。

一方面,源于Chain of thought 思維鏈技術。防偽大模型擁有前所未有的編碼能力,通過編碼進行概念延申和推理,充分掌握圖片細節所蘊含的內在信息。在關于圖像輸入的因果推理能力的測試中,Gemini Pro和 GPT-4 在未經過防偽專項增強時,能夠對偽造人臉指出其毛發、皮膚、背景等諸多細節問題,如“福爾摩斯”一般,這代表大模型對圖片理解能力的顯著提升。

另一方面,Scaling law 規模效應顯現。防偽大模型具有大模型的一般特點,即數據的有效增長可以促進模型能力的同步提升。隨著深度偽造數據的積累和錄入,防偽大模型的域外能力在顯著增強,這種增強相較于傳統專家模型是數以百倍的提升。

馬上消費技術專家認為,防偽大模型構建頂級的多模態生物核驗與防偽平臺,具有巨大潛力和實用價值,不僅提升了安全性和效率,還為千行百業的發展和用戶體驗帶來了積極變化。同時,馬上消費已將防偽大模型引入日常風控反欺詐管理流程中,呈現迭代周期短、攔截性能強、可解釋性強等特性,大幅提升用戶體驗,實現了人機協同的金融防偽新應用模式。