在12月24日舉行的“2021 GOLF+ IT新治理領導力論壇”上，中國信息通信研究院正式發布了“人工智能模型風險治理能力成熟度測評”的首批評估結果。由螞蟻集團（旗下支付寶）、招商銀行等企業送測的4個AI模型，成為首批通過風險治理成熟度測評的人工智能模型。其中，螞蟻集團送測的、基于可信AI技術的“智能金融犯罪風險防控模型”，在“AI模型全生命周期管理”、“應急響應”、“決策透明”三個測試項目中，均排名第一；并在考察AI可解釋性的“決策透明”項目中，獲得了本期測評的最高評級（卓越級）。

    數字時代，隨著人工智能技術的廣泛應用，為了更好地規范人工智能領域的科技活動，我國陸續發布了一系列法律和行政法規；在要求確保模型決策的安全可靠和公平公正的同時，也對企業內針對模型的風險管理和內控制度提出了具體要求。

    9月16日，九部委聯合制定的《關于加強互聯網信息服務算法綜合治理的指導意見》發布，針對算法治理提出要利用三年時間，逐步建立“治理機制健全”、“監管體系完善”、“算法生態規范”的算法安全綜合治理格局。人工智能模型風險治理作為“可信人工智能”技術發展中的重要環節，已經成為企業可信人工智能研究和應用的必要工作之一，企業應該實施切實有效的治理措施，快速靈活應對模型風險。

據悉，此次測評參照的標準是由中國信通院聯合20余家行業優秀企業和專家依托中國互聯網協會平臺聯合制定的《人工智能模型風險治理能力成熟度模型》。該標準聚焦企業人工智能模型風險治理，建立了一套圍繞人工智能模型的風險治理能力成熟度的治理框架。

測評圍繞“AI模型全生命周期管理”、“應急響應”、“決策透明”、“專利保護”、“模型安全影響評估”、“交互與溝通”、“外部合作”等板塊展開；對參評企業在可信人工智能領域，包括魯棒性、可解釋性、公平性、數據隱私保護等不同維度的技術能力及技術治理方案都做出了規范和要求。

作為首批通過測試的參評單位，螞蟻集團全面風險管理部高級專家楊舟也受邀參與了論壇分享。他表示，螞蟻集團本次送測的“智能金融犯罪風險防控模型”，此前已廣泛應用于反欺詐等金融犯罪風險防控領域，不僅在魯棒性、可解釋性、隱私保護、公平性等領域的技術創新及實踐應用上積累了豐富的經驗，在操作風險防控、模型全生命周期質量管控、模型使用管理等模型治理方面，也做出了許多積極探索。可信、智能模型風險管理體系已成為螞蟻全面風險管理的核心模塊。