近日，西安交通大學(xué)與螞蟻集團(tuán)合作落地了國(guó)內(nèi)第一門以“可信AI理論及應(yīng)用實(shí)踐”為核心內(nèi)容的產(chǎn)學(xué)合作課程——《對(duì)抗性機(jī)器學(xué)習(xí)與人工智能安全》。課程是面向研究生和高年級(jí)本科生的專業(yè)性課程，共計(jì)32學(xué)時(shí)，3學(xué)分，由西安交通大學(xué)教授與螞蟻集團(tuán)技術(shù)專家共同講授。內(nèi)容圍繞“數(shù)據(jù)隱私保護(hù)”、“魯棒性（Robustness）”、“可解釋性與因果分析”、“公平性”四個(gè)部分進(jìn)行設(shè)計(jì)，涵蓋了可信AI領(lǐng)域中的重要技術(shù)理論以及應(yīng)用實(shí)踐。

基于理論研究與實(shí)踐積累，后續(xù)螞蟻集團(tuán)還將與清華大學(xué)、上海交通大學(xué)、浙江大學(xué)等高校合作定制特色課程；通過(guò)參與產(chǎn)學(xué)合作教育，支持高校推進(jìn)可信AI相關(guān)人才培養(yǎng)。

可信AI發(fā)展依賴人才體系建設(shè)

在人工智能被廣泛應(yīng)用的今天，其安全和可信性引發(fā)了社會(huì)各界的關(guān)注，已經(jīng)成為制約下一階段人工智能技術(shù)快速發(fā)展的瓶頸所在。早在2017年，國(guó)務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中，就將人工智能的安全可信性研究、評(píng)估和有效管理作為重點(diǎn)提及。

如何破解人工智能在數(shù)據(jù)使用、流轉(zhuǎn)過(guò)程中的安全性問(wèn)題？如何增強(qiáng)AI模型的抗打擊能力、穩(wěn)定性？如何破解AI決策過(guò)程的“黑盒”，增加人們對(duì)于決策結(jié)果的信賴度？如何防范因?yàn)閿?shù)據(jù)、算法問(wèn)題造成不公平性？可信AI技術(shù)研究，涉及人工智能中包括多方安全計(jì)算、智能對(duì)抗等多個(gè)細(xì)分技術(shù)域，并且對(duì)于技術(shù)的綜合性應(yīng)用提出了更高的要求。

課程負(fù)責(zé)人、西安交通大學(xué)網(wǎng)安學(xué)院副院長(zhǎng)沈超在采訪中指出，“真實(shí)工業(yè)場(chǎng)景中的問(wèn)題往往是多面和交錯(cuò)的，而高校傳統(tǒng)的學(xué)科教育則更側(cè)重于某一技術(shù)域的體系性和完整性。學(xué)生需要真實(shí)的場(chǎng)景案例，來(lái)幫助建立分析、解決綜合性問(wèn)題的能力?！蓖瑫r(shí)，課程的聯(lián)合負(fù)責(zé)人西安交通大學(xué)藺琛皓研究員也強(qiáng)調(diào)“可信AI的發(fā)展依賴于技術(shù)探索，而技術(shù)探索則來(lái)自于技術(shù)人才的培養(yǎng)。”

“及早建立對(duì)可信AI的關(guān)注和認(rèn)知，將有助于推動(dòng)高校參與可信AI技術(shù)研究，同時(shí)也能為產(chǎn)業(yè)培養(yǎng)更加‘接地氣’的綜合性人才”，本次課程講師、螞蟻安全天筭實(shí)驗(yàn)室內(nèi)容算法總監(jiān)?；奂驯硎尽?/p>

產(chǎn)學(xué)合作培養(yǎng) 可信AI走入高校

公開(kāi)資料顯示，自2015年起投入可信AI相關(guān)技術(shù)研究，螞蟻集團(tuán)在智能風(fēng)控、隱私保護(hù)、智能搜索等多樣化的數(shù)字服務(wù)場(chǎng)景中摸索建立了一整套“可信AI”技術(shù)理論及應(yīng)用體系，在探索技術(shù)實(shí)踐的同時(shí)，積極參與和推動(dòng)各類安全可信標(biāo)準(zhǔn)建設(shè)。

國(guó)際專利權(quán)威機(jī)構(gòu)IPR daily在今年6月發(fā)布的《人工智能安全可信關(guān)鍵技術(shù)專利報(bào)告》中指出，螞蟻集團(tuán)旗下的支付寶在該領(lǐng)域?qū)＠暾?qǐng)及授權(quán)數(shù)上均位列全球第一；其基于可信AI技術(shù)研發(fā)的反欺詐模型，也成為業(yè)內(nèi)首個(gè)通過(guò)國(guó)家金融科技測(cè)評(píng)中心測(cè)評(píng)的人工智能算法金融應(yīng)用，在安全性、性能、可解釋性等方面均以高標(biāo)準(zhǔn)通過(guò)。

其實(shí)不僅螞蟻，各家互聯(lián)網(wǎng)大廠和研究機(jī)構(gòu)，也在積極投入可信AI相關(guān)技術(shù)領(lǐng)域的討論和研究。

2020年，商湯率先成立了人工治理倫理委員會(huì)，從算法、數(shù)據(jù)以及社會(huì)影響三個(gè)方面旗下產(chǎn)品線進(jìn)行倫理審核。2021年，中國(guó)信通院與京東探索研究院聯(lián)合發(fā)布《可信人工智能白皮書》，對(duì)可信AI技術(shù)及行業(yè)發(fā)展提出建議。同年10月，哥倫比亞大學(xué)數(shù)據(jù)科學(xué)研究院主任周以真在權(quán)威期刊《ACM通訊》上發(fā)表文章《可信人工智能》，介紹「可信AI」的定義與研究意義。

作為學(xué)界和工業(yè)界研究的熱點(diǎn)問(wèn)題，此次可信AI的前沿技術(shù)理論和實(shí)踐案例走入高校，既是響應(yīng)國(guó)家“產(chǎn)學(xué)合作人才培養(yǎng)”的號(hào)召、促進(jìn)人才培養(yǎng)與產(chǎn)業(yè)接軌，也為可信AI技術(shù)領(lǐng)域的多維發(fā)展做出了先行示范作用。