速途網(wǎng)7月26日消息（報道：李楠）近日，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（以下簡稱“AIIA”）安全治理委員會成果發(fā)布會在北京順利召開。AIIA秘書長、中國信息通信研究院（以下簡稱“中國信通院”）院長余曉暉、工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)安全處處長雷楠、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧出席活動并致辭。AIIA總體組組長、中國信通院人工智能研究所所長魏凱主持本次會議。中國科學(xué)院自動化研究所、北京大學(xué)、北京郵電大學(xué)、對外經(jīng)濟貿(mào)易大學(xué)、郵儲銀行、百度、華為、騰訊、360、vivo、螞蟻、阿里、中國法學(xué)會、金杜律師事務(wù)所、斗象科技等近200名行業(yè)專家、高校學(xué)者以及企業(yè)代表參加會議。

余曉暉秘書長在歡迎辭中表示，當(dāng)前人工智能安全治理需要匯聚行業(yè)各方智慧和力量，共同完善人工智能安全風(fēng)險識別方法論，建立更為敏捷、精確的安全風(fēng)險識別機制，盡早、盡快發(fā)現(xiàn)風(fēng)險，加強人工智能安全評測技術(shù)工具的研究，通過技術(shù)來治理技術(shù)。

AIIA秘書長、中國信通院院長余曉暉

AIIA安全治理委員會專家委主任、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧在致辭中指出，為應(yīng)對當(dāng)前人工智能所帶來的安全挑戰(zhàn)，AIIA安全治理委員會重點圍繞人工智能的治理框架、風(fēng)險管理、內(nèi)生安全、安全應(yīng)用開展了大量的理論和技術(shù)研究工作。

AIIA安全治理委員會專家委主任、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧

AIIA安全治理委員會辦公室主任、中國信通院人工智能研究所安全與元宇宙部主任石霖向與會人員匯報了委員會近期的工作成果。在全體成員的共同努力下，委員會圍繞人工智能安全治理取得的了顯著成果，會上進行了一一發(fā)布。工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)安全處處長雷楠、中國信通院人工智能研究所所長魏凱、郵儲銀行軟件研發(fā)中心研發(fā)安全處負責(zé)人王齊峰、訊飛數(shù)碼科技有限公司副總裁楊娟、vivo軟件產(chǎn)業(yè)發(fā)展高級總監(jiān)曹宇瓊、螞蟻集團股份有限公司安全標(biāo)準(zhǔn)總監(jiān)林冠辰、第四范式政府事務(wù)總監(jiān)趙永飛等企業(yè)代表以及產(chǎn)業(yè)界50余家合作伙伴共同見證啟動了“人工智能安全守護計劃”（簡稱“智安計劃”），打造AI Guard品牌，將共同建立AI系統(tǒng)情報共享機制、AIGC真實性和可信賴來源互認機制，推動設(shè)立人工智能相關(guān)保險產(chǎn)品，提升國內(nèi)人工智能技術(shù)的服務(wù)提供方、使用方的安全防護能力。

會上進行了AIIA安全治理委員會專家聘任儀式，為專家委主任、副主任委員頒發(fā)聘書。

依托AIIA安全治理委員會，中國信通院在2024年上半年啟動了大模型安全、AIGC檢測、安全大模型、代碼大模型安全、生物特征識別安全等聯(lián)盟規(guī)范的制定和評估工作。會上，AIIA安全治理委員會評估結(jié)果正式公布，vivo、螞蟻、中數(shù)通、齊魯壹點、東方通、招商銀行、阿里云、海康威視、中移金科、百度網(wǎng)訊、馬上消費、科大訊飛、商湯等企業(yè)代表獲得證書。

北京大學(xué)法學(xué)院教授、北京大學(xué)人工智能研究院AI安全與治理中心主任張平，中國科學(xué)院自動化研究所研究員、國家新一代人工智能治理專家委員會委員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅，360集團副總裁張向征等專家圍繞人工智能安全治理的中國實踐及國際共識、大模型安全等內(nèi)容進行了主旨演講，深入剖析人工智能關(guān)鍵技術(shù)、內(nèi)容，探討國內(nèi)外人工智能安全治理現(xiàn)狀以及實踐經(jīng)驗。

在治理環(huán)節(jié)，與會專家重點圍繞人工智能治理規(guī)范與風(fēng)險管理展開了討論。AIIA安全治理委員會治理組組長呼娜英對治理組近期工作進行了匯報。治理組圍繞人工智能治理宏觀研究、人工智能應(yīng)用治理合規(guī)、人工智能賦能治理三個方面開展研究工作，旨在凝聚產(chǎn)業(yè)共識，形成服務(wù)我國人工智能產(chǎn)業(yè)發(fā)展的治理框架，促進人工智能典型應(yīng)用安全合規(guī)，探索人工智能賦能治理的最佳范式，推動產(chǎn)業(yè)生態(tài)向善發(fā)展。

中國法學(xué)會法治研究所研究員、中國法學(xué)會網(wǎng)絡(luò)與信息法學(xué)研究會副秘書長劉金瑞、北京市金杜律師事務(wù)所合伙人寧宣鳳、阿里研究院 AI 治理中心副主任王錚等專家圍繞大模型帶來的新興風(fēng)險及規(guī)制路徑、人工智能事前、事中、事后的風(fēng)險管理，以及大模型訓(xùn)練數(shù)據(jù)的安全治理等主題帶來了精彩專題演講。

在安全環(huán)節(jié)，重點圍繞人工智能原生安全、賦能安全展開討論。AIIA安全治理委員會安全組組長陳文弢對安全組近期工作進行了匯報。中國信通院人工智能所近半年來依托聯(lián)盟深度開展了大模型安全基準(zhǔn)測試工作，重點推動大模型安全加固能力建設(shè)，開展了大語言模型安全、圖文大模型安全、代碼大模型和人工智能賦能網(wǎng)絡(luò)安全等方面的技術(shù)規(guī)范研究，并推動了相關(guān)評測工作。同時發(fā)布了具備強魯棒性的隱式數(shù)字水印服務(wù)，提升大模型平臺的合規(guī)能力。

中國信通院人工智能所黑一鳴博士發(fā)布了自研的大模型安全加固解決方案。該能力通過模型微調(diào)、外掛安全知識庫等模式對開源大模型自身進行安全防護加固，在保持模型原有通用能力和推理效率的前提下，明顯增強了其抵御多種誘導(dǎo)攻擊的能力。該能力及相關(guān)數(shù)據(jù)底座仍在持續(xù)迭代升級中，具有很強的泛化能力。

北京郵電大學(xué)教授、博士生導(dǎo)師、網(wǎng)絡(luò)空間安全學(xué)院副院長張熙、郵儲銀行軟件研發(fā)中心副主任工程師宋寧、上海斗象信息科技有限公司 AI 攻防負責(zé)人肖朕等專家圍繞人工智能內(nèi)生安全、賦能安全方面進行了專題演講。

在圓桌討論環(huán)節(jié)，在AIIA安全治理委員會專家委副主任委員、中國信通院互聯(lián)網(wǎng)法律研究中心主任、國際電信聯(lián)盟人工智能學(xué)者何波主持下，對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可、華為戰(zhàn)略研究院人工智能治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪、騰訊研究院首席數(shù)據(jù)法律專家王融、百度集團人工智能業(yè)務(wù)法務(wù)合規(guī)負責(zé)人徐全全，以“新技術(shù)新應(yīng)用企業(yè)出海合規(guī)實踐”主題，圍繞企業(yè)合規(guī)治理等話題進行了深入地探討交流。

本次會議受到社會各界的廣泛關(guān)注和熱情參與，為新時代下我國新質(zhì)生產(chǎn)力、人工智能安全治理的共同發(fā)展凝聚了共識和力量。未來，AIIA安全治理委員會愿與各方協(xié)作，共同推進人工智能產(chǎn)業(yè)安全、健康發(fā)展。