11 月 30 日— 12 月 1 日，2022 騰訊數(shù)字生態(tài)大會(huì)在深圳召開，騰訊安全攜八款自研成果及背后的創(chuàng)新技術(shù)亮相，與生態(tài)伙伴共筑數(shù)字化安全新能力，探索以 ” 安全共生 ” 護(hù)航企業(yè) ” 行穩(wěn)致遠(yuǎn) “。

在12月1日下午舉行的騰訊安全先行者·新品發(fā)布會(huì)場(chǎng)上，騰訊安全天御內(nèi)容風(fēng)控總監(jiān)蔡飛以《攜手云原生，騰訊天御內(nèi)容安全運(yùn)營(yíng)中心全新亮相》為主題分享了內(nèi)容安全領(lǐng)域的風(fēng)險(xiǎn)與挑戰(zhàn)，以及騰訊天御內(nèi)容安全運(yùn)營(yíng)中心的最新應(yīng)對(duì)方案。

內(nèi)容安全面臨的風(fēng)險(xiǎn)和挑戰(zhàn)

隨著移動(dòng)終端與信息技術(shù)的快速發(fā)展，互聯(lián)網(wǎng)內(nèi)容愈發(fā)多元。從文字到圖片到語(yǔ)音再到視頻、直播，數(shù)字技術(shù)的時(shí)代洪流正沖刷出一幅豐富多彩的數(shù)字生活畫卷。同時(shí)，更加龐大和復(fù)雜的內(nèi)容安全隱患也伴隨而來(lái)。

對(duì)于數(shù)字內(nèi)容平臺(tái)和企業(yè)來(lái)說(shuō)，開展網(wǎng)絡(luò)生態(tài)治理刻不容緩，24小時(shí)不停歇的互聯(lián)網(wǎng)內(nèi)容安全攻防戰(zhàn)每日都在上演。內(nèi)容安全面臨的問(wèn)題與挑戰(zhàn)主要分為三個(gè)方向：

1. 違規(guī)內(nèi)容識(shí)別

數(shù)字內(nèi)容類應(yīng)用往往以用戶UGC內(nèi)容為主，用戶資料，圖文消息和音視頻數(shù)據(jù)大部分是由用戶自己上傳，很容易出現(xiàn)色情，低俗，辱罵等不良內(nèi)容。

2. 內(nèi)容治理成本

企業(yè)和個(gè)人開發(fā)者不太可能具備足夠的安全團(tuán)隊(duì)，建立功能完備的內(nèi)容審核系統(tǒng)，組建專門的運(yùn)營(yíng)團(tuán)隊(duì)。

3. 全球性業(yè)務(wù)合規(guī)

面向海外的業(yè)務(wù)場(chǎng)景，需要滿足不同國(guó)家地區(qū)的法規(guī)要求。

騰訊安全天御內(nèi)容風(fēng)控解決方案，三大特性守護(hù)內(nèi)容安全

騰訊安全天御內(nèi)容風(fēng)控解決方案，以人工智能為核心，通過(guò)風(fēng)控策略的靈活調(diào)度，打造覆蓋圖片、文本、音頻、視頻全內(nèi)容形態(tài)的 AI 智能內(nèi)容風(fēng)控服務(wù)，為網(wǎng)絡(luò)空間清朗保駕護(hù)航。

01  更簡(jiǎn)單：一鍵開通，自動(dòng)審核

在上云的業(yè)務(wù)架構(gòu)里，如電商、游戲或者教育業(yè)務(wù)通常會(huì)使用COS搭建數(shù)據(jù)存儲(chǔ)系統(tǒng)、使用VOD實(shí)現(xiàn)音頻視頻播放功能、基于TRCT云直播打造豐富多彩的音視頻互動(dòng)功能。

以往企業(yè)要對(duì)這些云組件類的數(shù)據(jù)進(jìn)行審核，需要通過(guò)各產(chǎn)品的SDK或者API獲取數(shù)據(jù)，完成數(shù)據(jù)的送審和處置，這對(duì)導(dǎo)致研發(fā)對(duì)接成本非常高。

在騰訊安全天御內(nèi)容風(fēng)控解決方案的新版本中，加強(qiáng)了內(nèi)容安全與其他云基礎(chǔ)產(chǎn)品的聯(lián)動(dòng)性，在控制臺(tái)一鍵開通、自動(dòng)實(shí)現(xiàn)數(shù)據(jù)審核。

在內(nèi)容安全的產(chǎn)品板塊里，騰訊安全對(duì)內(nèi)容識(shí)別能力進(jìn)行了技術(shù)架構(gòu)升級(jí)，通過(guò)原子能力模型產(chǎn)生更多內(nèi)容維度的特征，并且通過(guò)決策引擎實(shí)現(xiàn)對(duì)內(nèi)容、行為和賬號(hào)等多維度特征進(jìn)行綜合判斷，進(jìn)一步提升識(shí)別效果和運(yùn)營(yíng)的靈活性。

升級(jí)了安全運(yùn)營(yíng)服務(wù)，打造了對(duì)安全態(tài)勢(shì)的實(shí)施感知能力，對(duì)突發(fā)的安全事件可以及時(shí)上線策略進(jìn)行布控，并且定期組織紅藍(lán)對(duì)抗，優(yōu)化識(shí)別效果，確保云上的業(yè)務(wù)數(shù)據(jù)持續(xù)健康。

提供一套統(tǒng)一的運(yùn)營(yíng)功能集成到各個(gè)云產(chǎn)品，讓云產(chǎn)品的客戶可以更容易地管理審核策略和優(yōu)化審核效果。

新版本的核心目標(biāo)是將復(fù)雜的內(nèi)容審核功能和運(yùn)營(yíng)流程精簡(jiǎn)為一鍵開通、自助運(yùn)營(yíng)和數(shù)據(jù)看板三個(gè)關(guān)鍵功能給了客戶，以滿足快速接入、靈活調(diào)優(yōu)和對(duì)數(shù)據(jù)的可視分析的需求，極大地降低在內(nèi)容審核方面的研發(fā)和運(yùn)營(yíng)成本，讓上云企業(yè)能夠在產(chǎn)品研發(fā)和安全運(yùn)營(yíng)方面都能夠?qū)崿F(xiàn)降本增效的目的。

案例一：COS 全自動(dòng)審核模式

在COS 全自動(dòng)審核模式下，業(yè)務(wù)團(tuán)隊(duì)只需針對(duì)COS的存儲(chǔ)配置開通送審功能，并且進(jìn)一步配置對(duì)違規(guī)資源的處置規(guī)則，比如上傳的圖片如果包含低俗廣告，違規(guī)內(nèi)容時(shí)，就會(huì)自動(dòng)封禁。

對(duì)于數(shù)據(jù)的送審，違規(guī)數(shù)據(jù)的處置功能邏輯完全可以交給COS和天御內(nèi)部系統(tǒng)實(shí)現(xiàn)，真正實(shí)現(xiàn)零研發(fā)接入。并且伴云審核還有一個(gè)很獨(dú)特的優(yōu)點(diǎn)，由于COS和天域系統(tǒng)可以通過(guò)騰訊內(nèi)部網(wǎng)絡(luò)通信，因此客戶不需要承擔(dān)因?qū)徍讼螺d產(chǎn)生的費(fèi)用。

以圖片審核為例，這種審核模式可以為客戶節(jié)省大約20%的整體審核費(fèi)用。

在COS存儲(chǔ)場(chǎng)景下，當(dāng)出現(xiàn)新的審核需求時(shí)，可以在控制臺(tái)啟動(dòng)存量掃描能力，實(shí)現(xiàn)對(duì)歷史數(shù)據(jù)的全量清洗。

案例二：TRTC 全自動(dòng)審核，靈活方便，費(fèi)用更低

在天御內(nèi)容審核中臺(tái)中，內(nèi)置實(shí)現(xiàn)TRTC 的專屬審核模塊，全面對(duì)接TRTC的事件消息服務(wù)。通過(guò)實(shí)時(shí)監(jiān)聽房間創(chuàng)建，用戶進(jìn)退房等事件消息，實(shí)現(xiàn)對(duì)數(shù)據(jù)的自動(dòng)送審功能。

面對(duì)網(wǎng)絡(luò)中斷等異常情況，可實(shí)現(xiàn)自動(dòng)恢復(fù)，并且對(duì)重復(fù)數(shù)據(jù)進(jìn)行自動(dòng)去重。

在拉流審核模式方面，支持對(duì)單錄音視頻流進(jìn)行審核，也支持將多路音視頻數(shù)據(jù)混合成一路進(jìn)行審核。這種模式的切換可以實(shí)現(xiàn)自助配置，靈活調(diào)整，有效的平衡審核成本和業(yè)務(wù)風(fēng)險(xiǎn)。

02  更全面：超500種違規(guī)類型識(shí)別

新版本中第二個(gè)大特性，是審核能力的全面升級(jí)：

超過(guò)500多種的違規(guī)類型識(shí)別，整體提升了40%以上。

在識(shí)別粒度方面也進(jìn)行更加精細(xì)的拆分，通過(guò)更細(xì)的標(biāo)簽、靈活調(diào)整，以適應(yīng)不同行業(yè)的審核需求。

案例一：守護(hù)未成年人網(wǎng)絡(luò)內(nèi)容安全

在未成年人保護(hù)相關(guān)能力方面，提供了兒童邪典、未成年人低俗、未成年人不適宜表情包等十幾個(gè)標(biāo)簽。

支持對(duì)未成年人年齡屬性的輸出，讓業(yè)務(wù)可以根據(jù)屬性進(jìn)一步區(qū)分未成年人群體，從而制定不同的處置規(guī)則。

案例二：守護(hù)內(nèi)容平臺(tái)版權(quán)風(fēng)險(xiǎn)

近年來(lái)，各行各業(yè)的版權(quán)保護(hù)意識(shí)越來(lái)越強(qiáng)。例如，在有聲小說(shuō)業(yè)務(wù)場(chǎng)景中，用戶有可能上傳一些缺乏授權(quán)的素材，導(dǎo)致平臺(tái)方侵犯作者的權(quán)益，從而引發(fā)版權(quán)訴訟。

因此，在騰訊安全天御內(nèi)容風(fēng)控解決方案新的內(nèi)容審核產(chǎn)品中，新增了版權(quán)篩查的功能，幫助平臺(tái)進(jìn)一步降低版權(quán)的風(fēng)險(xiǎn)。

案例三：守護(hù)音視頻應(yīng)用本地化場(chǎng)景

對(duì)于國(guó)內(nèi)主打本地化場(chǎng)景的音視頻應(yīng)用，基于中文普通話構(gòu)建的安全識(shí)別能力，其效果會(huì)受地方方言影響大打折扣，因此騰訊安全天御內(nèi)容風(fēng)控解決方案在新版本里增加了超過(guò)20多種的國(guó)內(nèi)方言識(shí)別。

針對(duì)海外地區(qū)的業(yè)務(wù)場(chǎng)景，也新增了英語(yǔ)，日語(yǔ)，韓語(yǔ)和阿拉伯語(yǔ)等主流語(yǔ)言的識(shí)別，并且在海外部署了專門的業(yè)務(wù)節(jié)點(diǎn)，進(jìn)一步解決全球性的業(yè)務(wù)安全合規(guī)問(wèn)題。

值得注意的是，經(jīng)過(guò)多次的模型迭代，騰訊安全天御內(nèi)容風(fēng)控解決方案在隱晦違規(guī)元素的識(shí)別上也取得了較大的突破，例如變體字、行近字等干擾性強(qiáng)的違規(guī)內(nèi)容。對(duì)一些情感性、傾向性檢測(cè)的場(chǎng)景，即使是在嘈雜音背景下，也能對(duì)風(fēng)險(xiǎn)內(nèi)容進(jìn)行及時(shí)的應(yīng)對(duì)和處理。

03  更準(zhǔn)確：國(guó)內(nèi)權(quán)威認(rèn)證，全五星最高能力標(biāo)準(zhǔn)

騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)新版本今年六月份通過(guò)了中國(guó)信托院組織的專業(yè)評(píng)測(cè)，在文本、圖像、音頻、視頻四大類型的 16 項(xiàng)場(chǎng)景評(píng)測(cè)中均為滿分，斬獲“全五星”最高評(píng)級(jí)。

目前，騰訊安全天御風(fēng)控已為 1500 多家平臺(tái)提供內(nèi)容安全服務(wù)，共計(jì)審核圖片總量已突破 3000 億條，累計(jì)攔截不良內(nèi)容超 5 億條，更多次參與護(hù)航重大展會(huì)、峰會(huì)的內(nèi)容安全。