互聯網的發展普及，改變了公眾獲取資訊的方式。而互聯網平臺出現內容井噴、信息爆炸，也使得內容安全風險日益增加，不斷威脅互聯網內容生態的健康發展。同時，運營者、開發者、平臺等多方也開始對內容體驗、內容安全提出更高的要求。

為了幫助開發者更好地理解、防控內容安全風險，騰訊繼推出“珊瑚內容安全助手”小程序后，現通過「微信開放社區 · 服務平臺」正式上線“珊瑚安全”API，將信息安全優勢能力開放給更多的小程序開發者，幫助發現圖片、文字內容里的惡意內容，提供更精細、更高效的內容安全服務。

精細化內容安全能力，向小程序開發者開放

“珊瑚安全”API目前為開發者提供圖片內容安全、文本內容安全兩大服務，支持對用戶在各種場景上傳的圖片、文本內容進行識別，開發者可按需選用色情、賭博、暴恐等惡意內容識別服務，并獲取到命中的惡意類型、風險概率等詳細信息，幫助開發者更精細化地做好內容審核工作。

圖片內容安全

圖片內容安全基于騰訊海量數據資源和深度學習技術，為用戶提供圖片內容的智能審核服務，不僅能幫助運營者、開發者降低內容違規風險，而且能大幅度節省人工審核成本，保護業務健康發展。

在用戶頭像、社區發圖、相冊制作、直播封面、信息流、電商、游戲等圖片審核應用場景中，該能力支持對色情、賭博、暴力恐怖等惡意內容進行識別，開發者可根據需要選用相應的識別服務，并獲取到命中惡意類型、風險概率等詳細信息。

文本內容安全

文本內容安全接口能夠識別文本信息中的色情、暴恐等惡意內容，幫助運營者及時、精準地防范違規風險。

該功能基于10萬級大規模敏感詞庫，結合多種文本對抗方法，運用深度學習技術，高效識別高危有害內容。同時還會根據大規模語料和實時反誤殺系統，不斷更新迭代，確保效果持續提升。

在用戶昵稱、社區評論、彈幕、文章內容等文本審核應用場景中，該能力可分級、分類識別文本惡意，并識別文本中涉及惡意的關鍵詞。

助力開發者，維護健康平臺生態

目前，微信小程序日活躍賬戶數已超3億，與微信一起“創造”的小程序及小游戲開發者已超150 萬。微信生態的繁榮發展，需要運營者、開發者和平臺的共同努力。

隨著小程序用戶的日益增多，開發者在用戶內容審核方面的投入也日益繁重。

針對開發者在內容安全審核上的痛點，騰訊于 2019 年 6 月推出微信首個移動端安全鑒別工具“珊瑚內容安全助手”小程序，讓運營者、開發者可以隨時隨地在小程序內檢驗文字、圖片的合規性，對內容識別的效果進行體驗，以及對自己的產品進行風險自測。

“珊瑚內容安全助手” 小程序讓運營者、開發者去體驗和理解內容安全風險，而“珊瑚安全”API則是讓運營者、開發者實現接入內容安全服務。

“珊瑚安全”API基于騰訊云AI、“云鸮”等內部優勢能力封裝，通過微信開放社區向開發者輸出。

騰訊安全專家表示，未來“珊瑚內容安全助手”將會繼續加強識別能力、豐富識別類型，在如今對圖片、文字的識別能力基礎上，增加對視頻內容的識別能力。此外，“珊瑚內容安全助手”小程序內將增加用戶反饋入口，開發者可隨時通過入口提交反饋。

目前，“珊瑚安全”API已經對接微信服務市場，包括“小年糕”“小打卡”“票圈長視頻”“有車群空間”等小程序現已接入使用。

“小年糕”小程序團隊表示，在有害內容管控方面，微信為開發者提供了一系列工具，幫助開發者自動化地篩選有害信息，防止有害信息的過度泛濫，不僅為開發者節省了時間，也有力促進了行業的內容安全。

“珊瑚安全”API將不僅提高開發者的內容審核能力，極大程度節約開發者在內容安全上投入的精力和成本，后續亦將重點提升適用微信生態安全要求的能力，共建健康繁榮的平臺生態。