近日,中國信息通信研究院、內容科技產業(yè)推進方陣發(fā)布2022內容審核服務系統(tǒng)評測結果,騰訊安全天御內容風控系統(tǒng)在文本、圖像、音頻、視頻四大類型的16項場景評測中均為滿分,斬獲“全五星”最高評級。

(相關資料圖)

本次內容審核服務系統(tǒng)評測基于《網(wǎng)絡治理能力評估規(guī)范:第2部分-有害信息內容識別服務系統(tǒng)》,從內容識別系統(tǒng)的圖像、文本、音頻、視頻的智能識別基礎功能、性能兩個維度對產品進行評測,并根據(jù)性能測試結果評定星級。其中,5星是本次評測的最高能力標準。

獲得五星認證的難度相較往年有所提升。本次測評中增加了變體測試和對抗測試,同時測評樣本來源也進行更新,極短音頻、邊緣圖片等復雜場景增加,這對參與測評系統(tǒng)的內容識別精準性、識別策略靈活性也提出了更高的要求。騰訊安全天御內容風控系統(tǒng)在四大核心測評場景中均取得五星成績,足見其在內容安全領域的能力優(yōu)勢。

騰訊安全天御內容風控解決方案依托騰訊20多年黑灰產攻防經驗,以人工智能為核心,通過風控策略的靈活調度,打造覆蓋圖片、文本、音頻、視頻全內容形態(tài)的AI智能內容風控服務,為網(wǎng)絡空間清朗保駕護航。

在內容識別樣本維度,騰訊在多年產品運營過程中積累了萬億級違規(guī)樣本,覆蓋各個行業(yè)的數(shù)百種違規(guī)類型,并實時跟進監(jiān)管要求,能夠高效識別過濾涉黃、涉恐等違規(guī)內容;在底層算法維度,騰訊安全天御內容風控融合了數(shù)十種算法技術構建綜合識別模型體系,避免單一模型誤判,使機器審核識別準確率高達95%以上。

此外,隨著風控標準和內容對抗形態(tài)升級,騰訊安全天御內容風控體系也緊跟企業(yè)需求迭代升級,配合精細化標簽體系,并支持靈活的策略配置以適配不同的應用場景。

針對越來越多“語音轉文字”的社交場景,如IM聊天消息、多人語音通話、語音聊天室等,天御內容風控體系在精準識別低俗語音等違規(guī)內容同時,還可借助語音識別(ASR)引擎,轉譯語音內容,通過文本內容風控系統(tǒng),幫助用戶進一步處理社交場景中產生的音頻數(shù)據(jù)。

隨著各內容平臺多元功能和用戶屬性的演變,內容風控還涉及不同語種場景的分類檢測。目前,天御音頻審核系統(tǒng)在常見的普通話、英語外,還支持粵語、蒙語、藏語、維語、日語、韓語等小語種及方言的語音內容識別,大大提升了音頻審核覆蓋的廣度和深度,可有效應對新型對抗變異的內容形態(tài)。

資源交易、賬號交易、虛假兼職等廣告信息,往往混雜在海量真實信息中讓人難以分辨,并通過多種手段如同音字轉換、文字轉拼音等生成對抗變異內容。騰訊安全天御內容風控體系可分別提取內容形態(tài)中的關鍵元素,綜合視、音、圖、文審核能力進行識別過濾,對風險廣告進行及時的應對和處理。

目前,騰訊安全天御風控已為1500多家平臺提供內容安全服務,共計審核圖片總量已突破3000億條,累計攔截不良內容超5億條,更多次參與護航重大展會、峰會的內容安全。

【廣告】

（免責聲明：此文內容為廣告，相關素材由廣告主提供，廣告主對本廣告內容的真實性負責。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責，請自行核實相關內容。廣告內容僅供讀者參考。）

關鍵詞： 內容風控