網易易盾升級內容安全體系 發佈智能審覈管理系統

​​內容安全已成爲全球性互聯網生態治理難題。互聯網平臺多媒體內容爆發帶來海量信息的同時，也泥沙俱下裹挾有大量不良有害信息。

當內容平臺發展快速，就會被灰黑產盯上，視做「流量蜜罐」，利用其流量曝光機會，植入涉黃賭毒等不良信息，以及大量垃圾廣告等。據不徹底統計，2019年，有上千款應用和服務由於內容安全問題而遭遇下架關停等整改，業務發展遭受巨大損失。

2019年12月19日，網易易盾在北京成功舉辦2019內容安全智能體系發佈會，分享易盾對內容安全體系建設的前瞻思考，並正式發佈面向智能時代的審覈管理系統，有上百位企業內容風控相關人員參加這次活動，共同研討內容安全體系建設和實踐。

據調查，有害垃圾內容佔互聯網UGC內容量的3%左右。其中最多的是各種非法廣告類，其次是涉黃低俗類信息，以及涉賭涉毒信息。隨着內容的多媒體融合，5G等信息基礎設施的發展，互聯網內容也迎來大爆發，內容安全壓力越發嚴峻。​

網易易盾CTO朱浩齊

網易易盾CTO朱浩齊認爲，只有行業一塊兒努力，構建出智能驅動、統一聯動、個性定製、共建衆治的內容體系，才能全面高效地解決內容安全難題。

• 智能驅動：在新一代內容安全體系中，智能技術起着驅動引擎的做用。目前90%以上的海量實時多媒體內容均可以被智能技術精準識別過濾。天然語義、圖像識別、聲紋識別等都在內容安全領域有成熟完全的落地。
• 統一聯動：內容安全須要從源頭完全解決，就須要聯動帳戶安全，全鏈路聯動識別分析。採用驗證碼、註冊保護、登陸保護等反做弊技術、內容安全雲能力和本地審覈管理系統的聯動，能夠更有效下降有害內容的產生。
• 個性定製：直播短視頻、網絡文學、社交傳媒等各領域的內容監管規定不一樣，須要根據產品形態來靈活定製各自的內容安全策略。
• 共建衆治：有害內容是社會性難題。企業須要有效整合政府法律、技術服務、同行聯盟、用戶等多種力量共同防治，纔能有效打擊灰黑產，構建風清氣正的互聯網生態。

這次，網易易盾還發布了面向智能時代設計的審覈管理系統。
在將來很長時間內，內容安全依然是人機協同模式，各大平臺須要保有必定規模的人工審覈部門。但易盾在調研時，發現因爲審覈管理長久一直缺少相應通用規範，操做後臺長期得不到研發支持，大多數審覈管理系統存在操做繁瑣、設計陳舊、功能落後，甚至有些操做須要在多個後臺跳轉處理的問題。
相比較爆發式的內容增加和日趨嚴格的監管要求，審覈管理系統已成爲企業內容安全的最大短板，嚴重影響了審覈效率和安全要求。

網易易盾這次發佈的審覈管理系統是面向智能時代的審覈機制而設計，具備功能豐富、智能高效、輕量靈活、交互友好四大優點。

• 功能豐富：支持面向內容的預處理、多重審覈、質檢溯源全生命週期管理；面向不一樣業務場景如直播音視頻、長文檔等垂直場景都有專門的視頻模式。
• 智能高效：基於機器學習的聚類審覈，同類內容及時預警，審覈人員能夠快速過濾阻止擴散；高併發支持大規模審覈團隊同時操做，可智能分組排版。
• 輕量靈活：無技術支持也能夠快速接入，支持SaaS和私有化定製，客戶能夠靈活自定義內容接口、安全策略、外觀、業務模塊等。
• 交互友好：深刻審覈團隊研究交互習慣，優化界面交互、功能排列、操做流程。創建積分勳章等遊戲化設計，有效下降審覈疲憊。單手操做等無障礙輔助設計，讓殘障人士也能夠輕鬆操做。

網易易盾產品總監饒曉豔

網易易盾產品總監饒曉豔表示：「審覈人員是企業內容安全的重要保障力量，爲公司健康發展付出了不少，很是高興能夠爲審覈人員設計一套友好有溫度的管理系統，讓他們的工做更加輕鬆快捷。」
網易易盾脫胎於網易安所有，紮根內容安全領域已超過20年，2016年對外商用以來，已服務數千家企業，其中不乏OPPO/VIVO、B站、一直播等知名客戶，每日過濾有害信息超過十億條，目前已經是國內領先的內容安全和業務安全服務商。

點擊免費體驗網易易盾智能審覈管理系統。