直播內容不合規怎麼辦？智能AI爲您解決審覈難題

摘要： 近些年來，視頻直播快速發展，大量的直播平臺如雨後春筍通常出現，可是這一樣給直播內容的監管帶來了巨大的挑戰，一方面國家對於直播內容監管的要求日益嚴格，另外一方面相對於文字內容的審覈，多媒體內容的審覈複雜度更高，資源耗費也更大技術門檻相對也較高，因此這逐漸成爲制約直播服務健康發展的一個瓶頸，尤爲是對於一些剛剛起步的中小直播平臺。

背景

近些年來，視頻直播快速發展，大量的直播平臺如雨後春筍通常出現，可是這一樣給直播內容的監管帶來了巨大的挑戰，一方面國家對於直播內容監管的要求日益嚴格，另外一方面相對於文字內容的審覈，多媒體內容的審覈複雜度更高，資源耗費也更大技術門檻相對也較高，因此這逐漸成爲制約直播服務健康發展的一個瓶頸，尤爲是對於一些剛剛起步的中小直播平臺。

對於內容審覈，一些平臺仍是採用人肉審覈的方法，僱傭大量的直播審覈員，來從海量的直播視頻中尋找那些不合規的視頻，可是受限於人的精力，每每不能達到很好的效果，並且審覈人員的緊缺薪水也響應的水漲船高。

幸虧，人工智能的快速發展，給這個問題的解決帶來的起色，人工智能審覈+人工複審成爲主流。

傳統解決方案

有技術積累和人力的公司每每會本身組建本身的AI團隊，根據本身的業務場景和海量的資源來訓練本身的檢測模型，這樣優點是，可以對於本身的場景有更好的把控，可是也有一些缺點，好比：

• 用戶須要本身完成截幀的工做，這個簡單的工做可能耗費大量的計算資源
• 海量的圖片存儲和傳輸成本
• 受限於技術和人力的緣由，審覈算法精度不如人意

還不具有自建AI團隊的平臺每每使用第三方的圖片審覈的API，可是這樣對於算法的微調就比較困難，而且對於圖片的審覈並不具有上下文綜合判斷的能力。

直播審覈解決方案

阿里雲視頻直播審覈能夠完美的解決如上的問題，沒有很高的技術門檻，用戶能夠快速的在控制檯中開啓直播審覈的服務，解決中小直播平臺內容審覈的痛點。

直播審覈架構

1. 主播推流到視頻直播中心，觸發直播審覈任務
2. 對於直播流進行指定頻率的截幀
3. 實時的對於截幀經過內容審覈引擎進行綜合內容審覈
4. 結果交由管控服務進行綜合的判斷，是否須要通知客戶和保存證據截幀

直播審覈特性

開銷低

對於用戶透明，用戶能夠在控制檯上輕鬆的開啓視頻直播審覈服務，無需付出單獨的存儲，流量費用和計算成本，用戶經過自行構建或者使用咱們提供的直播審覈平臺能夠快速的進行問題和疑似視頻流的複審和封禁。

強大的算法支持

依賴於阿里巴巴多年的視頻和AI技術的積累，能夠快速方便的接入業界領先的直播審覈算法，同時採用多幀綜合斷定來下降誤檢測率。

多種場景支持

• 智能鑑黃
• 智能暴恐檢測
• 廣告檢測
• 無心義直播檢測(針對長期推流又無有意義內容的直播流)

檢測模型定製化

因爲用戶的需求多種多樣，場景也不盡相同，因此直播審覈提供了更彈性的解決方案，用戶能夠動態的對於每一路流給一個不一樣的審覈策略，算法模型也能夠根據不一樣的流採用不一樣的模型，這很是必要，由於不一樣的場景千差萬別，實踐中咱們發現有些直播流誤檢率很高。

好比拳擊比賽，常常被誤判成色情，由於這和絕大多數兩三我的就演完的小電影場景很是類似。

再好比遊戲場景，由於遊戲自己的場景是渲染出來的，紋理和正常的經過攝像頭採集的圖像有些不一樣，加上游戲不少就是被設計成有必定暴力成分在裏面，因此正確的區別遊戲和現實場景也是很是必要的，例如不少的場景很容易被錯誤認爲是暴恐。

因此必須根據場景對於不一樣的流進行算法細分，從而能夠挺高精確度，而且讓直播審覈更加實用。阿里雲視頻直播審覈提供了細緻到流級別的算法控制，更好的覆蓋這些場景。

靈活配置

能夠動態的對不一樣的流採用不一樣的檢測場景，不一樣的截幀頻率，截幀頻率最高能夠達到1s一幀，從而能夠對於不一樣的視頻流採用不一樣的監控強度，重點監控高危流，能夠進一步下降使用成本。

實用的輔助功能

實際應用中獨立的幾張圖片可能不足以做爲認定違規的強有力的證據，結合視頻直播平臺的實時錄製功能，能夠實時的對於已經發現有問題的流啓動錄製，蒐集證據，也方便人工複審

語音審覈

有些複雜的場景，好比涉政，可能主要的風險出如今言語上，並非視覺上；有些主播爲了不被視頻鑑黃抓到，退而求其次在言語上輸出一些不雅內容，這均可以用過阿里雲的語音識別來進行語音鑑黃，多維度的進行直播審覈。

綜述

阿里雲視頻直播審覈能夠方便的爲用戶提供直播視頻審覈的能力，大大的減小人力資源的耗費，提升審覈效率，歡迎登陸阿里雲官網，瞭解詳情並申請開通。

原文連接

閱讀更多幹貨好文，請關注掃描如下二維碼：