知物由學 | 社交風控中遇到的問題，能夠用這些手段進行「圍追堵截」

「知物由學」是網易易盾打造的一個品牌欄目，詞語出自漢·王充《論衡·實知》。人，能力有高下之分，學習才知道事物的道理，然後纔有智慧，不去求問就不會知道。「知物由學」但願經過一篇篇技術乾貨、趨勢解讀、人物思考和沉澱給你帶來收穫的同時，也但願打開你的眼界，成就不同的你。固然，若是你有不錯的認知或分享，也歡迎在「網易易盾」公衆號後臺投稿。

---

愈來愈多產品被注入社交屬性

用戶社交場景，並不只僅存在於QQ、微信等傳統型社交類產品，影音、娛樂類等愈來愈多行業的APP也都被注入社交屬性。隨着用戶量，用戶活躍進一步提高，這些平臺的一系列業務安全問題也隨之而來。

不過，用戶社交場景的風控卻和咱們熟知的電商、支付類場景不一樣，雖然不涉及直接資損，但用戶社交行爲所產生的內容、熱度，卻對產品口碑、聲譽有着相當重要的影響。
典型的例子就是網易雲音樂的優質熱評，呈如今廣大用戶面前每每深刻人心，對於產品口碑來講有莫大的幫助。

其實用戶社交場景能夠這樣分

我認爲，用戶社交能夠分爲如下兩大類：UGC 和非UGC。比較典型的UGC類用戶場景有社區評論、私信、留言、直播產品彈幕等；而非UGC類用戶社交場景有社區評論、文章、內容點贊、收藏、投票，用戶粉絲關注等。

上述業務場景因爲用戶參與度高，因此也很是容易被黑灰產用來獲利。當有用戶須要漲粉、給平臺裏的用戶發廣告等需求時，就會藉助各種營銷助手工具進行批量羣發、刷量、引流等操做。 

刷量、引流、羣發的軟件每每也很便宜，價格基本從600到1000元不等。由此，咱們能夠想象到平臺用戶社交UGC 和非UGC 類型場景都逃不開被刷的命運。

刷量、引流、羣發軟件都幹了什麼
​

一、用戶私信-騷擾問題

騷擾內容，從廣告，到撩騷應有盡有，絕大部分都是引流到站外，一旦用戶被引流到站外後極易發生用戶被欺詐，被騙的狀況。當用戶遭受資金損失，來向平臺投訴時，因爲欺詐環節不是發身在本平臺，平臺除了建議用戶報警，並針對相關私信內容進行敏感詞過濾，能作的實在有限，而且也是相對滯後的。

以及咱們對此類內容聚合以後看到的：

二、評論-與主題無關

用戶評論因爲對外展現，平臺會針對違規內容進行比較嚴格管控因此，涉黃、涉政、廣告等違發違規信息比較難有可乘之機。

但一些無心義灌水，與所評論主題無關的評論內容過分氾濫，很難引發用戶共鳴，不利於優質內容的呈現，埋沒了真正走心，高質量的評論。想要經過優質評論等內容提高產品品質，就變的困難。 

三、關注-垃圾粉絲

垃圾小號批量關注用戶，目前已知的動機可能有兩個，一是部分用戶，爲佔有更多平臺資源進行刷粉，提高影響力；另外，垃圾小號關注也是騷擾的前期準備，爲後期發送垃圾內容作鋪墊。前者，虛假粉絲必然會形成平臺資源分配過分不公平，以及資源浪費。後者，形成用戶騷擾，相關危害你們確定清楚，這裏不作贅述。

​

咱們看到——平臺各種用戶社交相關數據被刷，以及平臺刷量工具的流通。咱們看不到——下游黑灰產資源豐富，好比各種改機/羣控工具，各種一鍵新機等工具被用來篡改設備信息，以規避平臺操做限制。

羣控工具用來進行低成本多設備，批量操做。在好比各種接碼平臺，專業接收平臺註冊用的手機短信驗證碼，用戶無需使用本身本人手機號，經過平臺，就能完成手機號和短信驗證碼的校驗。打碼平臺，幫助用戶搞定各類文字，圖形驗證碼。再有各種秒撥、代理IP，每一次斷線重連就會獲取一個新的IP，此類IP池巨大，而且難以與正經常使用戶區分。

如何解決？

目前UGC類的用戶社交場景，好比評論，私信等。常規操做是之內容檢測爲主，根據內容違規程度再進行不一樣梯度的帳號處罰，而後再提煉相關違規關鍵詞，進行風控策略查補。

但不管是刪除內容，仍是處罰帳號都屬於過後風控。不良內容對於用戶、平臺都已經產生影響，很難挽回。而且，目前違規內容，不會一成不變，咱們始終在違規內容出現以後纔會進行策略升級，相對被動。再好比像上面提到評論場景，與主題無關，屬於明顯灌水的內容，難度就更大，而且很難與正經常使用戶發表內容進行區分，單純採用內容識別的方法，容易誤傷正經常使用戶。

然而像點贊、投票這類用戶社交場景，沒有UGC內容，因此想從內容上進行防控就更難發揮效果。 
我我的認爲，能夠採起如下幾個手段進行「圍追堵截」：

一、UGC類的用戶社交場景，能夠在內容識別的基礎上，對用戶設備、行爲進行分析、判斷，不只能對機器灌水，發騷擾私信等不良社交行爲進行有效識別，也能規避內容相關關鍵詞策略更新的滯後性；

二、點贊、投票等場景更加依賴於對用戶設備、行爲的判斷。須要保證設備識別的精準、高穩定性，這樣才能檢測出使用篡改設備，各種工具操做的刷票、刷熱度的用戶，避免影響活動公平性，社會輿情等不良事件的發生。

三、對平臺用戶進行用戶畫像。用戶畫像可依據一段週期內，發佈違規內容的類型，違規次數，被處罰次數等維度創建。同時也能夠創建正向用戶畫像，好比用戶一段週期內，高熱度內容狀況，以及高質量粉絲數，發佈內容狀況等方面來進行評分。以上數據，須要保持動態更新。 

四、在對用戶操做行爲進行分析，提取特徵的同時，須要緊密貼合業務場景的特徵，不能簡單粗暴的針對用戶帳號、設備、IP等維度的高頻操做一刀切，一旦誤報也是極其影響用戶體驗。

五、對惡意用戶名單維護也須要，進行按期，抽檢，清洗，保證惡意用戶名單有效。除非和高敏感內容有關用戶，其他類型建議根據實際狀況處理，不建議永久加黑。 

六、業務側須要創建持續、有效的數據監控，不管是單純從業務數據量，仍是內容上，甚至外部輿情監控也十分必要，只有這樣才能與黑灰產進行持久對抗。

七、任何風控手段不可能徹底清退刷量行爲，以及不良內容，咱們須要作的只是不斷提高識別手段，並對類用戶和數據保持嚴密監控，把相關影響控制在可控範圍（文/易盾實驗室）。

​

歡迎點擊免費體驗網易易盾安全解決方案。​​​​