輝禹商貿(深圳)有限公司(輝禹建築有限公司)

近年來，隨著Z世代社交習慣向線上遷移，越來越多的用戶選擇移動社交。iiMediaResearch(艾媒谘詢)數據顯示，2022年移動社交用戶規模將突破10億。音視頻社交軟件，如陌陌、探探、靈魂等已成為年輕人生活中不可或缺的一部分。

閑暇之餘，打開軟件刷一刷，是當代年輕人解決情感溝通、傾訴需求的一種方式。簡短的對話和友好的聲音讓他們信任電話後麵的人。但隱藏在手機背後的不僅是真實的用戶，還有伺機作惡的灰色產業。

據統計，全網活躍的音視頻社交應用超過2500個，主流應用市場超過1200個。但這些應用中存在色情推廣、廣告代理、對外導流、虛假詐騙等違法行為。比例達到15.7%。

正是因為這樣的不良動機，音視頻社交網絡公司頻頻收到相關負麵消息。正是由於缺乏對有害違法內容的洞察、缺乏內容管理能力，才無法徹底杜絕行業內的黑灰色內容。

彙宇科技正在不斷幫助社交APP打擊黑灰產業鏈。從行業角度來看，合規是所有深耕音視頻社交的企業必修的部分。加強自身監管的唯一途徑就是堅決打擊不規範內容。隻有這樣才能為用戶提供一個良性、安全的社交環境，讓用戶不再回避使用這些平台，真正成為能夠滿足用戶需求的解藥。

智能反黑生產模式，人機雙審及質檢優化

針對社交產品中的四類黑產品，慧魚科技通過全棧智能內容識別引擎和智能風控引擎加人工審核相結合的方式，共同治理平台問題。

通過我們的技術，APP版塊下的內容和數據將首先經過全棧智能內容識別引擎和實時智能風控引擎，篩選出可疑內容，然後通過人工審核，從而提高對不當內容的洞察力。

通過慧語自主研發的動態學習係統和持續優化的機器評論模型，能夠高效過濾複雜多變的信息，全麵分析文本情感，基於上下文快速批量判斷各種內容。集成的多媒體處理係統可以處理各種格式的文件。

智能反欺詐係統，精準打擊壞蘋果

針對用戶頻繁發布聯係方式向非法平台引流、以交換聯係方式、見麵等為借口頻繁索取禮物、利用網絡障礙等環境因素引流通訊環境等行為，從而導致非法操作，捏造平台規則文字或平台圖片、騙取贈品、索要對方賬號、利用對方賬號進行非法操作……我們建立了風險評分模型，對用戶特征進行評分，精準識別。

提取風險賬戶的行為數據後，如：登錄設備、賬戶行為、生命周期等，構建風險關係網絡，進一步校準和排查問題，不斷反饋優化模型，密切關注並對此類用戶進行根本原因分析。預處理。

該模式日均內容及處理量可達10W+，賬號數及處理量可達600+。針對不同風險等級的群體，實施定製化的內容安全分層管控策略。

人性化管理團隊，用戶安全的第二道防線

人工治理分析團隊對違法產品的形態、類型、內容進行分析，然後填補係統漏洞，優勢互補；質檢組則對違規產品內容進行攔截，對前端數據進行質檢和檢驗，通過質檢和檢驗，係統能力不斷提升。

針對反黑產品的內容審核不僅是音視頻社交媒體行業的獨特需求。現在越來越多的行業需要對一些不良內容進行維護和處理，有效區分高風險訪客並持續跟蹤各種風險。內容更有利於及時消滅苗頭，將其扼殺在搖籃中，避免造成更大的損失。

彙宇科技也在加強自身業務團隊的技術和團隊實力的同時，積極參與北京網絡行業協會、上海信息安全行業協會、信息服務行業協會等行業組織，不斷拓展行業合作資源和服務爭取為反黑灰行業貢獻一點力量。