日均攔截95%以上的導(dǎo)流欺詐行為、日均識別打壓搬運抄襲帖2.9萬條，日均3000+用戶參與平臺眾裁活動。近期，新型開放式社交平臺Soul App發(fā)布了《Soul第四季度生態(tài)安全報告》。

報告顯示，Soul通過AI識別和黑灰產(chǎn)識別技術(shù)上線動態(tài)查重功能和多項反詐機制，從技術(shù)研發(fā)、產(chǎn)品設(shè)計及多方協(xié)同打擊方面著手，建立嚴密的風控機制，并打造了由辨識真?zhèn)巍⑵脚_打擊、用戶宣導(dǎo)和治理眾裁四部分組成的循環(huán)反饋雙擎生態(tài)安全治理模式。2022年第四季度，Soul重點圍繞導(dǎo)流詐騙治理、綠色生態(tài)共建、虛假內(nèi)容打擊、一鍵防網(wǎng)暴等四大用戶安全生態(tài)專項開展治理，再次交出一份亮眼的成績單。憑借在生態(tài)安全治理方面的領(lǐng)先實踐，Soul受邀參與由中國互聯(lián)網(wǎng)協(xié)會調(diào)解工作委員會主辦的“2022網(wǎng)絡(luò)安全治理機制高峰論壇”，并入選《2022網(wǎng)絡(luò)安全運營服務(wù)機制及網(wǎng)絡(luò)反詐應(yīng)對報告》。

(資料圖片)

重拳出擊新型詐騙，配合公安機關(guān)成功打擊導(dǎo)流詐騙團伙

報告顯示，2022年四季度，Soul通過站內(nèi)官方賬號Soul反詐中心，在私信、廣場等多場景對用戶進行反詐安全提示，曝光達800余萬次。四季度，Soul上線1000多項風控策略，處罰100萬人次，導(dǎo)流外溢案件發(fā)案下降50%以上，日均攔截95%以上的導(dǎo)流欺詐行為，獲得用戶正向反饋超10萬次。另外，通過主動發(fā)現(xiàn)線索，Soul還配合公安機關(guān)成功打擊站內(nèi)導(dǎo)流詐騙團伙2個。

由于Soul本身不具備轉(zhuǎn)賬功能，因此，有一些不法分子想方設(shè)法將用戶吸引至第三方平臺，再實施詐騙。針對這一情況，Soul嚴厲打擊通過欺騙性手段，騙取用戶信任導(dǎo)流到站外的行為。特別是對于“投資”“刷單”“轉(zhuǎn)賬”和與支付相關(guān)的高危敏感字眼，Soul會在用戶對話頁面上及時彈出警示標志，甚至會給用戶發(fā)短信、打電話，通過及時提醒讓用戶遠離詐騙。同時，Soul還會在第一時間響應(yīng)用戶的舉報，核查并封禁涉嫌詐騙的賬號。

值得一提的是，Soul通過企業(yè)與政府多部門聯(lián)動，實現(xiàn)預(yù)警、勸阻、黑庫、情報等能力共享、協(xié)同打擊。及時阻斷和叫醒用戶，持續(xù)加強警企合作走訪提醒，提升平臺安全感。

在防范網(wǎng)絡(luò)詐騙方面，Soul還因勢而動，不斷升級，建立了更嚴密的風控體系，對不同群體“殺豬盤”詐騙實現(xiàn)精準打擊。同時，Soul還通過優(yōu)化用戶端及時提醒機制，防范用戶上當受騙。

創(chuàng)新安全生態(tài)治理新模式，日均3000+用戶參與共治眾裁

報告顯示，2022年第四季度，Soul在廣場治理中日均攔截1.8萬條軟色情內(nèi)容，日均處理違規(guī)用戶1000人次，日均帖子、評論舉報量較上季度下降30%，在群聊派對治理中，Soul日均中斷5000余條違規(guī)語音消息，日均攔截違規(guī)文字消息1.4萬條，日均梯度處罰違規(guī)2000多用戶。在低俗內(nèi)容和不良價值觀集中治理方面，Soul交出一份亮眼成績單。

構(gòu)建清朗的網(wǎng)絡(luò)空間，需要傳遞正確的價值觀。為了給用戶提供綠色清朗的社交環(huán)境，Soul長期對不良價值觀內(nèi)容開展專項整治，從內(nèi)容廣場、文字群組、群聊派對等多場景進行集中優(yōu)化，讓平臺充滿溫暖、友善的氛圍。

在Soul上，平臺用戶群體大部分是以95后、00后為代表的Z世代。對Z世代來說，一方面，他們反對說教式強制管束，另一方面，他們受教育程度越來越高、正能量十足，愿意承擔起社區(qū)自治責任。針對年輕一代的特點，Soul上線風紀委活動，邀請用戶對不良價值觀內(nèi)容進行打分，實施眾裁，風紀委活動得到用戶的積極響應(yīng)。數(shù)據(jù)顯示，目前已有2萬余名用戶成為風紀委成員，日均超3000成員參與其中。此外，針對低俗內(nèi)容，Soul在此前軟色情識別模型以及低俗色情識別模型的基礎(chǔ)上，于四季度又上線超過20條不良低俗內(nèi)容打壓策略，進一步精準識別，有效保護用戶。

升級“動態(tài)查重”功能，用戶對虛假內(nèi)容處理滿意度提升20%

在網(wǎng)絡(luò)空間，虛假不實內(nèi)容就像一顆顆煙幕彈，嚴重影響網(wǎng)絡(luò)安全生態(tài)治理。為更好地治理虛假不實內(nèi)容，2022年第三季度Soul首創(chuàng)“動態(tài)查重”功能，還發(fā)起《尊重原創(chuàng) 分享真實》公約(又稱《Soul Real》公約)，呼吁用戶參與原創(chuàng)內(nèi)容保護。

2022年第四季度，Soul對“動態(tài)查重”功能進行升級。例如，如果發(fā)布者的圖片曾在站內(nèi)廣場出現(xiàn)過，Soul不僅在其個人主頁對應(yīng)的內(nèi)容帖下方提示“該內(nèi)容曾在站內(nèi)出現(xiàn)過”，還在廣場詳情頁帖子下增加相應(yīng)展示，讓虛假、跟風內(nèi)容處處現(xiàn)形。此外，Soul還增加舉報入口，通過消息提醒原創(chuàng)作者對搬運內(nèi)容進行舉報維權(quán)，更好地保護原創(chuàng)者的合法權(quán)益。

報告顯示，四季度Soul官方風紀球長發(fā)布“保護原創(chuàng)、鼓勵真實”相關(guān)的宣傳科普內(nèi)容14篇，涉及違規(guī)處罰公示、安全標準宣導(dǎo)、真實公約等方面，總計曝光量達5252萬。該季度，Soul日均識別打壓搬運抄襲帖2.9萬，搬運抄襲相關(guān)舉報日均下降30%，用戶對虛假內(nèi)容處理的滿意度提升20%。

實現(xiàn)“一鍵防網(wǎng)暴”，強化“友善評論引導(dǎo)”

“惡語傷人六月寒”。在社交網(wǎng)絡(luò)中，時時出現(xiàn)的網(wǎng)絡(luò)暴力，成為傷人利器，也成為網(wǎng)絡(luò)生態(tài)的“毒瘤”。在網(wǎng)絡(luò)暴力治理方面，Soul打出了防治相輔的組合拳。

2022年第四季度，Soul上線了一鍵防網(wǎng)暴功能。在用戶遇到攻擊辱罵、低俗色情騷擾等情況下，Soul自動觸發(fā)“今日自閉”開啟提醒。用戶選擇開啟“今日自閉”功能后，將不再收到靈魂匹配、奇遇鈴和內(nèi)容廣場等場景中的陌生人信息。據(jù)統(tǒng)計，新功能上線后，每天嘗試使用自閉功能的用戶超3萬人。此外，Soul還在私聊對話、內(nèi)容廣場、游戲等不同場景與功能板塊，對辱罵攻擊、挑唆男女對立、地域歧視等網(wǎng)暴行為重拳出擊。此外，當用戶因為人身攻擊被舉報多次以后，Soul將限制用戶的評論功能并引導(dǎo)用戶簽署“友善互動聲明”，只有簽署后才能繼續(xù)發(fā)表評論，并且Soul在廣場內(nèi)容的發(fā)布中還啟動禁止評論功能，發(fā)布者可以自定義選擇可評論的用戶群體。

通過防治結(jié)合，Soul在網(wǎng)絡(luò)暴力治理方面也取得碩果，日均避免用戶遭受網(wǎng)暴與頻繁騷擾5000多次，日均處理私聊不文明行為用戶300多人，日均提醒引導(dǎo)私聊文明發(fā)言20萬次，日均發(fā)送友善評論提示900多次，累計簽署友善互動聲明的用戶達5萬余人。

在互聯(lián)網(wǎng)平臺，集聚著很多充滿活力、熱衷探索的青年人。對青年群體來說，他們是互聯(lián)網(wǎng)的深度參與者，也是互聯(lián)網(wǎng)清朗網(wǎng)絡(luò)空間的重要構(gòu)建者。Soul相關(guān)負責人表示，“對社交平臺來說，要肩負主體責任，通過積極的自治措施，增強用戶安全意識、引導(dǎo)網(wǎng)絡(luò)良好風氣。同時，提升平臺管控效率，強化用戶權(quán)益維護。”Soul定期發(fā)布《Soul季度生態(tài)安全治理報告》，不僅是向社會公示平臺安全與生態(tài)治理的舉措與階段性進展，也為互聯(lián)網(wǎng)平臺提供了網(wǎng)絡(luò)安全生態(tài)治理的寶貴經(jīng)驗。

關(guān)鍵詞： 生態(tài)安全