科技日?qǐng)?bào)記者 劉艷

針對(duì)網(wǎng)絡(luò)暴力現(xiàn)象頻發(fā)，抖音宣布全面升級(jí)平臺(tái)預(yù)防網(wǎng)暴能力，成為國(guó)內(nèi)首個(gè)為用戶提供多場(chǎng)景預(yù)防網(wǎng)暴能力的平臺(tái)。

在互聯(lián)網(wǎng)平臺(tái)中，發(fā)布評(píng)論、私信是公眾對(duì)社會(huì)熱點(diǎn)事件和人物表達(dá)意見最主要的方式和場(chǎng)景，但因發(fā)布成本較低、傳播效率較高，也容易產(chǎn)生騷擾、人身攻擊、侮辱謾罵甚至誹謗造謠等行為。

數(shù)據(jù)顯示，抖音每天產(chǎn)生8億條評(píng)論，其中，被投訴、舉報(bào)并最終處理的不當(dāng)評(píng)論中，“謾罵，人身攻擊”占比32.79%。

因此，抖音從管理評(píng)論和私信兩個(gè)維度入手，為用戶提供一攬子服務(wù)。

針對(duì)評(píng)論，抖音即將上線國(guó)內(nèi)首個(gè)“發(fā)文警示”功能，引導(dǎo)用戶友善評(píng)論。

該功能下，若系統(tǒng)模型判定已經(jīng)發(fā)送的評(píng)論存在問題，會(huì)推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論。如果發(fā)送者堅(jiān)持發(fā)送，則該條評(píng)論不會(huì)在評(píng)論區(qū)出現(xiàn)。

在近期的小范圍測(cè)試中，該功能已經(jīng)日均減少約3萬條不當(dāng)評(píng)論。

在評(píng)論端，抖音還先后上線了“評(píng)論權(quán)限分層管理”“關(guān)鍵詞屏蔽”“評(píng)論精選”三項(xiàng)功能。

其中，用戶在使用“評(píng)論權(quán)限分層”時(shí)，可以通過“權(quán)限設(shè)置-高級(jí)設(shè)置-誰可以評(píng)論”設(shè)置評(píng)論權(quán)限，根據(jù)自身需求從“所有人”“僅粉絲”“僅互關(guān)朋友”“僅自己”四個(gè)選項(xiàng)選取誰可以對(duì)自己發(fā)布的內(nèi)容進(jìn)行評(píng)論。

在私信渠道，抖音新增“用戶風(fēng)險(xiǎn)提醒”和“負(fù)向內(nèi)容過濾”兩大功能。

該功能下，當(dāng)系統(tǒng)模型識(shí)別發(fā)現(xiàn)，用戶剛接收的陌生人私信存在風(fēng)險(xiǎn)時(shí)，會(huì)對(duì)用戶推送彈窗，提示其“是否認(rèn)識(shí)該用戶”。如果用戶選擇“不認(rèn)識(shí)”，系統(tǒng)會(huì)再次彈窗，提示用戶可進(jìn)行“拉黑、舉報(bào)、移除粉絲”等操作，確保自身安全。

目前，該功能日均對(duì)25萬次會(huì)話發(fā)出風(fēng)險(xiǎn)提示，引導(dǎo)用戶自主管理社交對(duì)象。

在“負(fù)向內(nèi)容過濾”功能下，當(dāng)模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會(huì)被直接放入“陌生人盒子—垃圾信息”中。截至目前，該功能已日均服務(wù)7萬用戶。

此外，抖音還推出了“心情暖寶寶”助手，根據(jù)用戶內(nèi)容情緒傾向，通過消息對(duì)話的交互方式，緩解用戶負(fù)向情緒。

抖音安全治理相關(guān)負(fù)責(zé)人表示，抖音上線的這一系列預(yù)防網(wǎng)暴的功能，提供了從私信到評(píng)論，從主動(dòng)管理發(fā)送者到接收者自我管理的多場(chǎng)景的服務(wù)能力，以努力實(shí)現(xiàn)從人到文（內(nèi)容），人文并舉的管理。

（圖片提供：字節(jié)跳動(dòng)）

關(guān)鍵詞：