日均攔截95%以上的導(dǎo)流欺詐行為、日均識別打壓搬運抄襲帖2.9萬條,日均3000+用戶參與平臺眾裁活動……近期,新型開放式社交平臺SoulApp發(fā)布了《Soul第四季度生態(tài)安全報告》。
報告顯示,Soul通過AI識別和黑灰產(chǎn)識別技術(shù)上線動態(tài)查重功能和多項反詐機(jī)制,從技術(shù)研發(fā)、產(chǎn)品設(shè)計及多方協(xié)同打擊方面著手,建立嚴(yán)密的風(fēng)控機(jī)制,并打造了由辨識真?zhèn)?、平臺打擊、用戶宣導(dǎo)和治理眾裁四部分組成的循環(huán)反饋雙擎生態(tài)安全治理模式。2022年第四季度,Soul重點圍繞導(dǎo)流詐騙治理、綠色生態(tài)共建、虛假內(nèi)容打擊、一鍵防網(wǎng)暴等四大用戶安全生態(tài)專項開展治理,再次交出一份亮眼的成績單。憑借在生態(tài)安全治理方面的領(lǐng)先實踐,Soul受邀參與由中國互聯(lián)網(wǎng)協(xié)會調(diào)解工作委員會主辦的“2022網(wǎng)絡(luò)安全治理機(jī)制高峰論壇”,并入選《2022網(wǎng)絡(luò)安全運營服務(wù)機(jī)制及網(wǎng)絡(luò)反詐應(yīng)對報告》。
【資料圖】
重拳出擊新型詐騙,配合公安機(jī)關(guān)成功打擊導(dǎo)流詐騙團(tuán)伙
報告顯示,2022年四季度,Soul通過站內(nèi)官方賬號Soul反詐中心,在私信、廣場等多場景對用戶進(jìn)行反詐安全提示,曝光達(dá)800余萬次。四季度,Soul上線1000多項風(fēng)控策略,處罰100萬人次,導(dǎo)流外溢案件發(fā)案下降50%以上,日均攔截95%以上的導(dǎo)流欺詐行為,獲得用戶正向反饋超10萬次。另外,通過主動發(fā)現(xiàn)線索,Soul還配合公安機(jī)關(guān)成功打擊站內(nèi)導(dǎo)流詐騙團(tuán)伙2個。
由于Soul本身不具備轉(zhuǎn)賬功能,因此,有一些不法分子想方設(shè)法將用戶吸引至第三方平臺,再實施詐騙。針對這一情況,Soul嚴(yán)厲打擊通過欺騙性手段,騙取用戶信任導(dǎo)流到站外的行為。特別是對于“投資”“刷單”“轉(zhuǎn)賬”和與支付相關(guān)的高危敏感字眼,Soul會在用戶對話頁面上及時彈出警示標(biāo)志,甚至?xí)o用戶發(fā)短信、打電話,通過及時提醒讓用戶遠(yuǎn)離詐騙。同時,Soul還會在第一時間響應(yīng)用戶的舉報,核查并封禁涉嫌詐騙的賬號。
值得一提的是,Soul通過企業(yè)與政府多部門聯(lián)動,實現(xiàn)預(yù)警、勸阻、黑庫、情報等能力共享、協(xié)同打擊。及時阻斷和叫醒用戶,持續(xù)加強(qiáng)警企合作走訪提醒,提升平臺安全感。
在防范網(wǎng)絡(luò)詐騙方面,Soul還因勢而動,不斷升級,建立了更嚴(yán)密的風(fēng)控體系,對不同群體“殺豬盤”詐騙實現(xiàn)精準(zhǔn)打擊。同時,Soul還通過優(yōu)化用戶端及時提醒機(jī)制,防范用戶上當(dāng)受騙。
創(chuàng)新安全生態(tài)治理新模式,日均3000+用戶參與共治眾裁
報告顯示,2022年第四季度,Soul在廣場治理中日均攔截1.8萬條軟色情內(nèi)容,日均處理違規(guī)用戶1000人次,日均帖子、評論舉報量較上季度下降30%,在群聊派對治理中,Soul日均中斷5000余條違規(guī)語音消息,日均攔截違規(guī)文字消息1.4萬條,日均梯度處罰違規(guī)2000多用戶。在低俗內(nèi)容和不良價值觀集中治理方面,Soul交出一份亮眼成績單。
構(gòu)建清朗的網(wǎng)絡(luò)空間,需要傳遞正確的價值觀。為了給用戶提供綠色清朗的社交環(huán)境,Soul長期對擦邊低俗、拜金炫富、挑唆男女對立等不良價值觀內(nèi)容開展專項整治,從內(nèi)容廣場、文字群組、群聊派對等多場景進(jìn)行集中優(yōu)化,讓平臺充滿溫暖、友善的氛圍。
在Soul上,平臺用戶群體大部分是以95后、00后為代表的Z世代。對Z世代來說,一方面,他們反對說教式強(qiáng)制管束,另一方面,他們受教育程度越來越高、正能量十足,愿意承擔(dān)起社區(qū)自治責(zé)任。
針對年輕一代的特點,Soul上線風(fēng)紀(jì)委活動,邀請用戶對不良價值觀內(nèi)容進(jìn)行打分,實施眾裁,風(fēng)紀(jì)委活動得到用戶的積極響應(yīng)。數(shù)據(jù)顯示,目前已有2萬余名用戶成為風(fēng)紀(jì)委成員,日均超3000成員參與其中。此外,針對低俗內(nèi)容,Soul在此前軟色情識別模型以及低俗色情識別模型的基礎(chǔ)上,于四季度又上線超過20條不良低俗內(nèi)容打壓策略,進(jìn)一步精準(zhǔn)識別,有效保護(hù)用戶。
升級“動態(tài)查重”功能,用戶對虛假內(nèi)容處理滿意度提升20%
在網(wǎng)絡(luò)空間,虛假不實內(nèi)容就像一顆顆煙幕彈,嚴(yán)重影響網(wǎng)絡(luò)安全生態(tài)治理。為更好地治理虛假不實內(nèi)容,2022年第三季度Soul在業(yè)內(nèi)首創(chuàng)“動態(tài)查重”功能,還發(fā)起《尊重原創(chuàng) 分享真實》公約(又稱《SoulReal》公約),呼吁用戶參與原創(chuàng)內(nèi)容保護(hù)。
2022年第四季度,Soul對“動態(tài)查重”功能進(jìn)行升級。例如,如果發(fā)布者的圖片曾在站內(nèi)廣場出現(xiàn)過,Soul不僅在其個人主頁對應(yīng)的內(nèi)容帖下方提示“該內(nèi)容曾在站內(nèi)出現(xiàn)過”,還在廣場詳情頁帖子下增加相應(yīng)展示,讓虛假、跟風(fēng)內(nèi)容處處現(xiàn)形。此外,Soul還增加舉報入口,通過消息提醒原創(chuàng)作者對搬運內(nèi)容進(jìn)行舉報維權(quán),更好地保護(hù)原創(chuàng)者的合法權(quán)益。
報告顯示,四季度Soul官方風(fēng)紀(jì)球長發(fā)布“保護(hù)原創(chuàng)、鼓勵真實”相關(guān)的宣傳科普內(nèi)容14篇,涉及違規(guī)處罰公示、安全標(biāo)準(zhǔn)宣導(dǎo)、真實公約等方面,總計曝光量達(dá)5252萬。該季度,Soul日均識別打壓搬運抄襲帖2.9萬,搬運抄襲相關(guān)舉報日均下降30%,用戶對虛假內(nèi)容處理的滿意度提升20%。
實現(xiàn)“一鍵防網(wǎng)暴”,強(qiáng)化“友善評論引導(dǎo)”
“惡語傷人六月寒”。在社交網(wǎng)絡(luò)中,時時出現(xiàn)的網(wǎng)絡(luò)暴力,成為傷人利器,也成為網(wǎng)絡(luò)生態(tài)的“毒瘤”。在網(wǎng)絡(luò)暴力治理方面,Soul打出了防治相輔的組合拳。
2022年第四季度,Soul上線了一鍵防網(wǎng)暴功能。在用戶遇到攻擊辱罵、低俗色情騷擾等情況下,Soul自動觸發(fā)“今日自閉”開啟提醒。用戶選擇開啟“今日自閉”功能后,將不再收到靈魂匹配、奇遇鈴和內(nèi)容廣場等場景中的陌生人信息。據(jù)統(tǒng)計,新功能上線后,每天嘗試使用自閉功能的用戶超3萬人。此外,Soul還在私聊對話、內(nèi)容廣場、游戲等不同場景與功能板塊,對辱罵攻擊、挑唆男女對立、地域歧視等網(wǎng)暴行為重拳出擊。
此外,當(dāng)用戶因為人身攻擊被舉報多次以后,Soul將限制用戶的評論功能并引導(dǎo)用戶簽署“友善互動聲明”,只有簽署后才能繼續(xù)發(fā)表評論,并且Soul在廣場內(nèi)容的發(fā)布中還啟動禁止評論功能,發(fā)布者可以自定義選擇可評論的用戶群體。
通過防治結(jié)合,Soul在網(wǎng)絡(luò)暴力治理方面也取得碩果,日均避免用戶遭受網(wǎng)暴與頻繁騷擾5000多次,日均處理私聊不文明行為用戶300多人,日均提醒引導(dǎo)私聊文明發(fā)言20萬次,日均發(fā)送友善評論提示900多次,累計簽署友善互動聲明的用戶達(dá)5萬余人。
在互聯(lián)網(wǎng)平臺,集聚著很多充滿活力、熱衷探索的青年人。對青年群體來說,他們是互聯(lián)網(wǎng)的深度參與者,也是互聯(lián)網(wǎng)清朗網(wǎng)絡(luò)空間的重要構(gòu)建者。Soul相關(guān)負(fù)責(zé)人表示,“對社交平臺來說,要肩負(fù)主體責(zé)任,通過積極的自治措施,增強(qiáng)用戶安全意識、引導(dǎo)網(wǎng)絡(luò)良好風(fēng)氣。同時,提升平臺管控效率,強(qiáng)化用戶權(quán)益維護(hù)?!盨oul定期發(fā)布《Soul季度生態(tài)安全治理報告》,不僅是向社會公示平臺安全與生態(tài)治理的舉措與階段性進(jìn)展,也為互聯(lián)網(wǎng)平臺提供了網(wǎng)絡(luò)安全生態(tài)治理的寶貴經(jīng)驗。