近日,Soul App生態(tài)安全中心正式發(fā)布《2024年第四季度生態(tài)安全報告》。作為國內(nèi)領(lǐng)先的社交平臺,Soul App一直以來積極響應(yīng)國家網(wǎng)信辦的“清朗”行動號召,致力于營造一個真實、友善、溫暖的社交環(huán)境。此次發(fā)布的報告詳細展示了平臺在過去一個季度中,在反詐防線筑牢、社交禮儀重塑、網(wǎng)絡(luò)暴力治理等多方面的扎實舉措與顯著成果,彰顯了Soul App在維護網(wǎng)絡(luò)生態(tài)安全方面的決心與擔(dān)當(dāng)。
一、多管齊下,筑牢反詐防線
網(wǎng)絡(luò)詐騙一直是威脅用戶財產(chǎn)安全與網(wǎng)絡(luò)安全的重要隱患。在年末這一網(wǎng)絡(luò)詐騙易發(fā)時段,Soul App深知反詐工作的緊迫性與重要性,從技術(shù)、策略、警企合作等多方面入手,全力守護用戶的財產(chǎn)安全。
在技術(shù)層面,Soul App持續(xù)發(fā)力,增加反詐風(fēng)控策略,迭代網(wǎng)絡(luò)詐騙文本識別模型和假人設(shè)識別能力。通過構(gòu)建高度智能化的技術(shù)模型,平臺能夠精準識別各類詐騙行為,并結(jié)合巧妙設(shè)計的提示策略,及時向用戶發(fā)出預(yù)警。同時,Soul App積極與警方合作,主動提供線索,協(xié)助警方打擊黑產(chǎn)4次,配合警方調(diào)證24次,為打擊網(wǎng)絡(luò)詐騙犯罪提供了有力支持。
經(jīng)過長期治理,Soul App在反詐方面取得了顯著成果。報告顯示,平臺網(wǎng)絡(luò)詐騙舉報量級降低了20%,假圖識別量級提升了150%,準確率達到90%。這些數(shù)據(jù)背后,是Soul App對用戶安全的高度重視和不懈努力,也是平臺技術(shù)實力與治理能力的有力體現(xiàn)。
二、重塑社交禮儀,營造文明氛圍
社交禮儀是構(gòu)建和諧社交環(huán)境的重要基石。為了給用戶營造一個文明、友善的社交環(huán)境,Soul App在2024年持續(xù)發(fā)力,從用戶騷擾管制、群聊治理、低質(zhì)內(nèi)容管控、正能量內(nèi)容推薦等不同方向,全方位、系統(tǒng)性地建設(shè)社交禮儀體系。
在第四季度,平臺上線和迭代了30多項策略,騷擾消息自見策略日均保護超過1.5萬名用戶,消息盒子輔助用戶日均收納消息超過5千條。針對疑似被騷擾的用戶,平臺日均下發(fā)守護彈窗超4萬條,主動保護用戶免受騷擾。同時引導(dǎo)用戶文明發(fā)言,遵守社區(qū)規(guī)范,相關(guān)內(nèi)容日均觸達1904名用戶。
在廣場治理方面,Soul App通過違規(guī)內(nèi)容機審,直接攔截了436萬條違規(guī)內(nèi)容,對于同設(shè)備下存在多個違規(guī)賬號的情況,平臺將進行拉黑設(shè)備處理。在有償交友專項治理中,Soul App累計處理不良內(nèi)容139885條,處置違規(guī)賬號8587個。這些舉措有效遏制了不良交友導(dǎo)向的內(nèi)容傳播,保護了用戶的合法權(quán)益。
社區(qū)共建共治也是Soul App重塑社交禮儀的重要一環(huán)。平臺設(shè)立了站內(nèi)內(nèi)容推薦官和風(fēng)紀委等角色,目前分別有4.3萬名和1.8萬名用戶在任。這些用戶積極參與社區(qū)治理,通過投票等方式參與社區(qū)共建,日均投票案件超過3.2萬起。這種用戶參與的治理模式,不僅增強了用戶的社區(qū)歸屬感,也提升了平臺治理的效率和公正性。
通過這些全方位的治理措施,Soul App成功營造了一個文明、友善的社交環(huán)境,讓用戶在平臺上能夠更加輕松、愉快地交流互動。
三、驅(qū)散網(wǎng)絡(luò)戾氣,打造友善社區(qū)
網(wǎng)絡(luò)暴力是近年來嚴重影響網(wǎng)絡(luò)生態(tài)健康發(fā)展的突出問題。它不僅給當(dāng)事人帶來了極大的身心傷害,也破壞了網(wǎng)絡(luò)空間的和諧氛圍。Soul App深刻認識到網(wǎng)絡(luò)暴力的危害,積極響應(yīng)國家相關(guān)政策要求,全力投入到網(wǎng)絡(luò)戾氣治理工作中。
為了有效治理網(wǎng)絡(luò)暴力,Soul App構(gòu)建了一套由技術(shù)模型、提醒策略、產(chǎn)品更新、宣傳引導(dǎo)、專項治理、典型案例處置公示等多維度構(gòu)成的嚴密防網(wǎng)暴體系。在技術(shù)模型層面,平臺依托先進的人工智能與大數(shù)據(jù)分析技術(shù),對用戶發(fā)布的內(nèi)容、評論以及互動行為進行實時監(jiān)測與深度分析,精準識別潛在的網(wǎng)暴風(fēng)險。
在提醒策略上,Soul App通過站內(nèi)信、彈窗等多種形式,及時向用戶發(fā)出預(yù)警,引導(dǎo)用戶文明發(fā)言。報告顯示,平臺日均保護用戶避免遭受網(wǎng)暴與頻繁騷擾2911人,日均處理私聊不文明行為用戶1219人,日均提醒引導(dǎo)私聊文明發(fā)言超21萬次。截止第四季度,累計簽署友善互動聲明的用戶達24萬人。
這些數(shù)據(jù)表明,Soul App在網(wǎng)絡(luò)暴力治理方面取得了顯著成效。通過技術(shù)手段與人文關(guān)懷相結(jié)合的方式,平臺成功驅(qū)散了網(wǎng)絡(luò)戾氣,為用戶打造了一個友善的交流空間。
為了進一步提升用戶的網(wǎng)絡(luò)安全意識和社交禮儀素養(yǎng),Soul App在第四季度加強了網(wǎng)絡(luò)治理與社交禮儀規(guī)范的宣導(dǎo)工作。平臺官方“風(fēng)紀球長”發(fā)布了58篇帖子,內(nèi)容包括對傳播低俗內(nèi)容與不實信息、惡意引戰(zhàn)等違規(guī)賬號的處罰公示,以及對安全標(biāo)準及社交禮儀規(guī)范的宣導(dǎo)、辟謠等。這些帖子總計觸達231萬用戶,有效提升了用戶對網(wǎng)絡(luò)安全和社交禮儀的認知。
通過這些宣導(dǎo)活動,Soul App不僅讓用戶更加了解平臺的規(guī)則和標(biāo)準,也引導(dǎo)用戶自覺遵守社交禮儀,共同維護良好的網(wǎng)絡(luò)生態(tài)。這種積極的宣導(dǎo)方式,不僅有助于解決當(dāng)前的問題,更從長遠角度提升了用戶的網(wǎng)絡(luò)素養(yǎng),為構(gòu)建健康、有序的網(wǎng)絡(luò)社交環(huán)境奠定了堅實基礎(chǔ)。
四、展望未來,持續(xù)守護網(wǎng)絡(luò)生態(tài)
Soul App在2024年第四季度的生態(tài)安全工作取得了顯著成效,但這僅僅是平臺守護網(wǎng)絡(luò)生態(tài)的一個階段性成果。未來,Soul App將繼續(xù)秉持對用戶負責(zé)、對社會負責(zé)的態(tài)度,持續(xù)加強平臺治理,不斷提升技術(shù)實力,優(yōu)化治理策略,深化警企合作,進一步完善社交禮儀體系,加強網(wǎng)絡(luò)暴力治理,強化安全生態(tài)宣傳。
Soul App相信,通過不懈努力,平臺能夠為用戶提供一個更加安全、友善、溫暖的社交環(huán)境,同時也為整個互聯(lián)網(wǎng)行業(yè)的健康發(fā)展貢獻更多力量。
