Soul發(fā)布《2025年度生態(tài)安全報(bào)告》，7大AI模型全天守護(hù)用戶安全

在數(shù)字浪潮滾滾向前的今日,社交平臺(tái)已不再僅僅是信息的交互場,更是情感的鏈接地與精神的寄托所。然而,虛假宣傳、網(wǎng)絡(luò)詐騙、語言暴力等陰影,也如同雜草般隨之滋生。2025 年,國家網(wǎng)信辦深化“清朗”專項(xiàng)行動(dòng),聚焦數(shù)據(jù)安全、算法濫用、不良信息傳播等關(guān)鍵領(lǐng)域,通過法規(guī)完善與技術(shù)監(jiān)管,為網(wǎng)絡(luò)空間筑牢安全防線。

近日,社交平臺(tái) Soul App 正式對(duì)外發(fā)布《2025年度生態(tài)安全報(bào)告》。這份報(bào)告不僅是一份成績單,也是一次關(guān)于AI 賦能與社會(huì)共治的深刻實(shí)踐。報(bào)告顯示,通過 7 大 AI 模型的協(xié)同,Soul 實(shí)現(xiàn)了涉詐人群同比下降 20%、未成年人假冒識(shí)別率 99% 的卓越戰(zhàn)績,為站內(nèi)用戶筑起一道堅(jiān)固的防護(hù)墻。

技術(shù)賦能,AI 成為社交安全“壓艙石”

伴隨語言模型與多模態(tài)識(shí)別技術(shù)的發(fā)展,網(wǎng)絡(luò)治理也進(jìn)入更為智能的新階段。Soul 在 2025 年的工作重點(diǎn)之一,便是將 AI 深度嵌入整個(gè)治理周期中——

7 大模型協(xié)同作戰(zhàn)

報(bào)告顯示,Soul 在 2025 年部署了 7 大自主研發(fā)的 AI 模型,構(gòu)筑了一套全方位、立體化的安全護(hù)盾。其中,“圖片/文本反作弊大模型”擁有深層語義與潛在意圖的理解能力,不僅能識(shí)別表面的違規(guī)文字,更能洞察偽裝話術(shù)背后的黑產(chǎn)邏輯。而針對(duì)行業(yè)痛點(diǎn)“殺豬盤”,Soul 獨(dú)創(chuàng)了“殺豬盤發(fā)帖文案識(shí)別大模型”。該模型針對(duì)情感誘導(dǎo)、人設(shè)造假等細(xì)微特征進(jìn)行建模,能夠在詐騙苗頭出現(xiàn)的初期就進(jìn)行精準(zhǔn)攔截。

精準(zhǔn)打擊虛假流量

社交生態(tài)的基石是“真實(shí)”,2025 年Soul 針對(duì)“虛假人設(shè)”與“盜圖”痛點(diǎn),升級(jí)了全鏈路治理矩陣。通過 AI 圖片路徑分析與設(shè)備異常偵測,平臺(tái)日均精準(zhǔn)攔截虛假內(nèi)容達(dá) 5 萬條。這種對(duì)虛假流量的“熔斷”機(jī)制,有效地粉碎了黑產(chǎn)滋生的土壤,確保了用戶看到的每一份分享都貼近真實(shí)生活。

構(gòu)建聯(lián)防聯(lián)治網(wǎng)絡(luò)

安全治理從來不是孤軍奮戰(zhàn)。2025 年,Soul 持續(xù)深化與浦東反詐中心等有關(guān)部門的合作。全年向警方推送各類違法線索 100 余個(gè),協(xié)助調(diào)查并維護(hù)用戶權(quán)益 30 余次。通過“站內(nèi)攔截+站外打擊”的閉環(huán),Soul 正在構(gòu)建起一套讓違法者無處遁形的安全網(wǎng)絡(luò)。

由堵到疏,重塑數(shù)字時(shí)代社交禮儀

網(wǎng)絡(luò)暴力是社交平臺(tái)的頑疾。在 2025 年,Soul 的治理思路不再僅僅是單純的封禁,而是通過技術(shù)引導(dǎo),培養(yǎng)用戶的社交素養(yǎng)——

AI 情感分析,化解網(wǎng)絡(luò)矛盾

Soul 平臺(tái)部署先進(jìn)的 AI 情感分析模型,能夠?qū)崟r(shí)監(jiān)測平臺(tái)中的攻擊性語言。不同于傳統(tǒng)的關(guān)鍵詞過濾,該模型能夠根據(jù)上下文語境判斷情緒意圖。數(shù)據(jù)最具說服力:2025 年,Soul 日均提醒引導(dǎo)私聊文明發(fā)言高達(dá) 20.6 萬次,日均評(píng)論友善發(fā)評(píng)提醒達(dá) 2208 次。這種“輕提醒、柔引導(dǎo)”的方式,在矛盾爆發(fā)前按下了“暫停鍵”,讓社交重歸友善。

構(gòu)建反網(wǎng)暴共識(shí)

報(bào)告指出,Soul 系統(tǒng)性升級(jí)治理策略,構(gòu)建起覆蓋內(nèi)容識(shí)別、風(fēng)險(xiǎn)干預(yù)、正向引導(dǎo)的全鏈條機(jī)制。為了推動(dòng)社區(qū)共識(shí),Soul 開展了多場“拒絕網(wǎng)暴”專題活動(dòng),累計(jì)有 93.4 萬名用戶簽署了友善互動(dòng)聲明。官方賬號(hào)“風(fēng)紀(jì)球長”在 2025 年發(fā)布了 200 余篇安全生態(tài)宣傳帖,觸達(dá)用戶超過 200 萬。高頻次的科普與宣傳,讓“社交禮儀”不再是一個(gè)抽象的概念,而是變成用戶內(nèi)化的行為準(zhǔn)則。

社區(qū)共治,讓每位用戶都成為守護(hù)者

Soul 始終相信,最好的社區(qū)是由用戶自己定義的,在 2025 年,社區(qū)共治模式在 Soul 平臺(tái)得到了深度應(yīng)用與推廣——

8萬名風(fēng)紀(jì)“志愿者”

在 Soul 的生態(tài)中,活躍著一批特殊的群體——內(nèi)容推薦官與風(fēng)紀(jì)委員。目前,在任的社區(qū)共建用戶數(shù)量已突破 8 萬大關(guān)。這些用戶日均貢獻(xiàn)超過 1.8 萬次 投票,通過眾包決策的方式產(chǎn)生日均 2500 條 案例處理結(jié)果。這種“去中心化”的治理模式,既緩解了平臺(tái)的審核壓力,更重要的是讓用戶產(chǎn)生了主人翁意識(shí),實(shí)現(xiàn)了社區(qū)氛圍的自我進(jìn)化。

細(xì)顆粒度群聊/私聊治理

針對(duì)群聊這一高頻社交場景,Soul 在 2025 年實(shí)現(xiàn)了治理顆粒度的極致精細(xì)。日均中斷語音違規(guī)消息 3 萬條,攔截違規(guī)文字消息 4 萬條。針對(duì)私聊生態(tài),Soul 推出了“消息盒子輔助收納”等功能,日均保護(hù) 6.6 萬名用戶免受騷擾。通過給用戶更多的自主選擇權(quán),真正做到“我的社交空間,我做主”。

硬核守護(hù),筑牢未成年人安全“隔離墻”

未成年人保護(hù)是社交平臺(tái)的底線,同時(shí)也是 Soul 2025 年的工作重點(diǎn)之一。平臺(tái)深知,保護(hù)青少年就是保護(hù)社交生態(tài)的未來——

AI 看穿成人偽裝

單純依靠實(shí)名認(rèn)證早已不足以應(yīng)對(duì)復(fù)雜的情況。2025 年,Soul 引入了 AI 行為分析模型。該模型通過分析用戶的交互模式、語言特征及設(shè)備使用習(xí)慣,能夠有效區(qū)分真實(shí)未成年人與成人偽裝行為。這一技術(shù)的引入,使得疑似未成年人的識(shí)別準(zhǔn)確率提升了 50% 以上,針對(duì)冒充成年人的策略識(shí)別貢獻(xiàn)率高達(dá) 99%。

從“被動(dòng)防御”到“主動(dòng)護(hù)航”

對(duì)于已進(jìn)入青少年模式的用戶,Soul 整合了身份認(rèn)證、年齡識(shí)別、防沉迷系統(tǒng)等維度。尤其在寒暑假期間,Soul 會(huì)動(dòng)態(tài)調(diào)整內(nèi)容池策略,確保青少年看到的內(nèi)容既安全又富有教育意義。2025 年,Soul 共計(jì)上線未成年人識(shí)別與保護(hù)相關(guān)策略 51 條。這些舉措不僅減少了未成年人接觸不良信息的風(fēng)險(xiǎn),更顯著提升了家長對(duì)平臺(tái)的信任度。

低質(zhì)內(nèi)容清理,回歸清朗社交

一個(gè)健康的社交生態(tài)必須具備自我修復(fù)與自我凈化的能力,健康的社區(qū)既需要源源不斷的活水,也需要定期的“清淤”——

機(jī)器+人工,雙軌制內(nèi)容治理

2025 年,Soul 全面升級(jí)內(nèi)容治理策略,重點(diǎn)打擊低俗、虛假宣傳及惡意營銷。全年通過機(jī)器預(yù)審直接攔截的違規(guī)內(nèi)容量級(jí)達(dá)到了驚人的 1642.5 萬;處置違規(guī)賬號(hào) 76.7 萬個(gè)。

對(duì)“擦邊”與“有償交友”零容忍

針對(duì)廣場中出現(xiàn)的低俗擦邊、有償交友、惡意引戰(zhàn)等痛點(diǎn),Soul 實(shí)施了嚴(yán)格的限流與處理措施。日均處理量超過 12 萬帖。對(duì)于在同設(shè)備下存在多個(gè)違規(guī)賬號(hào)的“黑產(chǎn)團(tuán)伙”,平臺(tái)累計(jì)拉黑設(shè)備 4 萬個(gè)。這種雷霆手段,極大地凈化了社區(qū)風(fēng)氣。

社交平臺(tái)的未來,是責(zé)任與科技的共振

《2025年度生態(tài)安全報(bào)告》的發(fā)布,標(biāo)志著 Soul 在生態(tài)治理上邁向了更加成熟、更加智能的新階段。生態(tài)安全不是一項(xiàng)階段性的任務(wù),而是一項(xiàng)長期的系統(tǒng)工程——為了在冰冷的算法之外,保留社交那份最寶貴的溫情與真實(shí)。

展望 2026 年,Soul 將繼續(xù)加大在人工智能領(lǐng)域的研發(fā)投入,同時(shí),平臺(tái)將進(jìn)一步擴(kuò)大“共治體系”,讓每一個(gè) Soul 用戶都能成為生態(tài)安全的參與者、建設(shè)者和受益者。這份報(bào)告,既是對(duì)過去的總結(jié),更是對(duì)未來的承諾——Soul 將不忘初心,致力于構(gòu)建一個(gè)真實(shí)、溫暖且充滿活力的線上社交空間。