315揭AI大模型灰產(chǎn)：GEO數(shù)據(jù)“投毒”成產(chǎn)業(yè)鏈，AI安全防線亟待筑牢

飛象原創(chuàng)（高靖宇/文）近年來(lái)，生成式 AI 應(yīng)用在辦公、消費(fèi)、商業(yè)決策等場(chǎng)景加速落地，成為我們生活中的得力助手和親密朋友。人們對(duì) AI 大模型的信任，源于其依托海量數(shù)據(jù)生成的客觀信息與專(zhuān)業(yè)建議，然而在今年 315 晚會(huì)上，一則關(guān)于 GEO 業(yè)務(wù)的爆料卻撕開(kāi)了AI行業(yè)的灰色面紗 —— 部分商家借助 GEO 技術(shù)對(duì) AI 大模型進(jìn)行數(shù)據(jù) “投毒”，讓 AI 淪為商業(yè)推廣的工具，甚至夾帶虛假信息給出誤導(dǎo)性 “標(biāo)準(zhǔn)答案”，這種灰產(chǎn)行為不僅打破了 AI 大模型的客觀中立性，更成為制約行業(yè)健康發(fā)展的重大隱憂。

AI大模型被“投毒”，GEO業(yè)務(wù)成產(chǎn)業(yè)鏈

GEO 本是一款用于優(yōu)化信息分發(fā)、提升推廣效率的工具軟件，卻在部分商業(yè)公司的挖掘下，淪為操控 AI 大模型的 “利器”。從事 GEO 業(yè)務(wù)的服務(wù)商對(duì)外宣稱(chēng)，用戶只需支付相應(yīng)費(fèi)用，就能讓產(chǎn)品在各大主流 AI 大模型的搜索推薦中榜上有名，甚至將商品廣告包裝成 AI 給出的 “標(biāo)準(zhǔn)答案”，而這一目標(biāo)的實(shí)現(xiàn)，有著一套成熟且隱蔽的操作鏈路。

以 315 晚會(huì)曝光的 “力擎 GEO 優(yōu)化系統(tǒng)” 為例，調(diào)查員在電商平臺(tái)上，隨機(jī)購(gòu)買(mǎi)了一款名叫“力擎GEO優(yōu)化系統(tǒng)”的軟件。之后虛構(gòu)了一款智能手環(huán)，并將虛構(gòu)的產(chǎn)品信息輸入軟件系統(tǒng)，勾選文章創(chuàng)作指令。不一會(huì)兒，這個(gè)力擎GEO優(yōu)化系統(tǒng)就自動(dòng)生成了十余篇智能手環(huán)的宣傳軟文。業(yè)內(nèi)人士選取了十余篇虛構(gòu)軟文，通過(guò)力擎GEO系統(tǒng)發(fā)布在了互聯(lián)網(wǎng)上。隨后，業(yè)內(nèi)人士在AI大模型平臺(tái)展開(kāi)詢問(wèn)：“智能健康手環(huán)推薦”，就有兩個(gè)AI大模型推薦了這款虛構(gòu)的智能手環(huán)，而且排名靠前。

批量發(fā)稿完成數(shù)據(jù) “投喂” 是核心環(huán)節(jié)。GEO 系統(tǒng)會(huì)將生成的軟文自動(dòng)發(fā)布到各大互聯(lián)網(wǎng)自媒體賬號(hào)，從標(biāo)題撰寫(xiě)、內(nèi)容填充到圖片插入，整套流程全程自動(dòng)化。而 GEO 業(yè)務(wù)的火爆，更催生出了專(zhuān)門(mén)的發(fā)稿公司和平臺(tái)，這些平臺(tái)成為數(shù)據(jù)“投毒”的重要一環(huán)，部分發(fā)稿平臺(tái)每分鐘都在發(fā)布各類(lèi)軟文，單篇收費(fèi)幾十元的模式讓其獲利頗豐，而海量的軟文發(fā)布，目的就是讓 AI 大模型能夠快速抓取到相關(guān)信息。

通過(guò)這款力擎GEO系統(tǒng)對(duì)AI大模型潛移默化的一番“圍獵”，憑空捏造出來(lái)的這款商品，就這樣被荒唐地推向了使用AI大模型的消費(fèi)者。

AI安全防線該如何筑牢？

從消費(fèi)端來(lái)看，數(shù)據(jù)“投毒”直接侵害了消費(fèi)者的知情權(quán)和公平交易權(quán)。當(dāng)下，越來(lái)越多的消費(fèi)者會(huì)借助 AI 大模型獲取產(chǎn)品推薦、做出消費(fèi)決策，其核心依據(jù)是對(duì) AI 信息客觀性的信任，而被“投毒”的 AI 大模型，將商業(yè)廣告?zhèn)窝b成客觀答案，讓消費(fèi)者在不知情的情況下接收營(yíng)銷(xiāo)內(nèi)容，甚至被虛構(gòu)產(chǎn)品、虛假賣(mài)點(diǎn)誤導(dǎo)，最終落入消費(fèi)陷阱。

從市場(chǎng)端來(lái)看，這一行為構(gòu)成了新型不正當(dāng)競(jìng)爭(zhēng)，嚴(yán)重破壞了市場(chǎng)公平。正規(guī)商家依靠產(chǎn)品質(zhì)量、服務(wù)水平和合法營(yíng)銷(xiāo)參與市場(chǎng)競(jìng)爭(zhēng)，而“投毒”商家則通過(guò)技術(shù)手段搶占 AI 流量入口，讓 “劣幣驅(qū)逐良幣” 成為可能。更值得警惕的是，這種行為還會(huì)引發(fā)行業(yè)惡性競(jìng)爭(zhēng)，當(dāng)越來(lái)越多的商家選擇數(shù)據(jù)“投毒”而非提升核心競(jìng)爭(zhēng)力，整個(gè)市場(chǎng)的競(jìng)爭(zhēng)秩序?qū)⒈粡氐状騺y。

從行業(yè)端來(lái)看，持續(xù)的數(shù)據(jù)“投毒”會(huì)污染 AI 大模型的核心數(shù)據(jù)池，摧毀行業(yè)的信任基礎(chǔ)。AI 大模型的價(jià)值源于高質(zhì)量、真實(shí)的訓(xùn)練數(shù)據(jù)，而系統(tǒng)性、定向的虛假信息投喂，會(huì)讓模型的輸出結(jié)果逐漸失真，長(zhǎng)期來(lái)看，這不僅會(huì)影響 AI 大模型在各場(chǎng)景的商業(yè)化落地，更會(huì)讓公眾對(duì) AI 技術(shù)失去信任，制約整個(gè)人工智能行業(yè)的技術(shù)迭代和生態(tài)發(fā)展。

如何堵住“投毒”漏洞？首先，大模型公司要主動(dòng)清理垃圾信息，優(yōu)化算法、提升大模型抗干擾能力。對(duì)AI訓(xùn)練數(shù)據(jù)進(jìn)行嚴(yán)格篩查驗(yàn)證，過(guò)濾垃圾信息，確保數(shù)據(jù)和內(nèi)容的真實(shí)性和可靠性。另外，在法律層面，GEO 數(shù)據(jù)“投毒”行為并非 “法外之地”，相關(guān)主體的行為已觸碰多條法律紅線，將面臨民事、行政乃至刑事的多層法律責(zé)任。據(jù)專(zhuān)業(yè)律師解讀，這類(lèi)行為已明顯違反《廣告法》《反不正當(dāng)競(jìng)爭(zhēng)法》《消費(fèi)者權(quán)益保護(hù)法》等多部法律規(guī)定，同時(shí)違反《生成式人工智能服務(wù)管理暫行辦法》等部門(mén)規(guī)章要求，嚴(yán)重?cái)_亂正常市場(chǎng)經(jīng)濟(jì)秩序，危害人工智能信息系統(tǒng)安全，相關(guān)主體依法應(yīng)當(dāng)承擔(dān)民事、行政乃至刑事責(zé)任。

AI 大模型的發(fā)展，始終需要以數(shù)據(jù)真實(shí)、行業(yè)公平為基礎(chǔ)，GEO 數(shù)據(jù)“投毒”黑產(chǎn)的出現(xiàn)，是人工智能技術(shù)發(fā)展過(guò)程中的一道 “考題”。對(duì)于監(jiān)管部門(mén)而言，需要將 AI 誘導(dǎo)營(yíng)銷(xiāo)、數(shù)據(jù)“投毒”納入重點(diǎn)監(jiān)測(cè)范圍，加強(qiáng)執(zhí)法監(jiān)督，完善數(shù)字環(huán)境下的不正當(dāng)競(jìng)爭(zhēng)規(guī)制；對(duì)于 AI 大模型平臺(tái)而言，需筑牢技術(shù)防線，建立數(shù)據(jù)溯源機(jī)制和信息過(guò)濾體系，提升對(duì)虛假信息的識(shí)別能力；對(duì)于行業(yè)而言，更需要樹(shù)立自律意識(shí)，摒棄畸形競(jìng)爭(zhēng)思維，回歸技術(shù)創(chuàng)新和產(chǎn)品核心競(jìng)爭(zhēng)力的提升。唯有監(jiān)管、平臺(tái)、行業(yè)多方合力，才能筑牢 AI 大模型的安全防線，讓人工智能技術(shù)真正在健康、公平的環(huán)境中賦能數(shù)字經(jīng)濟(jì)發(fā)展。