從源頭防范“投毒” 筑牢AI發(fā)展根基

當(dāng)“龍蝦”（OpenClaw）席卷網(wǎng)絡(luò)，多方擔(dān)憂其安全性之際，又曝出生成式引擎優(yōu)化（GEO）給AI大模型“投毒”。在AI技術(shù)狂飆之下，AI風(fēng)險(xiǎn)正以更隱蔽、更具破壞性的方式出現(xiàn)。如何為狂飆的AI技術(shù)裝上“安全閥”、扎緊安全籬笆，成為AI時(shí)代必須直面的命題。

AI風(fēng)險(xiǎn)，本質(zhì)是技術(shù)發(fā)展與倫理治理、監(jiān)管體系的失衡。一方面，一些AI公司奉行“速度優(yōu)先”忽視“安全優(yōu)先”，在技術(shù)狂飆之際，給不法分子留下了操作空間。如“龍蝦”的開源社區(qū)缺乏嚴(yán)格的技能包審核機(jī)制，導(dǎo)致惡意插件輕易混入；AI大模型訓(xùn)練數(shù)據(jù)的來源與審核機(jī)制不透明，給“投毒”留下可乘之機(jī)。另一方面，傳統(tǒng)監(jiān)管模式滯后于技術(shù)迭代，往往在風(fēng)險(xiǎn)顯現(xiàn)后才被動(dòng)應(yīng)對(duì)，形成“能力已到、治理未到”的真空期。

因此，首先要為技術(shù)創(chuàng)新劃定安全邊界、筑牢可持續(xù)發(fā)展的根基。比如防止“投毒”，勢(shì)必對(duì)AI大模型公司提出更高、更具前瞻性的風(fēng)險(xiǎn)防范要求，采用數(shù)據(jù)必須具備可解釋性、可追溯性，確立更高標(biāo)準(zhǔn)的審核門檻，從源頭防范“投毒”。

其次，要構(gòu)建“多方協(xié)同”的治理體系。相關(guān)部門需加快完善數(shù)字技術(shù)相關(guān)法律法規(guī)，明確平臺(tái)、用戶的責(zé)任邊界，對(duì)于“投毒”、惡意利用開源工具等行為加大處罰力度；行業(yè)協(xié)會(huì)應(yīng)制定統(tǒng)一的技術(shù)倫理規(guī)范與安全標(biāo)準(zhǔn)，引導(dǎo)企業(yè)自律；科研機(jī)構(gòu)與專家需加強(qiáng)技術(shù)風(fēng)險(xiǎn)研究，為監(jiān)管提供專業(yè)支撐；公眾則要提升數(shù)字素養(yǎng)，理性使用技術(shù)工具。

最后，技術(shù)發(fā)展永無(wú)止境，風(fēng)險(xiǎn)形態(tài)也在不斷演變，需建立快捷的風(fēng)險(xiǎn)監(jiān)測(cè)與預(yù)警機(jī)制，如各部門對(duì)“龍蝦”發(fā)布安全預(yù)警就是防患于未然的典型舉措。

不過，扎緊技術(shù)狂飆的安全籬笆，絕非遏制創(chuàng)新。唯有在創(chuàng)新與安全之間找到平衡，才能讓技術(shù)狂飆始終行駛在合規(guī)向善的軌道上，真正成為推動(dòng)社會(huì)進(jìn)步的動(dòng)力，而非威脅公共利益的隱患。