在當(dāng)今數(shù)字化轉(zhuǎn)型的浪潮中，大數(shù)據(jù)、云計(jì)算、人工智能等技術(shù)的飛速發(fā)展正深刻改變著各行各業(yè)。而網(wǎng)絡(luò)安全作為數(shù)字經(jīng)濟(jì)的基石，其重要性日益凸顯。隨著大模型技術(shù)的不斷突破和應(yīng)用，網(wǎng)絡(luò)安全領(lǐng)域正迎來一場(chǎng)由AI賦能的新革命。
7月31日，在ISC.AI 2024數(shù)字安全峰會(huì)上，360集團(tuán)創(chuàng)始人兼CEO周鴻祎表示，2024年網(wǎng)絡(luò)安全行業(yè)將迎來新革命，作為大模型重要場(chǎng)景，要“以模制�！敝厮馨踩�，而打造安全大模型是安全邁向“自動(dòng)駕駛”的必由之路。
大模型持續(xù)賦能網(wǎng)絡(luò)安全
據(jù)工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)顯示，2023年我國網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模已達(dá)約2200億元，上市企業(yè)達(dá)28家，產(chǎn)業(yè)綜合實(shí)力顯著增強(qiáng)。
另據(jù)業(yè)內(nèi)人士分析，AI將全面賦能網(wǎng)絡(luò)安全行業(yè)。以360集團(tuán)為例，其推出的360安全大模型由攻擊檢測(cè)、運(yùn)營處置、追蹤溯源、知識(shí)管理、數(shù)據(jù)保護(hù)、代碼安全等六大專家子模型組成，幫助某國有大型企業(yè)用戶實(shí)現(xiàn)告警降噪效率提升900%，事件研判時(shí)間縮短96%。
騰訊發(fā)布的《2024大模型十大趨勢(shì)》報(bào)告顯示，大型語言模型（LLM）為人工智能帶來了前所未有的推理能力，能夠提供深入的分析和復(fù)雜的決策支持，為威脅檢測(cè)與響應(yīng)提供了更強(qiáng)大的智力支持。
“目前，我國網(wǎng)絡(luò)安全人才缺口達(dá)150萬人，隨著大模型成本的下降，一方面可以解決安全人才的缺口問題；另一方面，可以讓更多企業(yè)享受大模型和人工智能帶來的科技普惠�！敝茗櫟t向《證券日?qǐng)?bào)》記者表示。
一位不愿具名的行業(yè)分析師向《證券日?qǐng)?bào)》記者表示，AI大模型通過持續(xù)對(duì)網(wǎng)絡(luò)環(huán)境進(jìn)行掃描，能夠及時(shí)發(fā)現(xiàn)和修復(fù)安全漏洞，提供具體的修復(fù)建議，甚至可以自動(dòng)化的進(jìn)行修補(bǔ)。
“隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展，AI大模型將持續(xù)提升威脅檢測(cè)、欺詐預(yù)防、漏洞管理、安全運(yùn)營優(yōu)化等方面的能力。并且將推動(dòng)網(wǎng)絡(luò)安全產(chǎn)業(yè)的轉(zhuǎn)型升級(jí)，催生出新的技術(shù)、產(chǎn)品和模式。”上述分析師說。
網(wǎng)絡(luò)安全再遇挑戰(zhàn)
事實(shí)上，隨著人工智能的深入發(fā)展，大模型在賦能網(wǎng)絡(luò)安全防護(hù)的同時(shí)，網(wǎng)絡(luò)攻擊的方式和手段也在不斷演變，傳統(tǒng)的安全防護(hù)手段已難以有效應(yīng)對(duì)日益復(fù)雜的網(wǎng)絡(luò)威脅。相關(guān)數(shù)據(jù)顯示，2023年受供應(yīng)鏈安全威脅和風(fēng)險(xiǎn)攻擊的比例高達(dá)所有網(wǎng)絡(luò)攻擊的一半，同比增長(zhǎng)78%。
有業(yè)內(nèi)人士表示，AI大模型可以更快速地篡改企業(yè)數(shù)據(jù)、攻擊企業(yè)核心系統(tǒng)。
“AI時(shí)代是標(biāo)志人類數(shù)字化更充分的時(shí)代，網(wǎng)絡(luò)安全攻擊對(duì)人身安全、對(duì)社會(huì)都有更大影響，而微軟此次藍(lán)屏事件提醒公眾，數(shù)字化、智能化導(dǎo)致互聯(lián)網(wǎng)世界變得特別脆弱，網(wǎng)絡(luò)攻擊已從點(diǎn)上升到面。”周鴻祎說。
“當(dāng)前，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險(xiǎn)嚴(yán)重失衡。”中國工程院院士，國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心（NDSC）主任鄔江興表示，基于內(nèi)生安全架構(gòu)可發(fā)現(xiàn)或糾正AI應(yīng)用系統(tǒng)安全問題，AI應(yīng)用系統(tǒng)中必須包含必要多樣性和相對(duì)正確公理的內(nèi)生安全構(gòu)造，在不可信的過程中找到相對(duì)可信的結(jié)果。智能時(shí)代需要選擇正確的技術(shù)路徑，實(shí)現(xiàn)更安全的AI應(yīng)用系統(tǒng)。
艾媒咨詢CEO張毅對(duì)《證券日?qǐng)?bào)》記者表示，目前AI大模型的可靠性、可解釋性、安全性等問題亟待解決，且AI技術(shù)的濫用和誤用也可能帶來問題。
“因此，未來在推動(dòng)AI與網(wǎng)絡(luò)安全深度融合的過程中，需要不斷加強(qiáng)技術(shù)研發(fā)、標(biāo)準(zhǔn)制定、法律法規(guī)建設(shè)等方面的工作，確保AI技術(shù)的健康有序發(fā)展�！睆堃阏f。
