飛象原創(chuàng)（高靖宇/文）在影視作品《西部世界》中，即便是最先進(jìn)的機(jī)器人也容易受到惡意軟件的攻擊，這讓我們不禁思考，我們能夠在多大程度上掌控人工智能（AI）技術(shù)。在現(xiàn)實(shí)世界中，隨著AI大模型技術(shù)的快速發(fā)展，其可能帶來(lái)的安全性問(wèn)題也日益凸顯。
近年來(lái)，人工智能技術(shù)取得了令人矚目的進(jìn)展，特別是大模型正逐步被應(yīng)用于越來(lái)越多的場(chǎng)景，與千行百業(yè)加速融合，成為推動(dòng)數(shù)字科技發(fā)展的關(guān)鍵力量。數(shù)據(jù)顯示，我國(guó)已經(jīng)完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)180多個(gè)，注冊(cè)用戶突破5.64億。
然而，這些大模型在帶來(lái)便利和效率的同時(shí)，也催生了新的安全風(fēng)險(xiǎn)�！段鞑渴澜纭冯m然是虛構(gòu)的故事，但人工智能安全風(fēng)險(xiǎn)卻已存在于現(xiàn)實(shí)世界，正如一枚硬幣的兩面，AI大模型技術(shù)的發(fā)展帶來(lái)了網(wǎng)絡(luò)安全領(lǐng)域的深刻調(diào)整與全新挑戰(zhàn)。
網(wǎng)絡(luò)安全中的“AI”風(fēng)險(xiǎn)
伴隨著眾多AI大模型的誕生，AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊也在快速增長(zhǎng)，因?yàn)橛辛薃I加持之后，發(fā)動(dòng)網(wǎng)絡(luò)攻擊對(duì)于攻擊者而言相比之前更加容易，可以更加高效的組織更加復(fù)雜，規(guī)模更大的安全攻擊。此外，一些黑客還掌握了利用生成式AI等新興技術(shù)實(shí)施網(wǎng)絡(luò)犯罪的新手段。
以ChatGPT為例，自其上線以來(lái)，便有人擔(dān)憂其可能成為網(wǎng)絡(luò)犯罪的溫床。盡管平臺(tái)方已采取了一系列防止惡意應(yīng)用的措施，但創(chuàng)意十足的攻擊者仍能利用生成式AI生成逼真的網(wǎng)絡(luò)釣魚(yú)郵件，誘騙用戶泄露敏感信息。此外，AI技術(shù)的深度偽造和語(yǔ)音合成能力也被用于詐騙，使得傳統(tǒng)防御手段難以應(yīng)對(duì)。更為嚴(yán)峻的是，隨著AI在合法用例中的廣泛應(yīng)用，模型中毒、數(shù)據(jù)泄露、提示注入攻擊等新型漏洞不斷涌現(xiàn)，對(duì)網(wǎng)絡(luò)安全構(gòu)成了持續(xù)威脅。
IEEE調(diào)研顯示，2024年將會(huì)出現(xiàn)其他更具威脅的網(wǎng)絡(luò)安全問(wèn)題，包括勒索軟件攻擊（2024年為37%，高于2023年的30%）、網(wǎng)絡(luò)釣魚(yú)攻擊（2024年為35%，高于2023年的25%）以及內(nèi)部威脅（2024年為26%，高于2023年的19%）。
中國(guó)工程院院士吳世忠表示，由AI技術(shù)帶來(lái)的新型安全問(wèn)題已成為現(xiàn)實(shí)，安全行業(yè)將迅速邁進(jìn)AI驅(qū)動(dòng)的新時(shí)代。然而，大模型安全研究可以說(shuō)才剛剛開(kāi)始。無(wú)論是安全研究還是安全產(chǎn)業(yè)，都必須緊跟科技進(jìn)步和應(yīng)用創(chuàng)新，才能服務(wù)好發(fā)展，保障好發(fā)展。
“人工智能等前沿?cái)?shù)字技術(shù)正在重新定義內(nèi)容的生產(chǎn)與消費(fèi)模式，大模型在企業(yè)運(yùn)營(yíng)中應(yīng)用越來(lái)越廣泛，必須尋求創(chuàng)新的安全模式，以適應(yīng)這一變化�！敝袊�(guó)工程院院士鄔賀銓認(rèn)為，基礎(chǔ)大模型是企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán)，需要應(yīng)對(duì)多項(xiàng)挑戰(zhàn)，包括強(qiáng)大的算力、充足的數(shù)據(jù)、高水平的研材、新應(yīng)用的算法、場(chǎng)景和閉環(huán)的生態(tài)。然而基礎(chǔ)大模型缺少特定行業(yè)的專業(yè)知識(shí)，因此需要大模型提供方與垂直行業(yè)合作。
以模治模 網(wǎng)絡(luò)安全發(fā)展新路徑
AI帶來(lái)新的安全挑戰(zhàn)，同樣需要AI技術(shù)來(lái)解決，這是一場(chǎng)AI技術(shù)的攻防戰(zhàn)。作為中國(guó)AI領(lǐng)域的老玩家，360 AI一直深入探索AI大模型在關(guān)鍵行業(yè)中的垂直應(yīng)用，推動(dòng)大模型重塑安全體系。
360集團(tuán)創(chuàng)始人周鴻祎表示，面對(duì)愈加復(fù)雜的傳統(tǒng)安全問(wèn)題和大模型帶來(lái)新的安全問(wèn)題，必須用AI重塑安全，以模治模，用安全大模型解決“新老”安全問(wèn)題。
“不要追求用一個(gè)大模型解決所有問(wèn)題，應(yīng)該讓專業(yè)大模型解決專業(yè)問(wèn)題�！敝茗櫟t認(rèn)為，2024年是場(chǎng)景之年，關(guān)鍵要結(jié)合業(yè)務(wù)找“明星場(chǎng)景”，然后根據(jù)場(chǎng)景設(shè)計(jì)功能，根據(jù)功能需求對(duì)大模型進(jìn)行專項(xiàng)訓(xùn)練。
在ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì)上，周鴻祎宣布360安全大模型正式免費(fèi)。360安全大模型在真實(shí)業(yè)務(wù)場(chǎng)景中取得重大突破，通過(guò)對(duì)全網(wǎng)安全數(shù)據(jù)和知識(shí)進(jìn)行提煉、壓縮和蒸餾，360安全大模型實(shí)現(xiàn)對(duì)全網(wǎng)安全知識(shí)的深度理解。未來(lái)，在大模型賦能下，本地安全大腦“無(wú)需聯(lián)網(wǎng)”，在封閉網(wǎng)絡(luò)中也能獲得全網(wǎng)數(shù)據(jù)和知識(shí)的賦能。
周鴻祎表示，打造安全大模型是安全邁向“自動(dòng)駕駛”的必由之路，用AI升級(jí)安全要有類(lèi)似自動(dòng)駕駛的L1-L5級(jí)別目標(biāo)，目前360安全大模型已具備L4級(jí)“自動(dòng)駕駛”能力，相當(dāng)于汽車(chē)的“高級(jí)自動(dòng)駕駛階段”。
