Joshua Costa，Cortex產(chǎn)品市場(chǎng)總監(jiān)
去年以來(lái)，人工智能（AI）技術(shù)已經(jīng)成為主流。而每當(dāng)有新技術(shù)成為主流時(shí)，人們都會(huì)想方設(shè)法讓其幫助自己的工作和生活變得更輕松。雖然AI技術(shù)的快速普及改善了企業(yè)的運(yùn)作模式，但它同時(shí)也為網(wǎng)絡(luò)威脅者制造了新的機(jī)會(huì)。
鑒于對(duì)手正在利用AI發(fā)起速度更快、范圍更廣且效果更好的網(wǎng)絡(luò)攻擊，企業(yè)也需要在安全防御策略中采用AI予以應(yīng)對(duì)。派拓網(wǎng)絡(luò)自主開(kāi)發(fā)的AI系統(tǒng)Precision AI通過(guò)使用豐富的數(shù)據(jù)和特定的安全模型實(shí)現(xiàn)檢測(cè)、預(yù)防和修復(fù)的自動(dòng)化，幫助安全團(tuán)隊(duì)信任AI所帶來(lái)的成果。
AI在網(wǎng)絡(luò)攻擊中的應(yīng)用
威脅者總是在尋找阻力最小的攻擊途徑。例如他們會(huì)改造惡意軟件并經(jīng)常使用CobaltStrike、Brute Ratel C4等現(xiàn)成的工具抓住弱點(diǎn)，以最小的代價(jià)發(fā)起惡意行動(dòng)。根據(jù)觀察，他們已經(jīng)開(kāi)始使用新的AI技術(shù)發(fā)動(dòng)攻擊。隨著新的AI工具上市，威脅者將利用它們自動(dòng)實(shí)施和增強(qiáng)各種攻擊手段。
威脅者通常將AI用于以下途徑：
·實(shí)施偵察：威脅者通常會(huì)在發(fā)動(dòng)攻擊前，先采集潛在目標(biāo)的相關(guān)信息。借助AI，他們可以從網(wǎng)站、社交媒體平臺(tái)和其他在線資源獲取公開(kāi)信息，收集企業(yè)數(shù)據(jù)，其中可能包括詳細(xì)的個(gè)人信息、從屬關(guān)系、人際關(guān)系和其他可用于策劃和實(shí)施網(wǎng)絡(luò)攻擊的有用信息。
·增強(qiáng)社交工程：僅憑語(yǔ)法或拼寫(xiě)問(wèn)題就能識(shí)別釣魚(yú)郵件的時(shí)代已經(jīng)過(guò)去。通過(guò)使用生成式AI聊天機(jī)器人，威脅者可以編寫(xiě)出縝密的釣魚(yú)郵件、網(wǎng)頁(yè)和其他內(nèi)容，進(jìn)而提高欺詐成功率。這將使社交工程繼續(xù)成為網(wǎng)絡(luò)攻擊最主要的威脅載體之一。
·開(kāi)發(fā)惡意代碼：即便是不具備編碼技能的威脅者也能使用AI工具創(chuàng)建惡意軟件和其他代碼。如今，許多AI工具都能通過(guò)簡(jiǎn)單的指令或輸入來(lái)修改或創(chuàng)建代碼。通過(guò)創(chuàng)建自定義腳本、開(kāi)發(fā)新的惡意軟件變體，以及不斷改進(jìn)工具，威脅者能夠避免被發(fā)現(xiàn)并提高攻擊效果。
·自動(dòng)利用漏洞：AI可用于自動(dòng)發(fā)現(xiàn)和利用應(yīng)用或系統(tǒng)中的漏洞。借助機(jī)器學(xué)習(xí)技術(shù)，威脅者能快速發(fā)現(xiàn)弱點(diǎn)并大規(guī)模發(fā)起有針對(duì)性的攻擊。
·深度偽造攻擊：AI生成的深度偽造視頻、圖像或音頻錄音可用于操縱或欺騙個(gè)人。威脅者利用AI技術(shù)編造出以假亂真的虛假內(nèi)容，損害企業(yè)和個(gè)人的聲譽(yù)或方便其發(fā)起更大范圍的網(wǎng)絡(luò)攻擊。
·提示注入：生成式AI工具容易受到提示注入攻擊，導(dǎo)致生成的輸出結(jié)果被威脅者操縱。通過(guò)讓這些工具以意想不到的方式回答問(wèn)題，威脅者便可以利用提示注入采集敏感信息，甚至執(zhí)行惡意代碼。
所有這些技術(shù)都讓威脅者能夠更加快速、有效地實(shí)施攻擊。從經(jīng)濟(jì)損失、數(shù)據(jù)泄露，到聲譽(yù)受損、運(yùn)營(yíng)中斷，這些攻擊可能導(dǎo)致非常嚴(yán)重的后果。此外，AI驅(qū)動(dòng)的威脅進(jìn)化迅速且適應(yīng)性強(qiáng)，令傳統(tǒng)網(wǎng)絡(luò)安全措施捉襟見(jiàn)肘。由此可見(jiàn)，企業(yè)正面臨前所未有的風(fēng)險(xiǎn)，他們需要采取具有前瞻性且適應(yīng)性強(qiáng)的防御措施，以AI防御對(duì)抗AI攻擊。
企業(yè)如何運(yùn)用AI應(yīng)對(duì)網(wǎng)絡(luò)攻擊
為有效應(yīng)對(duì)AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊，企業(yè)需要在防御策略中充分發(fā)揮AI的能力。采取使用AI技術(shù)的安全工具和策略已成為應(yīng)對(duì)攻擊的關(guān)鍵。
企業(yè)網(wǎng)絡(luò)安全方案中可以使用AI的關(guān)鍵方面包括：
·威脅檢測(cè)與分析：威脅檢測(cè)與分析是AI能夠產(chǎn)生重大影響的一個(gè)關(guān)鍵領(lǐng)域。使用AI技術(shù)的安全工具能夠通過(guò)實(shí)時(shí)分析大量數(shù)據(jù)，快速識(shí)別異�；顒�(dòng)和潛在的安全事件。借助機(jī)器學(xué)習(xí)算法，企業(yè)可以發(fā)現(xiàn)威脅，并提前采取措施降低風(fēng)險(xiǎn)。這些工具擁有實(shí)時(shí)響應(yīng)能力，可通過(guò)自動(dòng)調(diào)整防御措施應(yīng)對(duì)新出現(xiàn)的威脅。
·安全操作自動(dòng)化：使用AI技術(shù)的安全工具能自動(dòng)執(zhí)行各種安全任務(wù)，例如添加數(shù)據(jù)源、拼接不同的警報(bào)和擴(kuò)充安全細(xì)節(jié)等。AI還能通過(guò)快速分析和關(guān)聯(lián)安全事件、確定事件的嚴(yán)重程度，并提供建議和應(yīng)對(duì)措施，幫助實(shí)現(xiàn)事件響應(yīng)自動(dòng)化。這不僅可以減輕安全團(tuán)隊(duì)的負(fù)擔(dān)、提高效率，還能讓他們專(zhuān)注解決更復(fù)雜、更具戰(zhàn)略意義的安全問(wèn)題。高保真的自動(dòng)化能加快平均檢測(cè)時(shí)間（MTTD）和平均響應(yīng)時(shí)間（MTTR），減輕網(wǎng)絡(luò)攻擊的影響，更大程度地縮短漏洞窗口期。
·威脅情報(bào)分析：具有前瞻性的威脅情報(bào)和預(yù)測(cè)分析是網(wǎng)絡(luò)安全策略必不可少的組成部分。AI通過(guò)實(shí)時(shí)分析各種安全數(shù)據(jù)源，發(fā)現(xiàn)新出現(xiàn)的威脅并預(yù)測(cè)潛在的攻擊載體。比如企業(yè)可以充分利用對(duì)抗性AI技術(shù)來(lái)生成和了解攻擊，以此不斷改進(jìn)防御。借助AI，企業(yè)可以提前部署防御，從而在與對(duì)手的對(duì)抗中占得先機(jī)并在風(fēng)險(xiǎn)演變成全面攻擊之前將其化解。
通過(guò)實(shí)施這些策略，企業(yè)將提高其有效檢測(cè)和阻止網(wǎng)絡(luò)攻擊的能力。
未來(lái)趨勢(shì)和建議
展望未來(lái)，預(yù)計(jì)AI在網(wǎng)絡(luò)攻擊和防御中的作用將進(jìn)一步增強(qiáng)。威脅者將繼續(xù)改進(jìn)AI驅(qū)動(dòng)的攻擊技術(shù)，因此網(wǎng)絡(luò)安全策略也要不斷創(chuàng)新。為了在應(yīng)對(duì)AI驅(qū)動(dòng)的威脅時(shí)占得先機(jī)，建議企業(yè)優(yōu)先考慮這些事項(xiàng)：
·投資使用AI技術(shù)的網(wǎng)絡(luò)安全解決方案：建議企業(yè)將資源用于落實(shí)使用AI技術(shù)的防御系統(tǒng)，以便實(shí)時(shí)適應(yīng)不斷變化的威脅。
·合作并分享威脅情報(bào)：與業(yè)界同行和安全社區(qū)分享威脅情報(bào)能夠針對(duì)AI驅(qū)動(dòng)的攻擊加強(qiáng)集體防御。
·培養(yǎng)網(wǎng)絡(luò)安全意識(shí)文化：通過(guò)培訓(xùn)讓員工了解與AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊相關(guān)的風(fēng)險(xiǎn)和最佳實(shí)踐，強(qiáng)化企業(yè)的整體安全態(tài)勢(shì)。
·緊跟不斷發(fā)展的AI技術(shù)：企業(yè)應(yīng)隨時(shí)了解新興AI技術(shù)及其在網(wǎng)絡(luò)攻擊和防御活動(dòng)中的潛在應(yīng)用。
充分利用AI應(yīng)對(duì)網(wǎng)絡(luò)威脅
面對(duì)不斷變化的安全環(huán)境，企業(yè)需要意識(shí)到對(duì)手在攻擊中正愈發(fā)頻繁地使用AI，且只有將AI用于防御才能保護(hù)敏感數(shù)據(jù)、系統(tǒng)和基礎(chǔ)設(shè)施。
通過(guò)將AI用于威脅檢測(cè)、落實(shí)運(yùn)用AI技術(shù)的防御系統(tǒng)，以及獲得具有前瞻性的威脅情報(bào)，企業(yè)能夠加強(qiáng)自身的安全防御，并對(duì)AI驅(qū)動(dòng)的攻擊保持韌性。將AI應(yīng)用于安全環(huán)境不僅是為了跟上對(duì)手的步伐，更是為了在應(yīng)對(duì)風(fēng)險(xiǎn)時(shí)贏得先機(jī)。
