飛象網訊 2024年全國兩會期間，全國政協(xié)委員、奇安信董事長齊向東建議，應大力探索“AI+安全”創(chuàng)新應用，搶占國家安全的人工智能戰(zhàn)略制高點，提高我國應對網絡空間安全風險與不確定性的能力，護航中國式現(xiàn)代化行穩(wěn)致遠。
一、人工智能促進生產力躍升，蘊含極大的安全挑戰(zhàn)，深刻改變國家安全格局。
1、AI加劇安全威脅，如數(shù)據(jù)泄露、欺詐攻擊、社會治理安全等。以 ChatGPT 為代表的生成式 AI 能快速生成釣魚郵件、編寫惡意軟件與代碼等，導致攻擊數(shù)量增加，AI 欺詐事件頻發(fā)。數(shù)據(jù)顯示，ChatGPT等生成式 AI 導致網絡釣魚郵件攻擊增長 135%。生成式AI還帶來了數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問題，如ChatGPT在對話交互過程中能獲取用戶數(shù)據(jù)，加劇數(shù)據(jù)泄露風險。不法分子還能利用“深度偽造”換臉變聲、偽造視頻，“眼見未必為實”將成為常態(tài)，網絡詐騙大增，甚至引發(fā)社會認知混亂。
2、AI加劇攻防失衡，利用和針對 AI的攻擊層出不窮，網絡安全“易攻難守”。在AI惡意利用方面，人工智能大幅降低了網絡攻擊門檻，不懂代碼、不懂技術的普通人也能成為黑客，增加了網絡攻擊數(shù)量，專業(yè)的黑客組織可以利用人工智能對網絡攻擊進行改造升級，比如，利用AI制作惡意軟件、生成規(guī)避殺毒軟件檢測的代碼等，網絡攻擊能力將出現(xiàn)躍升；在針對 AI 算法攻擊方面，機器視覺攻擊、數(shù)據(jù)源污染等攻擊頻發(fā)，攻擊者能通過對抗樣本、數(shù)據(jù)投毒、模型竊取等方式對AI算法進行攻擊，使其產生錯誤判斷，同時由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范。
3、AI加劇軍事威脅，AI武器化趨勢顯現(xiàn)。一方面，人工智能可以被用在“機器人殺手”等致命性自主武器(LAW)上，通過自主識別攻擊目標、遠程自動化操作等，隱藏攻擊者來源、建立對抗優(yōu)勢；另一方面，人工智能可以將網絡、決策者和操作者相連接，讓軍事行動針對性更強、目標更明確、打擊范圍更廣，越來越多國家開始探索AI在軍事領域的應用。數(shù)據(jù)顯示，2024財年，美國國防部計劃增加與AI相關的網絡安全投資，總額約2457億美元，其中674億美元用于網絡IT和電子戰(zhàn)能力。
二、抓住三個關鍵，創(chuàng)新發(fā)展“AI+安全”，提高應對網絡空間安全風險與不確定性的能力，護航中國式現(xiàn)代化。
1. 從供給側看，開展聯(lián)合創(chuàng)新，圍繞攻防實戰(zhàn)和應用場景實現(xiàn)“AI+安全”尖端技術研發(fā)突破。技術創(chuàng)新產品需要在應用中更新迭代走向成熟，特別是人工智能大模型，數(shù)據(jù)樣本越豐富，成長速度越快。建議鼓勵各行業(yè)頭部企業(yè)與專業(yè)安全廠商結成創(chuàng)新聯(lián)合體，在關鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新，共同探索大模型安全創(chuàng)新產品在威脅檢測、漏洞挖掘、指揮研判等方面的應用，在實戰(zhàn)中推動“AI+安全”進入越用越強的良性循環(huán)。
2. 從需求側看，強化政策牽引，推動“AI+安全”技術創(chuàng)新產品在各行業(yè)落地應用。把AI用于網絡安全防護是新事物，政企機構面對大模型安全創(chuàng)新產品產生疑慮是正常的。積極的政策引導是推動新事物落地應用、成長壯大的催化劑。以新能源汽車產業(yè)的發(fā)展為例，最初消費者對其安全性有疑慮，密集出臺的財稅補貼、“雙積分”制度等一系列政策，逐步改變了消費者觀念，拉動了新能源汽車產業(yè)的發(fā)展和技術進步。建議像支持新能源汽車的發(fā)展一樣，支持“AI+安全”發(fā)展，設置專項基金，對研發(fā)創(chuàng)新“AI+安全”產品的企業(yè)，給予政府基金、貼息貸款或科研項目等支持；對率先取得技術突破，實現(xiàn)成果轉化的科研機構和企業(yè)給予獎勵；對積極使用相關技術、產品和服務的企業(yè)給予相應補貼，推動“AI+安全”相關產業(yè)取得更多科技創(chuàng)新成果。
3.從人才側看，壯大“AI+安全”領域的實戰(zhàn)型、復合型人才隊伍。隨著AI技術的普及和應用領域的不斷擴展，我國AI人才嚴重短缺。工信部數(shù)據(jù)顯示，人工智能不同技術方向崗位的人才供需比均低于0.4，其中智能語音和計算機視覺的崗位人才供需比分別為0.08、0.09，相關人才極度稀缺。建議充分發(fā)揮民營企業(yè)在人才培養(yǎng)上的優(yōu)勢，鼓勵成立校企共同體，在實踐中培養(yǎng)更多大數(shù)據(jù)、人工智能、網絡安全等新興產業(yè)領軍人才，為我國搶抓人工智能機遇培育人才。
