9月6日上午,在2024Inclusion·外灘大會(huì)“以AI守護(hù)AI 大模型時(shí)代的攻守之道”論壇上,國(guó)內(nèi)首個(gè)大模型攻防主題的科技賽事—“全球AI攻防挑戰(zhàn)賽”宣布正式啟動(dòng)。該賽事聚焦AI大模型產(chǎn)業(yè)實(shí)踐,設(shè)計(jì)了攻、防雙向賽道,邀請(qǐng)各路白帽黑客、技術(shù)人才分別進(jìn)行針對(duì)文生圖大模型“數(shù)據(jù)投毒”的攻防實(shí)戰(zhàn)演練,以及金融場(chǎng)景大模型生成內(nèi)容的防偽檢測(cè)競(jìng)賽,角逐百萬(wàn)元科技獎(jiǎng)金。
本次大賽由中國(guó)圖象圖形學(xué)學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟(CSA)大中華區(qū)聯(lián)合主辦,廣泛聯(lián)合清華大學(xué)、上海交通大學(xué)、浙江大學(xué)等C9高校及多家產(chǎn)學(xué)研組織共同發(fā)起,上海人工智能實(shí)驗(yàn)室作為技術(shù)合作單位。大賽旨在通過(guò)技術(shù)競(jìng)賽的形式,凝聚學(xué)界、行業(yè)力量,直面并解決大模型應(yīng)用中潛藏的風(fēng)險(xiǎn),助力全球AI產(chǎn)業(yè)健康可持續(xù)發(fā)展。
中國(guó)工程院院士、中國(guó)圖象圖形學(xué)學(xué)會(huì)理事長(zhǎng)王耀南在賽事啟動(dòng)環(huán)節(jié)表示,大模型時(shí)代,如何確保AI系統(tǒng)的安全可控、如何有效應(yīng)對(duì)供應(yīng)鏈中的潛在風(fēng)險(xiǎn),成為亟待解決的重要問(wèn)題。圖像圖形技術(shù)作為新一代信息技術(shù)領(lǐng)域的關(guān)鍵技術(shù),在大模型等多場(chǎng)景創(chuàng)新應(yīng)用,推動(dòng)圖像識(shí)別與安全技術(shù)創(chuàng)新發(fā)展。此次AI攻防挑戰(zhàn)賽,是中國(guó)圖象圖形學(xué)學(xué)會(huì)攜手螞蟻集團(tuán)等業(yè)界知名企業(yè)、機(jī)構(gòu),聚焦大模型AIGC賽道共同打造的全球性技術(shù)盛宴,從人臉驗(yàn)真到生成式內(nèi)容檢測(cè),期待挖掘出更多創(chuàng)新方案,更進(jìn)一步保障大模型應(yīng)用安全和產(chǎn)業(yè)安全。
大賽設(shè)置了“攻擊”與“防守”兩大賽道,分別聚焦大模型自身安全和大模型生成內(nèi)容的防偽檢測(cè)及大模型濫用風(fēng)險(xiǎn)檢測(cè),涵蓋機(jī)器學(xué)習(xí)、圖像處理與計(jì)算機(jī)視覺、數(shù)據(jù)處理等多個(gè)算法領(lǐng)域的考點(diǎn)。
其中,“攻擊賽道”聚焦于文生圖大模型的實(shí)際應(yīng)用風(fēng)險(xiǎn)問(wèn)題。參賽選手可通過(guò)目標(biāo)劫持、情景帶入、邏輯嵌套等多樣化的動(dòng)態(tài)攻擊誘導(dǎo)技術(shù),誘發(fā)大模型輸出風(fēng)險(xiǎn)圖像,以此激活大模型的潛在弱點(diǎn)和漏洞,增強(qiáng)大模型生圖的安全免疫能力�！胺朗刭惖馈眲t聚焦于AI核身中的金融場(chǎng)景憑證篡改檢測(cè),以應(yīng)對(duì)日益嚴(yán)峻的Deepfake深度偽造及AIGC假證風(fēng)險(xiǎn)。大賽提供百萬(wàn)級(jí)憑證篡改數(shù)據(jù)訓(xùn)練集,參賽選手需要研發(fā)和訓(xùn)練模型,并利用對(duì)應(yīng)的測(cè)試集評(píng)估模型有效性,給出數(shù)據(jù)偽造概率值。
為保證大賽公平公正,同時(shí)更好地指導(dǎo)選手,大賽評(píng)委團(tuán)由多位學(xué)術(shù)界與工業(yè)界專家共同組成。中國(guó)工程院院士、中國(guó)圖象圖形學(xué)學(xué)會(huì)理事長(zhǎng)王耀南,云安聯(lián)盟(CSA)大中華區(qū)主席李雨航擔(dān)任本次大賽的指導(dǎo)委員會(huì)專家,來(lái)自清華大學(xué)、上海交通大學(xué)、上海人工智能實(shí)驗(yàn)室、中國(guó)圖象圖形學(xué)學(xué)會(huì)等單位的近30位知名學(xué)者將參與大賽的組織及評(píng)審工作。
本次大賽于9月6日正式啟動(dòng)報(bào)名,11月初完成賽事評(píng)審。即日起,選手可通過(guò)中國(guó)圖象圖形學(xué)學(xué)會(huì)官網(wǎng)、阿里云天池大數(shù)據(jù)眾智平臺(tái)官網(wǎng)等渠道報(bào)名。大賽全程設(shè)有近100萬(wàn)元獎(jiǎng)金池,用以選拔及表彰領(lǐng)域內(nèi)的優(yōu)秀人才。
