人工智能領(lǐng)域最具影響力的四家公司將聯(lián)手成立行業(yè)機構(gòu)，負(fù)責(zé)監(jiān)督該領(lǐng)域最先進(jìn)模型的安全開發(fā)。
據(jù)英國《衛(wèi)報》7月26日報道，谷歌、微軟、OpenAI及Anthropic將組建“前沿模型論壇”（The Frontier Model Forum），該行業(yè)組織將專注于“安全、負(fù)責(zé)任地”開發(fā)人工智能前沿模型。
報道稱，“前沿模型”是指能力超過最先進(jìn)的現(xiàn)有模型、能夠執(zhí)行各種任務(wù)的人工智能模型。所有開發(fā)前沿模型的組織均有資格成為“前沿模型論壇”成員。
微軟總裁布拉德・史密斯（Brad Smith）表示：“開發(fā)人工智能技術(shù)的公司有責(zé)任確保其安全性及可靠性，并使其始終處于人類控制之下。這一倡議希望將科技界團結(jié)起來，負(fù)責(zé)任地推進(jìn)人工智能發(fā)展并應(yīng)對挑戰(zhàn)，從而造福全人類。”
“前沿模型論壇”成員表示，其主要目標(biāo)是推進(jìn)人工智能安全方面的相關(guān)研究，如制定評估人工智能模型的標(biāo)準(zhǔn)、與政治家和學(xué)者探討人工智能的安全風(fēng)險、幫助探索人工智能在氣候問題及癌癥檢測等多領(lǐng)域的積極作用等。
在AI四巨頭成立行業(yè)機構(gòu)的同時，推進(jìn)人工智能技術(shù)監(jiān)管工作的步伐也在加快。7月21日，“前沿模型論壇”成員及其他多家科技公司在白宮與美國總統(tǒng)拜登會面后，同意采取新的人工智能保障措施。據(jù)悉，科技公司將允許獨立專家測試人工智能模型，同時還將為人工智能內(nèi)容添加水印，幫助人們更好地辨別通過深度偽造等技術(shù)形成的誤導(dǎo)性內(nèi)容。
《衛(wèi)報》報道稱，白宮及科技公司的上述承諾遭到了一些活動人士的質(zhì)疑。他們認(rèn)為，科技行業(yè)“有不遵守此類承諾的歷史”。
英國薩里大學(xué)人工智能研究所博士安德魯·羅戈斯基（Andrew Rogoyski）警告稱，對人工智能的監(jiān)管不應(yīng)完全由科技公司主導(dǎo)。
“我非常擔(dān)心政府已經(jīng)將人工智能領(lǐng)域的主導(dǎo)權(quán)拱手讓給了私營部門，這很可能造成無法挽回的后果。人工智能是一項潛力巨大的技術(shù)，該技術(shù)的監(jiān)管者應(yīng)當(dāng)能夠代表未來將受到該技術(shù)影響的人、經(jīng)濟與社會，給出獨立的判斷與見解�！�
