加利福尼亞州議會批準(zhǔn)了一項(xiàng)備受爭議的人工智能安全法案，要求企業(yè)確保其技術(shù)不會造成重大傷害。
這項(xiàng)名為SB 1047的法案得到了一系列美國知名人士的批評和贊揚(yáng)�，F(xiàn)在，這項(xiàng)法案將回到州參議院進(jìn)行確認(rèn)投票，可能進(jìn)行修改，此后將提交給州長加文·紐森（Gavin Newsom）。該法案已經(jīng)在州眾議院以41票贊成、9票反對獲得通過。
SB 1047法案規(guī)定，開發(fā)強(qiáng)大人工智能模型的公司必須采取“合理的謹(jǐn)慎措施”，確保其技術(shù)不會造成“嚴(yán)重傷害”，比如大規(guī)模傷亡或超過5億美元的財(cái)產(chǎn)損失。這項(xiàng)法案由加利福尼亞州參議員斯科特·維納（Scott Wiener）提出，于今年5月在州參議院獲得通過。該法案將要求企業(yè)采取預(yù)防措施，比如引入可以隨時(shí)關(guān)閉其技術(shù)的“終止開關(guān)”。該法案還要求將模型提交給第三方測試，以確保將嚴(yán)重風(fēng)險(xiǎn)降至最低水平。
此外，該法案還將為希望分享安全隱患的人工智能公司員工提供舉報(bào)人保護(hù)。不遵守該法案的公司可能會被加州總檢察長起訴。
“創(chuàng)新和安全可以攜手并進(jìn)，而加州正在引領(lǐng)這一潮流，”維納在聲明中說，“通過這次投票，州眾議院邁出了真正具有歷史意義的一步，積極主動地開展工作，以確保一項(xiàng)令人興奮的新技術(shù)在發(fā)展過程中保護(hù)公眾利益。”他還稱該法案是一項(xiàng)“簡單易行的常識性措施”，將許多大公司已經(jīng)做出的安全承諾編纂成法律。
在過去的幾個月里，該法案遭到了許多主要科技領(lǐng)袖、初創(chuàng)公司和風(fēng)險(xiǎn)投資家的激烈反對，他們認(rèn)為該法案代表了政府對一項(xiàng)仍處于起步階段的技術(shù)的過度干預(yù)，可能會扼殺加利福尼亞州的科技創(chuàng)新。上周，OpenAI公開表示反對該法案，認(rèn)為此類政策應(yīng)在聯(lián)邦層面而非州層面實(shí)施。
包括美國眾議員羅•卡納（Ro Khanna）、舊金山市長倫敦•布里德（London Breed）等政界人士也對該法案表示反對，他們對科技行業(yè)的擔(dān)憂表示認(rèn)同，即該法案可能會阻礙加州在人工智能創(chuàng)新方面的領(lǐng)導(dǎo)地位。
但在這次投票前的最后階段，該法案也贏得了人工智能領(lǐng)域一些重要人物的支持。8月27日，埃隆·馬斯克（Elon Musk）出人意料地表示了支持，盡管他說這是一個“艱難的決定，會讓一些人不高興”。OpenAI的競爭對手Anthropic以注重安全而著稱，也謹(jǐn)慎地支持了這項(xiàng)法案，并在上周表示，“收益可能大于成本”，而且可以切實(shí)地實(shí)施這些條款。在維納實(shí)施了該公司建議的幾項(xiàng)修正后，Anthropic對該法案更加支持。
面對批評者，維納為該法案進(jìn)行了辯護(hù)，強(qiáng)調(diào)其條款僅適用于花費(fèi)超過1億美元訓(xùn)練大型模型或花費(fèi)1000萬美元微調(diào)模型的公司，這將使大多數(shù)規(guī)模較小的初創(chuàng)公司免受影響。這位議員還表示，雖然他會支持聯(lián)邦立法，但國會在科技監(jiān)管方面歷來行動遲緩，在缺乏全國性行動的情況下，他認(rèn)為加州有責(zé)任發(fā)揮帶頭作用。
現(xiàn)在，隨著SB 1047法案提交給州長紐森，有關(guān)該法案的爭論還將繼續(xù)。OpenAI、科技孵化器Y Combinator和風(fēng)險(xiǎn)投資公司Andreessen Horowitz（SB 1047的批評者）都注冊了游說人員為該法案工作。
