歐盟發(fā)布的全球首個(gè)《人工智能法案》（EU AI Act）將于8月1日在整個(gè)歐盟范圍內(nèi)生效，這也是迄今為止全球發(fā)布的一項(xiàng)最為全面的針對(duì)人工智能監(jiān)管的法案。
歐盟《人工智能法案》也為全球人工智能監(jiān)管奠定了基礎(chǔ)，旨在實(shí)現(xiàn)與《通用數(shù)據(jù)保護(hù)條例》（GDPR）相同的“布魯塞爾效應(yīng)”。
對(duì)于監(jiān)管者而言，最新法案的發(fā)布適應(yīng)了人工智能發(fā)展的浪潮，為保護(hù)公民免受人工智能風(fēng)險(xiǎn)侵害提供法律依據(jù)；但對(duì)于企業(yè)而言，這也無(wú)疑增加了合規(guī)成本，它們同時(shí)質(zhì)疑嚴(yán)厲的監(jiān)管措施能否對(duì)創(chuàng)新起到促進(jìn)作用。
根據(jù)最新的法案，違反規(guī)定的企業(yè)將被處以最高3500萬(wàn)歐元或最高年收入7%的行政罰款，以較高者為準(zhǔn)。
上海大邦律師事務(wù)所合伙人游云庭對(duì)第一財(cái)經(jīng)記者表示：“GDPR實(shí)施以來(lái)，企業(yè)的成本，尤其是合規(guī)成本是大幅上升的。預(yù)計(jì)《人工智能法案》也一樣，意味著企業(yè)針對(duì)新的規(guī)定必須進(jìn)行投資，并且任命專門的人員去研究合規(guī)政策，另外，處理違規(guī)通知、公開披露制度等也會(huì)增加成本。”
從GDPR到AI法案
歐盟《人工智能法案》于今年3月在歐洲議會(huì)通過(guò)后，又于今年5月獲得歐盟理事會(huì)批準(zhǔn)。歐盟表示，這項(xiàng)法案旨在避免高風(fēng)險(xiǎn)人工智能的侵害，同時(shí)促進(jìn)創(chuàng)新，確立歐洲在該技術(shù)領(lǐng)域的領(lǐng)先地位。
歐盟一直走在技術(shù)監(jiān)管的最前沿。歐盟內(nèi)部市場(chǎng)專員蒂埃里·布雷頓（Thierry Breton）此前表示：“歐洲現(xiàn)在是人工智能領(lǐng)域的全球標(biāo)準(zhǔn)制定者�！�
歐盟《人工智能法案》未來(lái)三年內(nèi)將分階段實(shí)施。鑒于分層、基于風(fēng)險(xiǎn)的方法，最嚴(yán)苛的義務(wù)將適用于相對(duì)較窄范圍的“高風(fēng)險(xiǎn)”的應(yīng)用，包括信用評(píng)分和員工監(jiān)控等。
自GDPR于2018年正式生效以來(lái)，歐盟一直是人工智能監(jiān)管領(lǐng)域的全球領(lǐng)導(dǎo)者。GDPR法規(guī)為個(gè)人數(shù)據(jù)的使用設(shè)定了一個(gè)全球黃金標(biāo)準(zhǔn)框架，而個(gè)人數(shù)據(jù)對(duì)于人工智能系統(tǒng)的開發(fā)和運(yùn)行至關(guān)重要，并且已經(jīng)預(yù)見到了它們具有實(shí)現(xiàn)自動(dòng)化決策的能力。
如今憑借《人工智能法案》，歐盟成為全球首個(gè)針對(duì)人工智能采用特定監(jiān)管框架的司法管轄區(qū)，該框架將為整個(gè)歐盟的人工智能的開發(fā)、應(yīng)用和監(jiān)管提供一致的規(guī)則。
年利達(dá)律師事務(wù)所分析認(rèn)為，GDPR和《人工智能法案》不同之處在于，GDPR是一項(xiàng)基于原則的立法，而《人工智能法案》更像是一項(xiàng)產(chǎn)品安全法規(guī)，融合了基本權(quán)利。GDPR總體上適用于一切，而《人工智能法案》則側(cè)重于產(chǎn)品和應(yīng)用程序投放市場(chǎng)的情況，但不包括純技術(shù)的研究和開發(fā)。
“這意味著愿意開發(fā)人工智能系統(tǒng)的公司仍然可以按照他們?cè)O(shè)想的方法去做，但必須考慮將其投放市場(chǎng)時(shí)適用新規(guī)定的要求�！蹦昀_(dá)律師事務(wù)所合伙人、歐洲TMT業(yè)務(wù)負(fù)責(zé)人奧弗斯特里滕（Tanguy Van Overstraeten）表示。
為此，新法規(guī)要求歐盟每個(gè)成員國(guó)必須至少建立一個(gè)人工智能監(jiān)管沙盒。沙盒旨在通過(guò)提供一個(gè)受監(jiān)管的環(huán)境，讓人工智能系統(tǒng)在監(jiān)管監(jiān)督下進(jìn)行測(cè)試，從而促進(jìn)創(chuàng)新和合規(guī)。
中國(guó)企業(yè)出海歐盟，合規(guī)成本提升
對(duì)于在快速發(fā)展的法律和監(jiān)管環(huán)境中生存的全球性企業(yè)而言，管理合規(guī)性挑戰(zhàn)對(duì)于維護(hù)與監(jiān)管機(jī)構(gòu)、客戶和員工等各類利益相關(guān)各方的信任至關(guān)重要。
《人工智能法案》的推出是在歐洲成為中國(guó)科技公司重要出海目的地的大背景下。這些企業(yè)中，有些已經(jīng)在歐盟開展業(yè)務(wù)，也有些正在積極評(píng)估歐洲市場(chǎng)的潛力。除了騰訊、TikTok這些科技巨頭，近年來(lái)也有越來(lái)越多中小型企業(yè)進(jìn)入歐洲市場(chǎng)，例如電商平臺(tái)Shein，以及一些軟件和游戲公司。
針對(duì)歐盟《人工智能法案》實(shí)施后，企業(yè)是否會(huì)增加對(duì)合規(guī)成本的投入，Shein方面對(duì)第一財(cái)經(jīng)回應(yīng)稱，尚不了解這方面的情況。
一家正在考慮出海歐洲的上海人工智能軟件公司創(chuàng)始人對(duì)第一財(cái)經(jīng)記者表示：“我們對(duì)歐洲出海非常有興趣，歐盟新法規(guī)很顯然也是我們?cè)谠u(píng)估出海過(guò)程中會(huì)綜合考慮的因素�！�
另一家提供自動(dòng)駕駛技術(shù)的科技初創(chuàng)公司負(fù)責(zé)人也告訴記者：“歐洲是我們明年將會(huì)認(rèn)真考慮的出海目的地，歐盟的法案增加企業(yè)合規(guī)成本將是必然的，但具體程度還需要繼續(xù)觀望。”
有科技公司表示，它們將不僅要花費(fèi)更多時(shí)間和金錢來(lái)遵守歐盟的新規(guī)則，同時(shí)還可能面對(duì)過(guò)度監(jiān)管導(dǎo)致阻礙創(chuàng)新的隱患。
一家小型軟件公司Dayta AI對(duì)媒體表示，預(yù)計(jì)歐盟法規(guī)的合規(guī)和評(píng)估要求將使該公司的研發(fā)和測(cè)試成本增加20%至40%，增加的支出將包括額外的文件、審計(jì)和某些技術(shù)措施。
該公司還稱，歐盟關(guān)于“訓(xùn)練數(shù)據(jù)的質(zhì)量、相關(guān)性和代表性”的規(guī)定將要求企業(yè)在選擇數(shù)據(jù)源時(shí)更加謹(jǐn)慎；而對(duì)數(shù)據(jù)質(zhì)量的關(guān)注最終將提高企業(yè)解決方案的性能及公平性。
歐盟的法案一貫強(qiáng)調(diào)用戶權(quán)利，并對(duì)個(gè)人數(shù)據(jù)的使用施加嚴(yán)格的限制。對(duì)此， 奧弗斯特里滕表示：“歐盟的機(jī)構(gòu)可能給人一種過(guò)度監(jiān)管的印象，但實(shí)際上是想為推動(dòng)創(chuàng)新提供法律上的確定性，并創(chuàng)造一個(gè)可信任的環(huán)境�！�
他認(rèn)為，這一綜合框架為整個(gè)歐盟提供了一致的規(guī)則，也會(huì)對(duì)在歐盟沒(méi)有實(shí)體存在的企業(yè)產(chǎn)生影響。例如，一家美國(guó)銀行可能已經(jīng)為美國(guó)市場(chǎng)開發(fā)了一種基于人工智能的信用評(píng)分工具，并打算在歐盟推出或在美國(guó)使用它來(lái)評(píng)估歐盟自然人的信用度，但這時(shí)就會(huì)受到歐盟《人工智能法案》的約束。
影響力波及中美及全球
年利達(dá)律師事務(wù)所上周發(fā)布了一份最新報(bào)告預(yù)估，歐盟《人工智能法案》的影響力將超出歐盟范圍，波及全球，尤其是會(huì)影響中國(guó)和美國(guó)相關(guān)法律法規(guī)的制定。
報(bào)告中強(qiáng)調(diào)，歐盟《人工智能法案》的地域范圍異常廣泛。“雖然在實(shí)踐中，許多人工智能系統(tǒng)只需承擔(dān)輕微的義務(wù)，但這項(xiàng)立法的地域范圍異常廣泛，會(huì)涵蓋許多在歐盟沒(méi)有實(shí)際存在的國(guó)際組織，包括在歐盟投入使用或投放市場(chǎng)的人工智能系統(tǒng)提供商，以及輸出在歐盟使用的人工智能系統(tǒng)提供商或部署者�！眻�(bào)告寫道。
自2022年11月OpenAI首次發(fā)布ChatGPT以來(lái)，生成式人工智能（GenAI）服務(wù)邁入高速發(fā)展階段。歐盟新規(guī)的通過(guò)和實(shí)施反映了全球競(jìng)相制定人工智能護(hù)欄的競(jìng)爭(zhēng)。中國(guó)也加速制定對(duì)人工智能監(jiān)管的法規(guī)。
去年8月，中國(guó)發(fā)布了首個(gè)針對(duì)生成式AI服務(wù)的法規(guī)——《生成式人工智能服務(wù)管理暫行辦法》，在AI監(jiān)管方面處于領(lǐng)先地位，也是全球首批建立算法注冊(cè)中心并頒布關(guān)于生成人工智能強(qiáng)制性法規(guī)的市場(chǎng)之一。按照規(guī)定，生成式人工智能提供商在提供面向公眾的服務(wù)時(shí)必須獲得許可。
中國(guó)此前還出臺(tái)了其他規(guī)則來(lái)規(guī)范與人工智能相關(guān)的服務(wù)和產(chǎn)品，例如算法推薦和深度合成（或“深度偽造”）服務(wù)。
今年5月，國(guó)務(wù)院印發(fā)的《國(guó)務(wù)院2024年度立法工作計(jì)劃》中，“人工智能法草案”再次被列入預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議項(xiàng)目。
年利達(dá)上海合伙人、中國(guó)區(qū)TMT業(yè)務(wù)負(fù)責(zé)人羅世軒（Alex Roberts）表示，歐盟和中國(guó)人工智能法規(guī)的主要原則非常相似，包括對(duì)客戶透明、保護(hù)數(shù)據(jù)、對(duì)利益相關(guān)者負(fù)責(zé)、在產(chǎn)品上寫明說(shuō)明和指導(dǎo)意見等。
“我們現(xiàn)在也看到亞太地區(qū)的一些政府在制定自己的人工智能立法時(shí)，大量借鑒了歐盟的數(shù)據(jù)保護(hù)和人工智能法規(guī)，這也有助于實(shí)現(xiàn)跨市場(chǎng)的一致性規(guī)則。”他說(shuō)道。
長(zhǎng)期以來(lái)，美國(guó)企業(yè)歷來(lái)都是數(shù)據(jù)隱私監(jiān)管的追隨者，但伴隨著人工智能的激進(jìn)發(fā)展，美國(guó)也正朝著更嚴(yán)格的監(jiān)管方向邁進(jìn)。在拜登人工智能行政命令和人工智能權(quán)利法案的推動(dòng)下，美國(guó)也致力于引領(lǐng)全球關(guān)于人工智能風(fēng)險(xiǎn)管理和合規(guī)性的討論。
美國(guó)各州和城市正在逐步推出新法律，最引人注目的是科羅拉多州的《人工智能法案》，它采用與歐盟《人工智能法案》類似的分類系統(tǒng)，旨在防止算法歧視，預(yù)計(jì)將對(duì)各行各業(yè)的企業(yè)產(chǎn)生重大影響。
