李彥宏 全國政協(xié)委員、百度董事長兼CEO
立法本身不應(yīng)該太超前，很多時候新事物剛剛出現(xiàn)，讓它稍微跑一段時間然后再總結(jié)經(jīng)驗，找到規(guī)律再來立法。其次，在不同的領(lǐng)域，涉及的立法都不一樣，比如說像無人駕駛，在過去就沒有相關(guān)的法律。
劉慶峰 全國人大代表、科大訊飛董事長
人工智能立法首先要保障人類的生命和財產(chǎn)安全，也就是說人工智能一定是要在風(fēng)險可控范圍內(nèi)來使用，比如說在自動駕駛領(lǐng)域，它的應(yīng)用門檻和標(biāo)準(zhǔn)是什么；在醫(yī)療領(lǐng)域，人工智能要達到一定的準(zhǔn)確度，而且最好通過一定的資質(zhì)認(rèn)證。
3月4日上午,十三屆全國人大二次會議舉行新聞發(fā)布會，大會發(fā)言人張業(yè)遂表示，已將與人工智能密切相關(guān)的立法項目列入立法規(guī)劃。
張業(yè)遂稱，全國人大常委會已將一些與人工智能密切相關(guān)的立法項目，如數(shù)字安全法、個人信息保護法和修改科學(xué)技術(shù)進步法等，列入本屆五年的立法規(guī)劃。同時把人工智能方面立法列入抓緊研究項目，圍繞相關(guān)法律問題進行深入的調(diào)查論證，努力使人工智能創(chuàng)新發(fā)展，努力為人工智能的創(chuàng)新發(fā)展提供有力的法治保障。
從2017年首次被寫進政府工作報告，到去年受到多位兩會代表委員關(guān)注，人工智能儼然已經(jīng)成為兩會的焦點。2018年國務(wù)院總理李克強作政府工作報告時提到，發(fā)展壯大新動能。做大做強新興產(chǎn)業(yè)集群，實施大數(shù)據(jù)發(fā)展行動，加強新一代人工智能研發(fā)應(yīng)用，在醫(yī)療、養(yǎng)老、教育、文化、體育等多領(lǐng)域推進“互聯(lián)網(wǎng)+”。
隨著人工智能的迅猛發(fā)展，其對社會、經(jīng)濟、文化等領(lǐng)域已經(jīng)產(chǎn)生越來越深遠(yuǎn)的影響。同時，人工智能面臨倫理道德框架、隱私與安全保護等問題，為了讓人工智能實現(xiàn)健康發(fā)展，急需一套完善的法律體系與之匹配。
從追趕到全球領(lǐng)先
雖然人工智能最早的浪潮起源于上世紀(jì)50年代的美國，但經(jīng)歷了近70年來的曲折發(fā)展，中國已經(jīng)成為全球領(lǐng)先的人工智能大國。根據(jù)聯(lián)合國下屬的世界知識產(chǎn)權(quán)組織（WIPO）公布的研究報告《技術(shù)趨勢2019：人工智能》顯示，在全球人工智能領(lǐng)域的競爭中，中國和美國處于領(lǐng)先地位。
報告指出，AI專利申請最多的前20家科研機構(gòu)中，有17家來自中國；AI相關(guān)科學(xué)出版物數(shù)量排名前20的科研機構(gòu)中，10家來自中國。全球前30名AI專利申請方中的4家科研機構(gòu)，有3家來自中國。
另據(jù)CNNIC第43次調(diào)查報告顯示，截至2018年6月，我國人工智能企業(yè)數(shù)量已達到1011家，主要集中在北京、上海和廣東。其中，北京擁有395家企業(yè)，成為全球人工智能企業(yè)最多的城市。
去年，習(xí)近平總書記在中共中央政治局第九次集體學(xué)習(xí)時強調(diào)指出，加快發(fā)展新一代人工智能是我們贏得全球科技競爭主動權(quán)的重要戰(zhàn)略抓手，是推動我國科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的重要戰(zhàn)略資源。
他在講話中特別指出，人工智能具有溢出帶動性很強的“頭雁”效應(yīng)�！霸谝苿踊ヂ�(lián)網(wǎng)、大數(shù)據(jù)、超級計算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)的驅(qū)動下，人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放、自主操控等新特征，正在對經(jīng)濟發(fā)展、社會進步、國際政治經(jīng)濟格局等方面產(chǎn)生重大而深遠(yuǎn)的影響�！�
立法工作有待加快
中國在熱情擁抱新一輪人工智能熱潮的同時，從政府部門到產(chǎn)學(xué)研各界對于人工智能發(fā)展所涉及的法律及倫理問題給予了高度關(guān)注。2018世界人工智能大會開幕式上，習(xí)近平總書記強調(diào)，處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題。
與電商法歷時5年才正式落地不同，人工智能立法更早被兩會代表委員關(guān)注。去年兩會期間，全國政協(xié)委員、百度董事長兼CEO李彥宏就在提案中表示，希望國家出臺政策鼓勵人工智能的開放平臺與加速自動駕駛相關(guān)立法。
目前，中國人工智能的總體政策在2017年7月國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中得到體現(xiàn)，但該規(guī)劃只是要求對人工智能在部分領(lǐng)域初步建立倫理規(guī)范和政策法規(guī)，尚未上升至法律層面。由此可見，人工智能的立法仍有待加快。
全國人大代表、湖北得偉君尚律師事務(wù)所首席執(zhí)行合伙人蔡學(xué)恩認(rèn)為，在人工智能行為倫理道德框架、人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護、信息安全利用等問題上的研究均需要加強。
立法有何挑戰(zhàn)？
人工智能的立法需盡快提上議程，但亦應(yīng)注意到人工仍屬于新生事物，如何把握適當(dāng)?shù)倪吔缡顷P(guān)鍵，尤其是考慮到人工智能可以應(yīng)用到金融、醫(yī)療、交通等多個場景中，出臺一部總括性的法律可能會阻礙人工智能的發(fā)展。
今年兩會前夕，李彥宏在接受新京報記者采訪時就表示，人工智能立法本身不應(yīng)該太超前，“很多時候新事物剛剛出現(xiàn)，讓它稍微跑一段時間然后再總結(jié)經(jīng)驗，找到規(guī)律再來立法�！�
李彥宏表示，在不同的領(lǐng)域，涉及的立法都不一樣，比如無人駕駛，在過去就沒有相關(guān)的法律�！氨本┦泻苤匾暉o人駕駛，很快有相應(yīng)的法律來保障我們的創(chuàng)新能夠有序進行。”
全國人大代表、科大訊飛董事長劉慶峰亦向記者表示，以AI+醫(yī)療為例，雖然機器給病人診斷的平均準(zhǔn)確率比一些基層的農(nóng)村醫(yī)生要高，但是從法律層面來說機器不能給病人看病，因此更多的時候是將機器得出的結(jié)論交給醫(yī)生，讓醫(yī)生來做決定�！ ”景娌蓪�/新京報記者 陸一夫
■ 訪談
李彥宏：人工智能立法不能太超前
讓它跑一段總結(jié)經(jīng)驗再立法；無人駕駛、智能醫(yī)療等領(lǐng)域都需要立法
全國政協(xié)委員、百度董事長兼CEO李彥宏今年的三項提案均與人工智能相關(guān)，分別是構(gòu)建智能交通解決方案，讓老百姓出行更順暢；完善電子病歷管理制度，促進智能醫(yī)療應(yīng)用探索，助力“健康中國”戰(zhàn)略實施；加強人工智能倫理研究，打造智能社會發(fā)展基石。
新京報：關(guān)于人工智能立法，你有哪些建議？
李彥宏：首先，我覺得立法本身不應(yīng)該太超前，很多時候新事物剛剛出現(xiàn)，讓它稍微跑一段時間然后再總結(jié)經(jīng)驗，找到規(guī)律再來立法。其次，在不同的領(lǐng)域，涉及的立法都不一樣，比如說像無人駕駛。北京市很重視無人駕駛，很快有相應(yīng)的法律來保障我們的創(chuàng)新能夠有序進行，到今天百度已經(jīng)拿到了50張左右的自動駕駛測試車證。
醫(yī)療方面也需要相關(guān)的立法，統(tǒng)一電子病歷的格式，必須要有什么樣的字段，要有什么樣的內(nèi)容，不同的醫(yī)院、機構(gòu)之間進行交換，必須保護患者的隱私等等，都應(yīng)該通過立法的方式來解決。
新京報：如何解決互聯(lián)網(wǎng)和AI發(fā)展過程中遇到的數(shù)據(jù)孤島的問題？
李彥宏：以電子病歷為例，大多數(shù)好的醫(yī)院都有電子化病歷。但是這些病歷相互之間沒有打通，我在這個醫(yī)院看病之后，到了另外一個醫(yī)院還要重新做一遍檢查。我覺得確實需要通過政府的力量制定相應(yīng)的標(biāo)準(zhǔn)，來推動數(shù)據(jù)共享。
新京報：在這個過程中怎么去保護用戶的數(shù)據(jù)隱私？
李彥宏：在共享的過程當(dāng)中，我們需要特別注意保護用戶的隱私，我覺得道理上大家都認(rèn)可，關(guān)鍵還是看執(zhí)行的過程當(dāng)中能否有一個好的機制來約束。
百度內(nèi)部若干年前提過兩個詞，一個叫“平臺化”，一個叫“接口化”。平臺化是指，我做一個東西，就爭取把它做成一個平臺，可以供其他部門的人使用。接口化是指把我的能力開放給你，我告訴你我的平臺能干什么，但是我不把背后的數(shù)據(jù)、源代碼給你。這樣一來，數(shù)據(jù)得到了保護，知識產(chǎn)權(quán)得到了保護。
通過平臺化、接口化的方式，把邊界定義清楚，什么人可以獲得什么樣的信息，獲得什么樣的能力。然后通過一個平臺，或者是多個平臺來提供這些能力。
新京報：你認(rèn)為，人工智能行業(yè)存在哪些問題和挑戰(zhàn)？
李彥宏：我覺得大家對人工智能還是有很多誤解，兩方面的誤解都存在。有一些（對技術(shù)發(fā)展速度）比較樂觀的人擔(dān)心，人工智能一旦有了意志的話，會不會對人產(chǎn)生控制的能力。我覺得這個擔(dān)心其實是沒必要的，人工智能離這一步其實還非常遠(yuǎn)，我的判斷是永遠(yuǎn)達不到。
另外一個極端是，人工智能其實現(xiàn)在能做的有意義的事情還不夠多，市場還處在早期的階段，所以不夠重視，這也挺危險的。人工智能的推動作用更多的是在生產(chǎn)端，可以大規(guī)模提升生產(chǎn)制造效率。如果一些企業(yè)不能及早地意識到人工智能在這一方面能夠起到的作用，是有可能被淘汰的。
新京報：在你看來，人工智能行業(yè)是不是存在一定的泡沫？
李彥宏：人工智能領(lǐng)域肯定是有泡沫，而且泡沫還不小。任何一個新的趨勢到來的時候大家都會感興趣，一擁而上。無論是投資也好，創(chuàng)業(yè)也好，或者是大的公司研發(fā)方向的調(diào)整，都會向著這個新的趨勢去走，所以一定會產(chǎn)生一些泡沫。只有這樣大家都一起上的時候，才能夠推動這個產(chǎn)業(yè)迅速地走向成熟。
人工智能行業(yè)走向成熟的過程是一個優(yōu)勝劣汰的過程，剩下的一定是少數(shù)公司。我覺得這是一個很自然的過程。
今天大家講的十個技術(shù)里面，可能有九個將來會證明其實沒什么價值，但是有一個技術(shù)最后慢慢被打磨成了非常有價值的技術(shù)。大家需要有這種心理準(zhǔn)備，今天很熱的一些公司，可能十個里面有九個在五年以后就不存在了。 新京報記者 馬婧
■ 訪談
劉慶峰：立法首先要保障人類安全
人工智能的立法核心一定要以人為本，這是立法的根本；立法應(yīng)更有針對性
新京報：人工智能時代會對現(xiàn)有法律體系產(chǎn)生哪些新挑戰(zhàn)？
劉慶峰：我覺得人工智能立法的挑戰(zhàn)有兩方面，一是目前在原來法律體系中并沒有人工智能方面的法律法規(guī)，人工智能是新物種，它所帶來的積極幫助或者潛在風(fēng)險都是人類沒有碰到過的，而法律體系的討論調(diào)研到最終制定存在一個比較漫長的過程。
二是人工智能的發(fā)展日新月異，法律體系如何做到與時俱進，盡快滿足人工智能產(chǎn)業(yè)發(fā)展和社會健康進步的需要，確實存在很大的挑戰(zhàn)，這主要體現(xiàn)在人工智能對生產(chǎn)和生活方式的改變是全新的，其次是人工智能的變化非�？�。
新京報：對于人工智能立法，你有哪些建議？
劉慶峰：人工智能的立法核心一定要以人為本，這是我們立法的根本。我認(rèn)為，人工智能立法首先要保障人類的生命和財產(chǎn)安全，也就是說人工智能一定是要在風(fēng)險可控范圍內(nèi)來使用，比如說在自動駕駛領(lǐng)域，它的應(yīng)用門檻和標(biāo)準(zhǔn)是什么；在醫(yī)療領(lǐng)域，人工智能要達到一定的準(zhǔn)確度，而且最好通過一定的資質(zhì)認(rèn)證。
第二是人工智能應(yīng)該兼顧未來社會人文的需要，倡導(dǎo)人機耦合的模式，簡單說人工智能是幫助人的，而不是替代關(guān)系。在人機耦合上，我們要考慮到以人為本，未來人和機器是如何協(xié)作的。例如在醫(yī)療上我們叫人工智能系統(tǒng)為輔助診療系統(tǒng)醫(yī)生助手，在法律上叫人工智能為刑事案件輔助審判系統(tǒng)。
第三是人工智能立法對很多老百姓來說還是陌生的，對技術(shù)也不是特別了解，所以人工智能在立法的同時需要有檢測手段，在檢測人工智能安全性上必須要有測試標(biāo)準(zhǔn)和方法，這樣才能使立法落到實處。
新京報：考慮到人工智能的應(yīng)用跟很多的領(lǐng)域相結(jié)合，立法時是否應(yīng)該更具針對性？
劉慶峰：人工智能立法應(yīng)該要有針對性，就像制藥一樣，任何的藥物生產(chǎn)出來都要有臨床過程，通過技術(shù)分析證明它具備藥效，通過臨床驗證后再進行大規(guī)模的推廣。我覺得人工智能也是這樣，立法時先在一定范圍內(nèi)進行試點，試點通過驗證才可以去大規(guī)模落地。
人工智能應(yīng)用必須要遵循這個邏輯，而不是說大干快上，最終導(dǎo)致行業(yè)泡沫過多，也容易在應(yīng)用過程中帶來不必要的傷害，從而影響人工智能健康發(fā)展。
像習(xí)總書記說的，人工智能具有非常強的頭雁效應(yīng)，未來社會將從互聯(lián)網(wǎng)+進化到人工智能+時代，各行各業(yè)都可以用人工智能深刻改變現(xiàn)在的生產(chǎn)和生活方式。對于行業(yè)里的頭部企業(yè)，需要有更多的支持和關(guān)心。
新京報：解決數(shù)據(jù)孤島問題的同時，如何保護用戶隱私？
劉慶峰：首先是法律要同步跟上，其次是企業(yè)要有更強的保護意識，現(xiàn)在已經(jīng)有很多服務(wù)涉及老百姓的日常生活。因此相關(guān)行業(yè)的領(lǐng)軍企業(yè)要做到表率作用，不僅僅是向用戶進行告知，還包括價值觀層面的指引。
第三，目前很多數(shù)據(jù)都是在用戶不知情的情況下被企業(yè)拿走，從技術(shù)層面看，我們應(yīng)該通過人工智能技術(shù)的發(fā)展給予用戶更多的選擇權(quán)，例如訊飛的翻譯機，考慮到機密信息可能泄露，公司在設(shè)計產(chǎn)品的時候就做了離線翻譯的版本，這是非常必要的。
新京報：中國在人工智能領(lǐng)域處于領(lǐng)先位置，應(yīng)該如何保持先發(fā)優(yōu)勢？
劉慶峰：中國要保持目前的優(yōu)勢，就要以應(yīng)用促進人工智能發(fā)展，在兼顧保護和共享數(shù)據(jù)之間推動人工智能更好地成長。歐洲就是把數(shù)據(jù)管得過嚴(yán)，影響人工智能的發(fā)展。我認(rèn)為，數(shù)據(jù)的適度管理尺度以及典型應(yīng)用場景的快速突破，能夠形成數(shù)據(jù)和應(yīng)用場景的良性互動，最終實現(xiàn)人工智能上的領(lǐng)先優(yōu)勢。
中國要持續(xù)保持人工智能發(fā)展，應(yīng)對人工智能的第三次浪潮，未來還需要更大的突破，例如要在源頭技術(shù)創(chuàng)新上加油，進一步推動人工智能技術(shù)在應(yīng)用方面的落地，在人工智能未來的發(fā)展中要做更多的前瞻性、基礎(chǔ)性的布局，才能夠在人工智能領(lǐng)域保持領(lǐng)先，我覺得這是非常關(guān)鍵的一步。 新京報記者 陸一夫
數(shù)據(jù)來源：中商產(chǎn)業(yè)研究院
