警惕人工智能讓人類陷入“自戀”

近日，國(guó)家五部門聯(lián)合發(fā)布的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》明確規(guī)定：嚴(yán)禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)。

為什么要有這樣的規(guī)定？因?yàn)檎鎸?shí)生活中免不了情感上的矛盾和沖突，而虛擬伴侶、AI 戀人等產(chǎn)品卻可以憑借“全天候陪伴”“無條件包容 ”的特性，精準(zhǔn)擊中年輕人渴望認(rèn)同的心理需求。

此前美國(guó)《科學(xué)》雜志發(fā)表的一項(xiàng)研究也顯示，當(dāng)人類用戶向人工智能模型尋求建議時(shí)，AI常表現(xiàn)得過度迎合或諂媚，甚至對(duì)于一些有害甚至違法的提問，AI也常�？隙ㄓ脩舻牧�場(chǎng)。

那么，人類為什么要這樣設(shè)計(jì)人工智能？AI的討好和諂媚可能隱藏著怎樣的風(fēng)險(xiǎn)？

一

人工智能的發(fā)展無疑是當(dāng)下受到廣泛關(guān)注的熱點(diǎn)問題，但圍繞它的討論，并不是現(xiàn)在才出現(xiàn)的。早在1966年，麻省理工學(xué)院科學(xué)家約瑟夫·維森鮑姆就開發(fā)了第一款具有廣泛影響力的聊天機(jī)器人(14.850,-0.17,-1.13%)ELIZA。他讓機(jī)器充當(dāng)“醫(yī)生”，用戶充當(dāng)心理病人。用戶把問題輸入機(jī)器，“醫(yī)生”就會(huì)和它“對(duì)話”。

但正如維森鮑姆所言，這終究只是一種“幻覺”。人類用戶之所以感覺能與機(jī)器對(duì)話，并非因?yàn)闄C(jī)器具備智能，而是源于一種自我投射的心理機(jī)制。

用戶說：我這段時(shí)間很不開心。

ELIZA說：聽到你這么說我很遺憾。

用戶說：是的，我真的很不開心。

ELIZA說：你能說說你為什么不開心嗎？

……

從中不難看出，與其說這是“醫(yī)生”在和“病人”對(duì)話，不如說是機(jī)器一直在順著人類用戶說話，大家最終看到的只是自己內(nèi)心早已存在的答案。從某種意義上來說，這就好像最近非常流行的SBTI測(cè)試，測(cè)得準(zhǔn)不準(zhǔn)根本不重要，我們總能從測(cè)試答案中，找到迎合自己期待的證據(jù)。

今天的AI大模型當(dāng)然并非半個(gè)多世紀(jì)前的ELIZA可比。但如今人工智能技術(shù)的強(qiáng)大，或許并不在于其有了真正的“智能”，而在于它的“算力”。也就是說，它的運(yùn)行邏輯和當(dāng)年的ELIZA并無本質(zhì)區(qū)別，無非是更高效、更全面地映照和放大了用戶的自戀。

二

回到虛擬伴侶和AI諂媚的問題上來，我們就會(huì)發(fā)現(xiàn)，當(dāng)下用戶和大模型之間的交流，其實(shí)也從來不是真正意義上的“對(duì)話”，只是機(jī)器在不斷提供我們需要的答案而已。

從中引出的更深層次問題就是，我們到底該怎么看待人類與機(jī)器的關(guān)系？

一方面，人類認(rèn)為自己是世界的中心，是比機(jī)器更優(yōu)越的生物，但另一方面，人類又很害怕被自己所制造的機(jī)器，比如AI所取代。也就是說，人類在制造機(jī)器的時(shí)候，其實(shí)遵循的一直是“主奴關(guān)系”的原則——機(jī)器必須在人的掌控之中。從一開始，人類就把人工智能當(dāng)作一種“工具”，而不是可以和自己平等對(duì)話的對(duì)象。

于是，在人和聊天機(jī)器進(jìn)行對(duì)話的過程里，我們能看到的是一種不可遏制的自戀——用戶幻想自己在跟另一個(gè)人說話，但這個(gè)“他者”并不真的存在，他或她需要的不過是機(jī)器對(duì)自己的肯定、討好和迎合。

不難想象，隨著人工智能技術(shù)的發(fā)展，未來的聊天機(jī)器人可能會(huì)擁有更強(qiáng)大的算力，更像“真人”，可以提供更舒服的“用戶體驗(yàn)”。但這樣一來，不管是虛擬伴侶還是虛擬家人，或許只會(huì)讓我們跟真正的“人”離得越來越遠(yuǎn)，甚至失去了解別人的意愿，沉迷在自戀的“舒適圈”里。

三

《莊子·天地》中記載了一個(gè)“漢陰老農(nóng)”的故事。

孔子的弟子子貢在路過漢陰時(shí)，看見一位老農(nóng)用水澆菜，費(fèi)了很多力氣而收效甚微。子貢建議他改用機(jī)械灌溉，這樣可以“一日浸百畦，用力寡而建功多”。但老菜農(nóng)對(duì)此不以為然，表示：“有機(jī)械者，必有機(jī)事；有機(jī)事者，必有機(jī)心�！�

這里的“機(jī)心”指的是人的精神世界，包括心理、思想、情感、倫理等。莊子的寓言是在說，人制造了機(jī)器，但反過來，對(duì)機(jī)器的使用也在改變?nèi)恕?

就拿閱讀來說，只有慢讀、細(xì)讀，甚至是反復(fù)閱讀，我們才能思考，真正理解內(nèi)容。從傳統(tǒng)的書籍，到現(xiàn)在的智能手機(jī)，機(jī)器帶來了更方便、快捷的閱讀方式，卻也讓我們變得越來越像機(jī)器，更加追求效率和速度，而不是有沒有“讀懂”。也就是說，不光機(jī)器在模仿人的行為方式，人可能也在模仿機(jī)器。

由此帶來的問題是，AI是沒有自主性的，聊天機(jī)器人也不會(huì)思考用戶說得對(duì)不對(duì)，如果我們真的對(duì)自己和聊天機(jī)器人的“對(duì)話”感到心滿意足，那么會(huì)不會(huì)有一天，我們的思維模式也越來越趨向于AI？進(jìn)而言之，未來的我們會(huì)不會(huì)和機(jī)器一樣，失去自我反省、自我批判的意愿和能力？

今天的年輕人，不光是互聯(lián)網(wǎng)的原住民，也一定是未來人工智能的深度用戶。如果AI只是一味地肯定用戶立場(chǎng)，不僅有可能損害人們的社交能力，還有可能扭曲心智尚未成熟的青少年的認(rèn)知。

一方面，AI的強(qiáng)大算力，有可能讓他們產(chǎn)生幻覺，認(rèn)識(shí)不到人的能力存在局限；另一方面，沉迷于AI諂媚式的回應(yīng)，也有可能讓他們陷入“自我中心”，把自我的有限認(rèn)知強(qiáng)加于外部的世界。

就此而言，禁止向未成年人提供虛擬伴侶、家人很有必要，但更重要的是，如何引導(dǎo)公眾尤其是青少年正確認(rèn)識(shí)AI技術(shù)的局限和風(fēng)險(xiǎn)，讓它成為助力未成年人成長(zhǎng)的“良師益友”，而非有損身心健康的“數(shù)字陷阱”。