人工智能真正要面對的問題是怎樣在一個協(xié)作式的、去中心化的系統(tǒng)中實現(xiàn)集體智能，人類可以怎樣去設計這個集體智能，去解決它的不確定性。
1951年，計算機科學之父、人工智能之父阿蘭·圖靈跟朋友有一個談話，他做了一些簡單的機器學習的事情，卻發(fā)現(xiàn)教機器學習非常難，要么做錯，要么做得很慢，要么什么事情都沒有做。阿蘭·圖靈的朋友聽后向他提了一個問題：到底是誰在學習？機器在學習，還是人在學習？
2023Inclusion·外灘大會上，中國科學院院士何積豐在演講中將這段故事說給了觀眾聽，圖靈由此感受到了人和機器雙方都在學習，人類指導機器，讓機器學習變得更智能，而在指導過程中，人類也慢慢學會什么樣的指導使機器能夠符合人類需要的目標。何積豐在演講的最后強調(diào)：“在人工智能發(fā)展過程中間，我們千萬不要忘記人類的核心角色”。
剛剛閉幕的外灘大會以近8000平米的科技展區(qū)、近20位“兩院”院士、諾貝爾獎和圖靈獎得主，500位科技領軍企業(yè)高管和專家學者吸引了世界各地的觀眾。數(shù)據(jù)安全、隱私計算等內(nèi)容常談常新，如何解決智能時代的信任問題受到各方關注。生成式AI、大模型仍是這場論壇中的熱門話題，在期待科技“新世界”到來的同時，人類有許多需要先思考的問題。
在這個備受矚目的金融科技峰會上，科技在行業(yè)的落地應用和可能改變的場景引發(fā)了無數(shù)討論。我們該如何看待AI？如何學習保持人類的核心角色？又在走向怎樣的一個“新世界”？
期待“新世界”
眾多“黑科技”出現(xiàn)在了這一屆外灘大會上。
未來養(yǎng)老公寓的展示區(qū)，展示了全空間全方位的智能化適老設備、自助醫(yī)療小屋、AI大腦訓練設備等，初步展示了通過步調(diào)檢測老年人的身體狀況，通過玩游戲篩查人是否患有阿爾茲海默癥風險的未來技術發(fā)展方向。出乎意料的是，許多年輕人成了這個展區(qū)的“重度體驗玩家”，他們相信，這真的可能是他們未來養(yǎng)老的場景。
戴上特制頭盔，系統(tǒng)就能夠識別出體驗者的腦電波波形特征，生成其專屬“腦紋”， 這是由螞蟻安全實驗室聯(lián)合中國信通院、腦機合作生產(chǎn)廠商博瑞康共同推出的腦機頭戴核身技術互動技術。在這個技術展區(qū)，體驗者實現(xiàn)了通過意念產(chǎn)生的“腦紋”解鎖裝備，“腦紋”將成為其獨一無二的身份ID。“除了解鎖，未來通過這個技術有沒有可能實現(xiàn)意念控制物體？”有體驗者立刻追問道。
無論是普通觀眾，還是行業(yè)的參與者、專業(yè)學者們都期待著新科技對未來的更多改變很快就會發(fā)生。
“一部手機就是一個銀行網(wǎng)點�！盜DC中國副總裁兼首席分析師武連峰在外灘大會現(xiàn)場發(fā)布了《銀行數(shù)字科技五大趨勢》：隨身銀行、AI風控、數(shù)字員工、邊緣物聯(lián)與云原生架構(gòu)。
《2022年中國銀行業(yè)服務報告》顯示，銀行平均電子分流率97%，9成以上業(yè)務都已實現(xiàn)線上化。IDC預測，到2025年，超過80%的銀行都將部署數(shù)字人，承擔90%的客服和理財咨詢服務。而到2026年，將人工智能應用于信貸授信將成為銀行的主流選擇。由于更為復雜的模型、算法的應用，至2026年底，銀行欺詐洗錢等案例將降低12%。
螞蟻集團董事長兼CEO井賢棟則關心隱私計算的突破。他透露，螞蟻在重點投入隱私計算，希望未來有一天加密計算的成本和效率做到今天的明文計算一樣，那意味著，行業(yè)能夠?qū)崿F(xiàn)數(shù)據(jù)價值的交換，而非數(shù)據(jù)本身去交換，“那個時代會真正迎來數(shù)據(jù)時代的大爆炸�！�
傳統(tǒng)集裝箱貿(mào)易的未來發(fā)展也被系上了區(qū)塊鏈發(fā)展的快船。全球航運商業(yè)網(wǎng)絡CEO陳斯嘉在外灘大會上表示，區(qū)塊鏈電子提單從PoC驗證（概念驗證）階段到了大規(guī)模商業(yè)化應用窗口期。
今年2月，全球數(shù)字集裝箱運輸協(xié)會組織宣布，全球前10大船公司中9家海運承運人承諾5年內(nèi)將50%的原始提單實現(xiàn)數(shù)字化，到2030年實現(xiàn)100%數(shù)字化，從而加速集裝箱貿(mào)易數(shù)字化。
陳斯嘉認為，通過積極引入?yún)^(qū)塊鏈技術，借區(qū)塊鏈網(wǎng)絡來流轉(zhuǎn)電子提單，確保提單內(nèi)容和流轉(zhuǎn)的真實性，大幅簡化操作流程，可能使海運放行貨物所需要的時間從傳統(tǒng)的2-3天縮短到1-2個小時。
“AI的本質(zhì)是集體”
今年科技界最為火熱的大模型同樣被金融從業(yè)者們期待著，螞蟻集團在外灘大會發(fā)布了其金融大模型，度小滿、恒生電子、同花順、海通證券等金融大模型的探索者也出現(xiàn)在了外灘大會。
恒生電子董事長劉曙峰表示，大模型技術對財富管理服務的改變可能是全業(yè)務鏈的，在“投”、“顧”兩端以及風控、運營、量化交易等領域都將發(fā)揮重要作用。從機構(gòu)內(nèi)部運營角度來說，大模型刷新了軟件研發(fā)的新范式，長遠來看，80%的代碼可能將會是人工智能生成的，20%架構(gòu)級的核心代碼才會由人工提供。
“AI對全球經(jīng)濟的潛在收益將達到25萬億美元，是當前所有企業(yè)最重要的賽道之一，但這個時代剛剛開始�！丙溈襄a中國區(qū)主席、全球資深董事合伙人倪以理在外灘現(xiàn)場預測，生成式AI的技術風暴有望開啟一場關系到未來8-10年的新一輪技術和產(chǎn)業(yè)變革。
不過，在十分講究領域知識和專業(yè)邏輯的嚴謹性、對錯誤容忍度極低的金融行業(yè)，擁抱大模型的同時，外灘大會上也傳出了許多謹慎看待大模型“幻覺”，重新思考人與AI關系的聲音。
螞蟻集團機器智能部總經(jīng)理、螞蟻安全實驗室首席科學家王維強表示，大模型可能分不清真假而帶來的事實性偏差“幻覺”問題，由于數(shù)據(jù)偏見而帶來的倫理問題，在知識學習和生成過程中的版權問題以及由此給企業(yè)帶來的內(nèi)部安全問題等，對從業(yè)者來說都是比較大的挑戰(zhàn)。在大模型發(fā)展的同時，對大模型安全的檢測、可信能力的建設乃至安全防御技術的發(fā)展等都是不可或缺的。
百度、螞蟻、抖音等公司的隱私保護負責人也在外灘大會匯聚一堂，討論大模型等新技術不斷涌現(xiàn)的浪潮中，該如何做好隱私保護工作？
螞蟻集團首席隱私官聶正軍表示，面對大模型帶來的風險和挑戰(zhàn)，企業(yè)可以在大模型訓練階段使用匿名化的工具，防范未來模型本身帶來隱私泄露或者個人信息被濫用的風險。還需要在大模型的商業(yè)化應用落地時，注意把服務它方產(chǎn)生的數(shù)據(jù)和自營業(yè)務里使用到的數(shù)據(jù)進行隔離。
百度數(shù)據(jù)合規(guī)法務負責人徐全全則建議，下一步隱私保護工作可能更多要走行業(yè)協(xié)同治理道路。每家企業(yè)在履行隱私保護、數(shù)據(jù)合規(guī)方面的責任責無旁貸，同時也要和上下游的合作伙伴協(xié)同共治，一起參與到隱私保護、數(shù)據(jù)合規(guī)的工作當中。
“AI的本質(zhì)是集體，而不是個人。它只不過就是一個新的工程系統(tǒng)，科技就是一個非常好的新的工程系統(tǒng)，是普適，而且是公平、公正、透明、穩(wěn)定的，這些特性是整個工程系統(tǒng)的特點，而不是系統(tǒng)當中個體的特點�！睓C器學習泰斗，美國科學院、美國工程院院士邁克爾·喬丹表示。
“我并沒有覺得AI會替代人�！边~克爾·喬丹說。在他看來，人工智能真正要面對的問題是怎樣在一個協(xié)作式的、去中心化的系統(tǒng)中實現(xiàn)集體智能，人類可以怎樣去設計這個集體智能，去解決它的不確定性。
某種程度上，這一場集體的設計與協(xié)作，才是人類在科技飛速發(fā)展的過程中要保持核心角色所面臨的最大課題。是機器在學習的同時，人類同樣需要學習的部分。
