11月21日,2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會數(shù)字化綠色化協(xié)同轉型發(fā)展論壇于浙江烏鎮(zhèn)舉行。論壇由清華大學、中國移動通信集團有限公司主辦,以“數(shù)字化綠色化深度融合加快培育新質(zhì)生產(chǎn)力”為主題,匯聚各地政府、企業(yè)、國際組織、學術機構及企業(yè)代表,共話數(shù)字化綠色化協(xié)同發(fā)展的最新趨勢和前沿技術,共推經(jīng)濟社會綠色發(fā)展。
高通公司全球高級副總裁錢堃受邀出席論壇,并發(fā)表了題為《5G-Advanced與終端側AI助推可持續(xù)發(fā)展未來》的主旨演講。錢堃分享了高通公司如何通過5G Advanced和終端側AI技術創(chuàng)新,攜手生態(tài)合作伙伴,促進數(shù)字化和綠色化協(xié)同轉型,推動行業(yè)和社會邁向可持續(xù)發(fā)展的未來。
高通公司全球高級副總裁錢堃在2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會數(shù)字化綠色化協(xié)同轉型發(fā)展論壇發(fā)表主題演講
面對氣候變化帶來的挑戰(zhàn),高通強調(diào)了前沿技術在提高效率、降低計算功耗方面的重要性。錢堃提到,隨著生成式AI應用的激增,數(shù)據(jù)中心的電力消耗也隨之增加,尤其是使用生成式AI進行搜索推理的電力消耗是傳統(tǒng)網(wǎng)絡搜索的十倍。為了解決這一問題,除了在數(shù)據(jù)中心部署節(jié)能芯片外,將AI工作負載轉移到邊緣計算設備上也是一個有效的策略。采用混合AI架構可以靈活地結合云和邊緣計算的優(yōu)勢。他指出,邊緣側終端設備,如智能手機、PC以及車輛等,完全有能力使用較小的模型來處理相應的工作負載,而無需依賴云端資源。
錢堃還提到,將更多的AI工作負載轉移到邊緣,并實現(xiàn)云端與邊緣側終端的協(xié)同處理,這將比以往任何時候都更加需要可靠、低時延且端到云的連接。據(jù)錢堃介紹,高通攜手合作伙伴積極推動5G技術向5G Advanced演進。5G Advanced重點關注面向終端和網(wǎng)絡的專屬節(jié)能特性,并持續(xù)探索端到端的節(jié)能技術機遇,助力構建更加綠色節(jié)能的網(wǎng)絡。
錢堃還強調(diào),要真正發(fā)揮這些先進技術的能力,全球協(xié)作和整個生態(tài)系統(tǒng)的合作至關重要。高通正與全球各地的企業(yè)及生態(tài)系統(tǒng)緊密合作,將5G與AI的創(chuàng)新擴展到新的受眾和行業(yè),為全球最緊迫的挑戰(zhàn)提供解決方案。
以下為錢堃發(fā)言實錄:
尊敬的各位領導,各位嘉賓,大家下午好!非常榮幸能和大家相聚在世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會。
當今,5G和AI開啟了新一輪的創(chuàng)新浪潮。很高興在這里和大家分享,高通公司如何通過5G Advanced和終端側AI技術創(chuàng)新,推動行業(yè)和社會邁入可持續(xù)發(fā)展的未來,并且共同探討,如何聚合生態(tài)力量,推動數(shù)字化和綠色化協(xié)同轉型。
氣候變化是每個人都關注的社會、經(jīng)濟和環(huán)境問題。據(jù)預測,到2050年,全球人口增長將超過25%,達到近100億;同時,全球經(jīng)濟預計增長近300%,這將大幅度增加對自然資源的需求,預計能源消耗將增加80%。因此,構建一個更加可持續(xù)、更加綠色的未來,已成為全球面臨的至關重要的課題。
在這個過程中,多項前沿技術的不斷突破和融合將發(fā)揮關鍵作用,包括5G連接、高性能低功耗計算、終端側AI和云服務等。作為從業(yè)者,我們很高興能夠推動和見證無線通信和AI技術的持續(xù)創(chuàng)新和突破,這些技術在提高效率、降低功耗的同時,實現(xiàn)了數(shù)字化與綠色化的深度融合,從而助力社會經(jīng)濟的綠色發(fā)展。
智能技術在通過數(shù)字化轉型提高效率方面,發(fā)揮著至關重要的作用。據(jù)預測,生成式AI每年能創(chuàng)造的經(jīng)濟效益介于2.6萬億至4.4萬億美元之間。特別是近年來,生成式AI的興起帶來了新的應用和場景,對數(shù)據(jù)中心建設的需求激增。
數(shù)據(jù)中心非常耗電,特別是使用生成式AI進行單次搜索推理的電力消耗大約是傳統(tǒng)網(wǎng)絡搜索的十倍。隨著圖像和視頻創(chuàng)作、文本摘要、智能體等新興應用的不斷涌現(xiàn),未來將有數(shù)十億用戶需要依賴AI進行推理處理。若沿用現(xiàn)有的AI處理模式,到2030年時,AI的能耗可能將達到全球總電力消耗的3.5%,這一數(shù)值相當于支撐像上海這樣規(guī)模的大城市約35年的電力需求。這將引發(fā)一系列問題,包括電力來源、傳輸需求、冷卻實現(xiàn)和可持續(xù)性等第。因此,數(shù)據(jù)中心的電力消耗是一個必須從多個角度加以解決的問題。
除了在數(shù)據(jù)中心部署更加節(jié)能的芯片之外,另一個有效的策略是將關鍵的AI工作負載轉移到邊緣計算設備上。這是因為與云端相比,邊緣側的終端設備在支持高效的AI處理方面表現(xiàn)出更佳的每瓦特性能,能夠以更低的成本和能耗運行生成式AI模型。
尤其是,并非所有的任務都需要通過云端的大規(guī)模生成式AI模型來處理。邊緣側終端設備,如智能手機、PC以及車輛等,完全有能力使用較小的模型來處理相應的工作負載,而無需依賴云端資源。
此外,采用混合AI架構可以根據(jù)實際需求,靈活訪問數(shù)據(jù)中心,從而充分利用云和邊緣計算的優(yōu)勢。據(jù)預測,如果將20%的生成式AI工作負載遷移到終端側,到2028年全球范圍內(nèi)可節(jié)省高達160億美元的計算資源成本。
為了實現(xiàn)生成式AI在終端側上的有效部署,除了需要對生成式AI模型進行訓練優(yōu)化,使其體積更小、效率更高,并逐步向終端側遷移之外,還需要在終端側打造高性能的AI處理器。經(jīng)過數(shù)十年的高性能低功耗計算領域的創(chuàng)新,如今的智能手機擁有比2000年的超級計算機更強的計算能力,而且其能耗甚至比一個LED燈泡還要低。這種技術進步在確保性能的同時,能延長電池壽命并提高能效,使僅靠電池供電的移動終端設備也能隨時隨地運行生成式AI。
高通開創(chuàng)并賦能終端側AI的未來,正在為手機、PC、汽車、XR、網(wǎng)絡連接和物聯(lián)網(wǎng)等邊緣側終端提供軟硬件。根據(jù)分析機構的資料,高通的第三代驍龍8移動平臺在圖像生成任務方面的效率是數(shù)據(jù)中心的30倍。同時,我們還承諾提高設計解決方案的可持續(xù)性,每年將旗艦級驍龍移動平臺的功耗降低至少10%。特別是從2023年的第三代驍龍8到最近發(fā)布的驍龍8至尊版,能效提升高達44%,這使得用戶能夠在保持極低功耗的同時,更好地享受終端側AI處理帶來的諸多優(yōu)勢。
將更多的AI工作負載轉移到邊緣,并實現(xiàn)云端與邊緣側終端的協(xié)同處理,這將比以往任何時候都更加需要可靠、低時延且端到云的連接。
近兩年,高通攜手合作伙伴積極推動5G技術向5G Advanced演進。5G Advanced重點關注面向終端和網(wǎng)絡的專屬節(jié)能特性,并持續(xù)探索端到端的節(jié)能技術機遇,助力構建更加綠色節(jié)能的網(wǎng)絡。
在現(xiàn)有5G技術的基礎上,5G Advanced重點研究了提高5G網(wǎng)絡能效的新方法。其中一種降低網(wǎng)絡能耗的方法,是根據(jù)終端反饋來動態(tài)調(diào)整網(wǎng)絡運行。例如,根據(jù)總體網(wǎng)絡流量負載降低傳輸功率,或使用更高效的天線等。
5G-Advanced的第一個版本Release 18標準,不僅包括網(wǎng)絡節(jié)能研究項目,還包括采用特定節(jié)能技術的工作項目。第二個版本Release 19將引入 “能效即服務” ,這種新方法能夠幫助用戶和垂直行業(yè)根據(jù)自身的需求,來選擇能效標準和其他網(wǎng)絡性能參數(shù),從而控制功耗、實現(xiàn)網(wǎng)絡資源的最優(yōu)化。
然而,要真正發(fā)揮這些先進技術的能力,全球協(xié)作和整個生態(tài)系統(tǒng)的合作至關重要。高通正與全球各地的企業(yè)及生態(tài)系統(tǒng)緊密合作,將5G與AI的創(chuàng)新擴展到新的受眾和行業(yè),為全球最緊迫的挑戰(zhàn)提供解決方案。
例如,在全球范圍內(nèi),風力發(fā)電是一種正在快速擴展的清潔能源,但是風力發(fā)電機旋轉時會產(chǎn)生尾流湍流,有時可能干擾附近其他發(fā)電機的性能。這會導致發(fā)電量減少,也增加能源生產(chǎn)成本。在美國,高通正在與VayuAI公司合作,通過5G和AI技術最大限度減小尾流湍流對風電場 “系統(tǒng)” 性能的影響,以提高風力發(fā)電能力,增加清潔能源部署。
在新一輪前沿技術浪潮下,高通將繼續(xù)堅持研發(fā)先行、持續(xù)投入,不斷突破科技邊界。基于與各行業(yè)生態(tài)伙伴的緊密協(xié)作,我們將繼續(xù)推動5G和終端側AI應用規(guī);,賦能行業(yè)數(shù)字化、智能化、綠色化轉型,共同邁向“讓智能計算無處不在”的綠色未來。
謝謝大家!