2025年4月10日-11日期間，由中國移動主辦的“2025中國移動云智算大會——由云向智，共繪算網(wǎng)新生態(tài)” 在江蘇蘇州舉行。中國信息通信研究院云計算與大數(shù)據(jù)研究所副所長栗蔚出席大會，并發(fā)表“大模型推理應(yīng)用重塑云智算技術(shù)體系”主題演講。
大模型推理應(yīng)用正重塑云智算技術(shù)體系，成為推動智能化轉(zhuǎn)型的核心引擎。從算力需求的結(jié)構(gòu)性轉(zhuǎn)換到技術(shù)架構(gòu)的深度重構(gòu)，再到大模型推理服務(wù)質(zhì)量的場景化演進(jìn)，云智算技術(shù)正邁向從“算力供給”到“智能賦能”的新范式，為數(shù)字經(jīng)濟的高效、普惠與可持續(xù)發(fā)展提供堅實技術(shù)支撐。
“人工智能+算力+云”融合，加速我國數(shù)字經(jīng)濟蓬勃發(fā)展。
栗蔚指出，大模型推理性能驅(qū)動算力結(jié)構(gòu)轉(zhuǎn)型，從以訓(xùn)練為主轉(zhuǎn)向以推理為核心，從當(dāng)前70%以上用于集中式訓(xùn)練到未來70%以上用于分布式推理。全球云計算市場規(guī)模持續(xù)增長。2024年全球云計算市場規(guī)模達(dá)7,022億美元，增速 19.7%。國內(nèi)市場云計算市場規(guī)�？傆�8,378億元，較2023年增長35.9%，其中以中國移動為代表的運營商占三分之一以上份額，走在全球運營商前列。數(shù)字產(chǎn)業(yè)化市場來看，以大模型為主線的人工智能技術(shù)創(chuàng)新活躍，顯著促進(jìn)我國全要素生產(chǎn)率提升，對經(jīng)濟增長的整體貢獻(xiàn)達(dá)到22.5％。
破局與重構(gòu)：大模型推理加速的云智算技術(shù)突破
栗蔚指出，從數(shù)字化時代向智能化時代的演進(jìn)中，云智算技術(shù)正聚焦于大模型推理場景與應(yīng)用，呈現(xiàn)“1+3”的破局與重構(gòu)趨勢。商業(yè)模式破局，隨大模型產(chǎn)業(yè)從預(yù)訓(xùn)練競賽轉(zhuǎn)向推理服務(wù)效能優(yōu)化，商業(yè)模式逐步由單純的技術(shù)競賽過渡到價值共享與產(chǎn)業(yè)落地，強調(diào)高效推理技術(shù)與垂直應(yīng)用場景結(jié)合以實現(xiàn)商業(yè)閉環(huán)；“云+算力互聯(lián)”重構(gòu)，一縱一橫推動了云計算與分散算力資源的有效整合，催生了MaaS、AaaS等新型服務(wù)模式，并構(gòu)建了“一點接入、全算貫通”的算力互聯(lián)網(wǎng)架構(gòu)，賦能全域大模型推理調(diào)度；“云+大模型”重構(gòu)，芯片、框架和模型三位一體的協(xié)同優(yōu)化進(jìn)一步提升了異構(gòu)推理性能；算力部署演進(jìn)，政企大模型部署經(jīng)歷了從云原生到私有化場景的一體機方案，直至未來邁向云邊端協(xié)同的發(fā)展路徑。
可用性與性能是衡量大模型推理云服務(wù)質(zhì)量的關(guān)鍵
栗蔚指出，隨著云智算技術(shù)架構(gòu)的深度重構(gòu)，可用性與性能是衡量大模型推理云服務(wù)質(zhì)量的關(guān)鍵�？捎眯苑矫妫�DeepSeek官網(wǎng)服務(wù)的頻繁繁忙現(xiàn)象，折射出大模型推理服務(wù)接入后的首要挑戰(zhàn)——如何保障服務(wù)的穩(wěn)定性和連續(xù)性。性能方面，以TTFT、TPOT、延遲、單卡吞吐量和上下文長度為代表的“快、穩(wěn)、密、異”四大指標(biāo)是客戶端關(guān)注推理性能的焦點。通用基線場景中，各云廠商通過優(yōu)化整合“云+算力互聯(lián)+大模型”，在昇騰910B、H20等芯片上的適配優(yōu)化提升推理表現(xiàn)。行業(yè)應(yīng)用場景中，因輸入輸出特性的差異，定制化需求顯著，需依賴硬件互聯(lián)效率與容錯機制的協(xié)同進(jìn)化來突破分布式推理性能瓶頸，而算力互聯(lián)調(diào)度則是提高資源利用率的核心基石。
中國信息通信研究院工作開展
未來，中國信通院將不斷深化大模型推理領(lǐng)域的研究探索，推動AI Cloud與算力互通體系建設(shè)，持續(xù)開展大模型推理云服務(wù)性能測試，強化產(chǎn)業(yè)協(xié)同與合作，提升各行業(yè)智能化水平，構(gòu)建一個開放、合作、共贏的人工智能、算力和云計算深度融合的生態(tài)，為企業(yè)數(shù)智化轉(zhuǎn)型注入活力。
