12月23日,由中國(guó)信息通信研究院主辦,以“打造超彈性無(wú)損智算IP廣域網(wǎng),加速邁向智能時(shí)代”為主題的智算IP廣域網(wǎng)產(chǎn)業(yè)交流會(huì)在北京成功舉辦。會(huì)上,浙江聯(lián)通建設(shè)發(fā)展部總經(jīng)理湯瀅琪受邀發(fā)表了《打造高通量、高性能、高智能算網(wǎng)一體的算力智聯(lián)網(wǎng),探索存算拉遠(yuǎn)服務(wù)新模式》的主題演講,深入分享了浙江聯(lián)通在算力智聯(lián)網(wǎng)AINet建設(shè)方面的階段性創(chuàng)新成果及實(shí)踐經(jīng)驗(yàn)。
湯瀅琪介紹到,當(dāng)前AI智算需求旺盛,海量樣本數(shù)據(jù)處理過(guò)程中存在兩大挑戰(zhàn):一是數(shù)據(jù)多存儲(chǔ)于企業(yè)端,部分安全性要求較高的數(shù)據(jù)不便外遷;二是樣本數(shù)據(jù)量激增,AI智算中心在具備強(qiáng)大算力的同時(shí),還需額外配備存儲(chǔ)資源,顯著提升了建設(shè)成本。
針對(duì)上述挑戰(zhàn),業(yè)內(nèi)對(duì)實(shí)現(xiàn)“存算分離拉遠(yuǎn)、樣本隨訓(xùn)隨拉”的需求迫切。存算分離技術(shù)是指將存儲(chǔ)數(shù)據(jù)的倉(cāng)庫(kù)和對(duì)數(shù)據(jù)進(jìn)行計(jì)算的加工廠獨(dú)立開來(lái),在訓(xùn)練時(shí)遠(yuǎn)端存儲(chǔ)設(shè)備中的樣本數(shù)據(jù)通過(guò)廣域網(wǎng),直接被傳送到智算中心的智算服務(wù)器內(nèi)存中進(jìn)行計(jì)算,而不需要先存儲(chǔ)到本地的磁盤里再進(jìn)行處理,可以有效保證用戶數(shù)據(jù)的安全性和一致性。
湯瀅琪接著分享到,在聯(lián)通服裝制造軍團(tuán)“衣瞳行業(yè)模型”訓(xùn)練場(chǎng)景中,原始數(shù)據(jù)主要基于服裝多模態(tài)數(shù)據(jù),服裝生產(chǎn)廠家使用“衣瞳行業(yè)模型”可實(shí)現(xiàn)實(shí)時(shí)檢測(cè),但是很多服裝廠家的服裝數(shù)據(jù)需要產(chǎn)權(quán)保護(hù)不愿公開,而基于存算分離的創(chuàng)新訓(xùn)練模式,剛好完美契合了用戶需求。
針對(duì)這種AI敏感數(shù)據(jù)的本地存儲(chǔ)異地訓(xùn)練的場(chǎng)景,浙江聯(lián)通提出了創(chuàng)新的業(yè)務(wù)模式。基于中國(guó)聯(lián)通全新的算力智聯(lián)網(wǎng)AINet,依托“網(wǎng)絡(luò)+平臺(tái)”兩大基礎(chǔ)底座和高通量、高性能、高智能的“三高”核心能力,同時(shí)采用華為下一代路由器系列產(chǎn)品,浙江聯(lián)通成功在杭州與金華兩地間實(shí)施了業(yè)界首次30TB樣本數(shù)據(jù)的跨200公里存算分離拉遠(yuǎn)訓(xùn)練,經(jīng)過(guò)實(shí)際測(cè)算,訓(xùn)練效率高達(dá)97%。本次存算拉遠(yuǎn)測(cè)試項(xiàng)目取得的主要?jiǎng)?chuàng)新成果包括:
首先,以跨地市AI大模型訓(xùn)練能力創(chuàng)新重構(gòu)智算訓(xùn)練模式。傳統(tǒng)的智算集中訓(xùn)練模式,需要用戶將樣本上傳到智算中心進(jìn)行落盤訓(xùn)練,但是部分用戶對(duì)隱私樣本落盤存在安全顧慮。浙江聯(lián)通通過(guò)IP廣域無(wú)損方案,實(shí)現(xiàn)了杭州存、金華訓(xùn)的“數(shù)據(jù)不落盤”拉遠(yuǎn)訓(xùn)練,以算網(wǎng)協(xié)同的能力,為企業(yè)用戶隱私樣本訓(xùn)練探索出了一條新路。
其次,樣本數(shù)據(jù)總量達(dá)30TB,傳輸距離超200公里,計(jì)算拉遠(yuǎn)效率大于97%。通過(guò)聯(lián)通服裝制造軍團(tuán)“衣瞳行業(yè)模型”的AI訓(xùn)練存算分離現(xiàn)網(wǎng)測(cè)試。充分驗(yàn)證了針對(duì)AI訓(xùn)練業(yè)務(wù)存算拉遠(yuǎn)的技術(shù)可行性,未來(lái)有相關(guān)數(shù)據(jù)敏感業(yè)務(wù)需求的用戶可通過(guò)運(yùn)營(yíng)商算力服務(wù),完成隱私樣本不出園區(qū)的拉遠(yuǎn)訓(xùn)練,實(shí)現(xiàn)成本與安全的最佳平衡。
最后,湯瀅琪表示,浙江聯(lián)通將繼續(xù)深化數(shù)字融合戰(zhàn)略,持續(xù)推動(dòng)傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí),特別是打造“高通量、高性能、高智能”的算力智聯(lián)網(wǎng)AINet,積極探索彈性帶寬、任務(wù)式服務(wù)、數(shù)據(jù)快遞、無(wú)損傳輸?shù)葎?chuàng)新服務(wù)模式。通過(guò)這些創(chuàng)新服務(wù)模式,賦能千行百業(yè)的數(shù)字化轉(zhuǎn)型升級(jí),為構(gòu)建AI智能時(shí)代的新生態(tài)貢獻(xiàn)力量。