2023年2月28日，世界移動(dòng)通信大會(huì)(MWC 2023)期間，中國(guó)電信&華為2023云網(wǎng)核心能力創(chuàng)新成果全球發(fā)布會(huì)上，中國(guó)電信攜手華為發(fā)布星河AI統(tǒng)一推理框架。
星河AI統(tǒng)一推理框架，專注AI算法開(kāi)發(fā)和性能提升，實(shí)現(xiàn)底層異構(gòu)算力協(xié)同，帶來(lái)效率和性能大幅提升。
隨著人工智能產(chǎn)業(yè)不斷發(fā)展壯大，多樣化算力需求場(chǎng)景不斷涌現(xiàn)，AI在行業(yè)逐步滲透，AI處理器層出不窮，包括擅長(zhǎng)圖形運(yùn)算的GPU、專注于更高效人工智能神經(jīng)網(wǎng)絡(luò)處理的NPU等。實(shí)際業(yè)務(wù)應(yīng)用過(guò)程中，底層的AI異構(gòu)計(jì)算平臺(tái)多，API接口不統(tǒng)一，呈現(xiàn)煙囪式的應(yīng)用開(kāi)發(fā)，導(dǎo)致AI應(yīng)用開(kāi)發(fā)門(mén)檻高、代碼維護(hù)成本高。
中國(guó)電信科技創(chuàng)新部副總經(jīng)理 羅銳
“通過(guò)星河AI統(tǒng)一推理框架，根據(jù)不同硬件底層接口，向上將推理業(yè)務(wù)流抽象封裝出業(yè)務(wù)功能模塊接口，開(kāi)發(fā)者只需要關(guān)注業(yè)務(wù)邏輯，無(wú)需關(guān)注底層硬件接口�！敝袊�(guó)電信科技創(chuàng)新部副總經(jīng)理羅銳在發(fā)布會(huì)上這樣說(shuō)到。
中國(guó)電信數(shù)字智能科技分公司AI研發(fā)中心高性能計(jì)算技術(shù)總監(jiān) 朱慶軍
從底層技術(shù)實(shí)現(xiàn)維度，中國(guó)電信數(shù)字智能科技分公司AI研發(fā)中心高性能計(jì)算技術(shù)總監(jiān)朱慶軍給出專業(yè)的答復(fù)：“星河AI統(tǒng)一推理框架致力于提升AI開(kāi)發(fā)效率及性能提升，上層基于電信AI業(yè)務(wù)場(chǎng)景開(kāi)發(fā)的技術(shù)沉淀，下層依托昇騰推理開(kāi)發(fā)使能套件，快速實(shí)現(xiàn)AI應(yīng)用開(kāi)發(fā)，支持云邊協(xié)同，業(yè)務(wù)部署達(dá)成小時(shí)級(jí)一鍵部署“。當(dāng)前基于該平臺(tái)已完成90%以上自研CV應(yīng)用的開(kāi)發(fā)，超過(guò)1000+AI算法完成適配遷移，助力500多個(gè)產(chǎn)業(yè)數(shù)字化項(xiàng)目落地。
在AI開(kāi)發(fā)過(guò)程中，通過(guò)軟硬件協(xié)同優(yōu)化提升整體業(yè)務(wù)流性能。主要包括基于昇騰的視圖解析硬件加速方案、模型算子加速庫(kù)等，結(jié)合電信在業(yè)務(wù)流的優(yōu)化處理方案，端到端提升AI應(yīng)用性能。其中，CV類(lèi)業(yè)務(wù)流性能提升約1.4~2倍，單純視頻解碼場(chǎng)景性能提升2~3倍，圖片解碼場(chǎng)景性能提升1.5~2倍。
在實(shí)際應(yīng)用中，通過(guò)星河AI統(tǒng)一推理框架，上層AI應(yīng)用一處開(kāi)發(fā)，云邊多硬件平臺(tái)部署，通過(guò)統(tǒng)一業(yè)務(wù)層接口，快速匯聚AI生態(tài)，推動(dòng)多場(chǎng)景方案落地。
為應(yīng)對(duì)AI長(zhǎng)尾場(chǎng)景，中國(guó)電信聯(lián)合華為及業(yè)界伙伴，依托星河AI統(tǒng)一推理框架，發(fā)揮中國(guó)電信算網(wǎng)資源優(yōu)勢(shì)，協(xié)同昇騰AI生態(tài)成果，快速孵化更多場(chǎng)景方案，吸引更多伙伴入駐，構(gòu)筑面向未來(lái)自演進(jìn)的電信AI生態(tài)。當(dāng)前已有100+個(gè)生態(tài)伙伴，5000+算法，聯(lián)合孵化出智慧城市、社會(huì)治理、明廚亮灶等10+場(chǎng)景化綜合信息解決方案，支撐500多個(gè)產(chǎn)業(yè)數(shù)字化項(xiàng)目落地。
面向未來(lái)，依托星河AI統(tǒng)一推理框架，中國(guó)電信攜手華為及業(yè)界伙伴，將持續(xù)豐富AI生態(tài)體系，不斷升級(jí)星河AI能力，共同為千行百業(yè)提供融云、安全、AI等的數(shù)字化產(chǎn)品和服務(wù)。
