飛象網(wǎng)訊 9月21日，在華為全聯(lián)接大會(huì)2023上，華為常務(wù)董事、華為云CEO張平安宣布昇騰AI云服務(wù)已正式上線，企業(yè)一鍵接入即可獲取澎湃的AI算力，讓千行萬(wàn)業(yè)實(shí)現(xiàn)大模型普惠。同時(shí)昇騰AI云服務(wù)“百模千態(tài)”專(zhuān)區(qū)亦已正式上線，支撐企業(yè)和開(kāi)發(fā)者更加快速地創(chuàng)建自己的大模型應(yīng)用，在大模型時(shí)代快人一步。 張平安指出，全智能時(shí)代，AI算力的需求急劇增長(zhǎng)。但AI服務(wù)器的功率密度遠(yuǎn)超通用服務(wù)器，單機(jī)柜功耗是過(guò)去的6-8倍，且需要專(zhuān)用的液冷系統(tǒng)散熱；同時(shí)大模型訓(xùn)練需要百卡、千卡甚至萬(wàn)卡支撐，服務(wù)器之間的互聯(lián)、時(shí)延、可靠性、運(yùn)維極為復(fù)雜，自建AI數(shù)據(jù)中心面臨諸多挑戰(zhàn)。
為了更好地支撐“百模千態(tài)”，華為云在貴安、烏蘭察布、蕪湖部署三大AI算力中心，為企業(yè)提供澎湃AI算力。企業(yè)只需一鍵接入，即可隨取隨用AI云服務(wù)，不用再費(fèi)時(shí)費(fèi)力自建或改造傳統(tǒng)數(shù)據(jù)中心。
為保護(hù)用戶(hù)數(shù)據(jù)，華為云昇騰AI云服務(wù)采用數(shù)據(jù)傳輸加密、數(shù)據(jù)存儲(chǔ)加密、數(shù)據(jù)安全清除、數(shù)據(jù)訪問(wèn)控制、數(shù)據(jù)水印防泄露等多重技術(shù)，保障云上訓(xùn)練的數(shù)據(jù)全生命周期安全。
同時(shí)，華為云昇騰AI云服務(wù)“百模千態(tài)”專(zhuān)區(qū)也已經(jīng)上線。除了支持盤(pán)古大模型，還將適配業(yè)界主流的上百個(gè)開(kāi)源大模型，如LLAMA，GLM等。企業(yè)既可以基于盤(pán)古L0層和L1層能力，建設(shè)自己的大模型應(yīng)用，也可以基于業(yè)界開(kāi)源的大模型技術(shù)，打造自己的專(zhuān)屬大模型。
此外，華為云昇騰AI云服務(wù)還提供高效長(zhǎng)穩(wěn)的大模型訓(xùn)練環(huán)境和完備的工具鏈，實(shí)現(xiàn)千卡訓(xùn)練連續(xù)30天不中斷，任務(wù)恢復(fù)時(shí)長(zhǎng)小于30分鐘；并可通過(guò)30多個(gè)可視化調(diào)優(yōu)和部署工具，幫助企業(yè)更高效進(jìn)行數(shù)據(jù)處理、模型微調(diào)、Prompt工程等，完成一個(gè)千億參數(shù)行業(yè)模型的端到端開(kāi)發(fā)，可從過(guò)去的5個(gè)月縮短到現(xiàn)在的1個(gè)月，整體速度提升5倍。
