華為開發(fā)者大會2023(Cloud)7月7日在中國東莞正式揭開帷幕,并同時在全球10余個國家、中國30多個城市設(shè)有分會場,邀請全球開發(fā)者共聚一堂,就AI浪潮之下的產(chǎn)業(yè)新機會和技術(shù)新實踐開展交流分享。
在7日下午舉行的大會主題演講中,華為常務(wù)董事、華為云CEO張平安重磅發(fā)布盤古大模型3.0和昇騰AI云服務(wù)。其中,盤古大模型3.0圍繞“行業(yè)重塑”“技術(shù)扎根”“開放同飛”三大創(chuàng)新方向,持續(xù)打造核心競爭力,為行業(yè)客戶、伙伴及開發(fā)者提供更好的服務(wù)。昇騰AI云服務(wù)單集群提供2000P Flops算力,千卡訓(xùn)練30天長穩(wěn)率達到90%,為業(yè)界提供穩(wěn)定可靠的AI算力,讓大模型觸手可及。
華為常務(wù)董事、華為云CEO張平安重磅發(fā)布盤古大模型3.0
張平安表示:“盤古大模型要讓每個行業(yè)、每個企業(yè)、每個人都擁有自己的專家助手,讓工作更高效更輕松。我們始終堅持AI for Industries的戰(zhàn)略,在深耕行業(yè)的道路上不斷前行。我堅信大模型將重塑千行百業(yè),而每一個開發(fā)者,都將是改變世界的英雄!
盤古大模型3.0:重塑千行百業(yè)
華為云盤古大模型從一開始就聚焦為行業(yè)服務(wù),本次大會發(fā)布的盤古大模型3.0也是一個面向行業(yè)的大模型系列,包括“5+N+X”三層架構(gòu):
L0層包括自然語言、視覺、多模態(tài)、預(yù)測、科學(xué)計算五個基礎(chǔ)大模型,提供滿足行業(yè)場景中的多種技能需求。盤古3.0為客戶提供100億參數(shù)、380億參數(shù)、710億參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型,匹配客戶不同場景、不同時延、不同響應(yīng)速度的行業(yè)多樣化需求。同時提供全新能力集,包括NLP大模型的知識問答、文案生成、代碼生成,以及多模態(tài)大模型的圖像生成、圖像理解等能力,這些技能都可以供客戶和伙伴企業(yè)直接調(diào)用。無論多大參數(shù)規(guī)模的大模型,盤古提供一致的能力集。
L1層是N個行業(yè)大模型,華為云既可以提供使用行業(yè)公開數(shù)據(jù)訓(xùn)練的行業(yè)通用大模型,包括政務(wù),金融,制造,礦山,氣象等大模型;也可以基于行業(yè)客戶的自有數(shù)據(jù),在盤古大模型的L0和L1層上,為客戶訓(xùn)練自己的專有大模型。
L2層為客戶提供了更多細化場景的模型,更加專注于政務(wù)熱線、網(wǎng)點助手、先導(dǎo)藥物篩選、傳送帶異物檢測、臺風(fēng)路徑預(yù)測等具體行業(yè)應(yīng)用或特定業(yè)務(wù)場景,為客戶提供“開箱即用”的模型服務(wù)。
盤古大模型采用完全的分層解耦設(shè)計,可以快速適配、快速滿足行業(yè)的多變需求。客戶既可以為自己的大模型加載獨立的數(shù)據(jù)集,也可以單獨升級基礎(chǔ)模型,也可以單獨升級能力集。在L0和L1大模型的基礎(chǔ)上,華為云還為客戶提供了大模型行業(yè)開發(fā)套件,通過對客戶自有數(shù)據(jù)的二次訓(xùn)練,客戶就可以擁有自己的專屬行業(yè)大模型。同時,根據(jù)客戶不同的數(shù)據(jù)安全與合規(guī)訴求,盤古大模型還提供了公用云、大模型云專區(qū)、混合云多樣化的部署形態(tài)。
華為常務(wù)董事、華為云CEO張平安
“盤古為行業(yè)而生,就要為行業(yè)著想,更好地服務(wù)千行百業(yè)的客戶”,張平安表示。如今,盤古大模型已在金融、金融、制造、醫(yī)藥研發(fā)、煤礦、鐵路等諸多行業(yè)發(fā)揮著巨大價值。
在政務(wù)領(lǐng)域,華為云攜手深圳市福田區(qū)政務(wù)服務(wù)數(shù)據(jù)管理局,上線了基于盤古政務(wù)大模型的福田政務(wù)智慧助手小福,能夠精準(zhǔn)理解民眾咨詢意圖,改變傳統(tǒng)的一網(wǎng)通辦模式,把老百姓的話語轉(zhuǎn)化為政府辦事的語言,讓城市更有愛。盤古政務(wù)大模型對超過20萬條政務(wù)數(shù)據(jù)進行精調(diào),包括12345熱線、政策文件、政務(wù)百科等,掌握了豐富的法律法規(guī)、辦事流程等行業(yè)知識;诒P古政務(wù)大模型的小福,在一網(wǎng)通辦業(yè)務(wù)中體現(xiàn)出行業(yè)性、專業(yè)性、領(lǐng)先性和惠民性。
華為云EI服務(wù)產(chǎn)品部部長尤鵬介紹盤古政務(wù)大模型
在煤礦領(lǐng)域,盤古礦山大模型已經(jīng)在全國8個礦井規(guī)模使用,一個大模型可以覆蓋煤礦的采、掘、機、運、通、洗選等業(yè)務(wù)流程下的1000多個細分場景,讓更多的煤礦工人能夠在地面上作業(yè),不僅能讓煤礦工人的工作環(huán)境更加舒適,而且可以極大地減少安全事故。
在鐵路領(lǐng)域,盤古鐵路大模型能精準(zhǔn)識別現(xiàn)網(wǎng)運行的67種貨車、430多種故障,無故障圖片篩除率高達95%,成為貨運列檢員身邊有力的數(shù)字助手,將列檢員從每日數(shù)百萬張的“圖!睓z測中解放出來。
在氣象領(lǐng)域,盤古氣象大模型是首個精度超過傳統(tǒng)數(shù)值預(yù)報方法的AI預(yù)測模型,同時預(yù)測速度也有大幅提升。原來預(yù)測一個臺風(fēng)未來10天的路徑,需要在3000臺服務(wù)器的高性能計算機集群上花費5小時進行仿真,F(xiàn)在基于預(yù)訓(xùn)練的盤古氣象大模型,通過AI推理的方式,研究者只需單臺服務(wù)器上單卡配置,10秒內(nèi)就可以獲得更精確的預(yù)測結(jié)果。
華為云人工智能領(lǐng)域首席科學(xué)家田奇介紹如何從基礎(chǔ)大模型煉成行業(yè)大模型
在金融領(lǐng)域,盤古金融大模型可以對銀行的各種操作、政策、案例文檔進行預(yù)訓(xùn)練,能根據(jù)客戶的問題,為柜臺工作人員自動生成流程和操作指導(dǎo),將原來需要平均5次的操作降低為1次,辦結(jié)時間縮短5分鐘以上。盤古大模型讓數(shù)十萬網(wǎng)點柜員都擁有自己的智慧助手。
在制造領(lǐng)域,過去單產(chǎn)線制定器件分配計劃,往往要花費3個小時以上才能做齊1天的生產(chǎn)計劃。盤古制造大模型學(xué)習(xí)了華為產(chǎn)線上各種器件數(shù)據(jù)、業(yè)務(wù)流程及規(guī)則以后,能夠?qū)I(yè)務(wù)需求進行準(zhǔn)確的意圖理解,并調(diào)用天籌AI求解器插件,1分鐘即可做出未來3天的生產(chǎn)計劃。
在藥物研發(fā)領(lǐng)域,原來一款新藥研發(fā)平均需要10年時間、花費10億美金。盤古藥物分子大模型助力西安交通大學(xué)第一附屬醫(yī)院劉冰教授團隊發(fā)現(xiàn)全球40年來首個新靶點、新類別的抗生素,并將先導(dǎo)藥物研發(fā)周期縮短至1個月、研發(fā)成本降低70%。
技術(shù)扎根、極致效能,打造世界AI另一極
大模型的創(chuàng)新不僅僅是模型自身的創(chuàng)新,更依賴于AI的各項根技術(shù)創(chuàng)新。華為在最底層構(gòu)建了以鯤鵬和昇騰為基礎(chǔ)的AI算力云平臺,以及異構(gòu)計算架構(gòu)CANN、全場景AI框架昇思MindSpore,AI開發(fā)生產(chǎn)線ModelArts等,為大模型開發(fā)和運行提供分布式并行加速,算子和編譯優(yōu)化、集群級通信優(yōu)化等關(guān)鍵能力;谌A為的AI根技術(shù),大模型訓(xùn)練效能可以調(diào)優(yōu)到業(yè)界主流GPU的1.1倍。
華為諾亞方舟實驗室主任姚駿介紹盤古基礎(chǔ)大模型全棧創(chuàng)新
算力是訓(xùn)練大模型的基礎(chǔ)。在本次大會上,張平安宣布單集群2000P Flops算力的昇騰AI云服務(wù)在華為云的烏蘭察布和貴安AI算力中心同時上線。昇騰AI云服務(wù)除了支持華為全場景AI框架昇思MindSpore外,還支持Pytorch、Tensorflow等主流AI框架。同時,這些框架中90%的算子,都可以通過華為端到端的遷移工具平滑遷移到昇騰平臺。例如,美圖僅用30天就將70個模型遷移到了昇騰,同時華為云和美圖團隊一起進行了30多個算子的優(yōu)化以及流程的并行加速,AI性能較原有方案提升了30%。
此外,在大模型訓(xùn)練過程中經(jīng)常會遇到GPU故障,研發(fā)人員不得不經(jīng)常重啟訓(xùn)練,時間長,代價大。昇騰AI云服務(wù)可以提供更長穩(wěn)的AI算力服務(wù),千卡訓(xùn)練30天長穩(wěn)率達到90%,斷點恢復(fù)時長不超過10分鐘。
“為了幫助全球客戶、伙伴、開發(fā)者訓(xùn)練和使用大模型,我們致力于為全球客戶打造世界AI另一極,為所有AI開發(fā)者提供新的選擇”,張平安表示。
深度融合,盤古大模型重構(gòu)產(chǎn)品創(chuàng)新
除了在千行百業(yè)的落地實踐,華為云盤古大模型也深度融入了華為云的產(chǎn)品服務(wù),重構(gòu)產(chǎn)品創(chuàng)新。
例如,在資料服務(wù)中,通過盤古大模型的文案生成和代碼生成技術(shù),能夠提升資料撰寫和前端代碼編寫效率,將新產(chǎn)品上市、賦能周期大為縮短。在云客服,通過嵌入行業(yè)知識庫和意圖挖掘能力的對話問答,實現(xiàn)全流程AI優(yōu)先作答,提升客服工作效率30%。在BI,通過NL2SQL和AutoGraph智能路由,實現(xiàn)SQL到可視化圖表的自動推薦,通過多輪自然語言交互,讓人人都能便捷地從數(shù)據(jù)中洞察業(yè)務(wù)細節(jié)。在云搜索,通過多模態(tài)Embedding和NL2API技術(shù),實現(xiàn)視頻、文本、圖譜等廣泛場景搜索,借助強大的語義理解和泛化能力,讓搜索準(zhǔn)確率提高15%。
同時,華為云將CodeArts研發(fā)工具與盤古大模型相結(jié)合,正式發(fā)布了面向開發(fā)者的智能編程助手CodeArts Snap。該工具訓(xùn)練了760億行精選代碼、1300萬篇技術(shù)文檔,具備智能生成、智能問答、智能協(xié)同三大核心功能,可以實現(xiàn)一句對話讓代碼生成、一次點擊即可自動注釋和生成測試用例,一條指令即可智能部署,讓每個軟件開發(fā)者都有自己的編程助手。
華為云PaaS服務(wù)產(chǎn)品部部長徐峰介紹CodeArts重塑軟件開發(fā)
此外,為了讓企業(yè)在AI時代構(gòu)筑更強的內(nèi)容創(chuàng)新能力,華為云通過盤古基礎(chǔ)大模型賦能MetaStudio數(shù)字內(nèi)容生產(chǎn)線,打造了盤古數(shù)字人大模型,提供模型生成和模型驅(qū)動兩大服務(wù),并已經(jīng)使用了20萬小時音視頻數(shù)據(jù)進行了預(yù)訓(xùn)練;谶@兩大服務(wù),開發(fā)者可以快速生成和驅(qū)動數(shù)字人模型,賦能在線教育、文娛直播、企業(yè)會議等行業(yè)應(yīng)用,讓每個企業(yè)員工實現(xiàn)“數(shù)字人自由”。例如,用戶只需在華為云MetaStudio的服務(wù)頁面上傳20秒的個人視頻,就可以快速生成個性化的數(shù)字人講解視頻,過去3個研發(fā)人員3天完成的工作,現(xiàn)在只需要3分鐘就可以完成。
華為云媒體服務(wù)產(chǎn)品部部長呂陽明介紹MetaStudio重塑數(shù)字內(nèi)容生產(chǎn)
開放同飛,攜手客戶伙伴共贏大模型生態(tài)
華為云致力于構(gòu)建以開發(fā)者為核心的、開放共贏的全球生態(tài)體系。目前,華為云全球開發(fā)者數(shù)量已超過460萬,云商店上架的商品已達10000多個。華為云提供了易用可靠的大模型工具套件、匯聚海量多行業(yè)場景API的開天aPaaS,以及包含豐富優(yōu)質(zhì)課程和技術(shù)認證的大模型專屬社區(qū),希望與開發(fā)者及伙伴一起,共同探索盤古大模型與行業(yè)結(jié)合的創(chuàng)新路徑。
華為云全球生態(tài)部總裁康寧展示大模型生態(tài)計劃
大模型的發(fā)展離不開高質(zhì)量數(shù)據(jù)的持續(xù)輸入。華為云聯(lián)合中國公共關(guān)系協(xié)會、文化大數(shù)據(jù)產(chǎn)業(yè)委員會、以及多家伙伴單位,共同倡議成立大模型高質(zhì)量數(shù)據(jù)聯(lián)盟。聯(lián)盟將匯聚來自各成員單位的開放數(shù)據(jù),打造覆蓋千行百業(yè)的高質(zhì)量數(shù)據(jù)集,促進行業(yè)大模型的蓬勃發(fā)展。
開發(fā)者是推動數(shù)字創(chuàng)新的核心力量。本次大會上,主題為“創(chuàng)想無限”的2023華為開發(fā)者大賽正式啟動。作為華為ICT領(lǐng)域的頂級賽事,華為開發(fā)者大賽開設(shè)云底座和產(chǎn)業(yè)兩大賽道,覆蓋中國、亞太、歐洲、北非、拉美五大賽區(qū),讓開發(fā)者在人工智能領(lǐng)域大展身手,實現(xiàn)創(chuàng)新性應(yīng)用開發(fā)。