首頁(yè)|必讀|視頻|專訪|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁(yè) >> 終端 >> 正文

自研大模型、打造“智能體”,vivo打開(kāi)敘事新空間

2023年11月3日 09:47  CCTIME飛象網(wǎng)  作 者:高靖宇

飛象網(wǎng)訊(高靖宇/文)近年來(lái)手機(jī)產(chǎn)業(yè)發(fā)展進(jìn)入創(chuàng)新期,手機(jī)廠商正試圖尋找新的差異化出路。特別今年以來(lái),隨著ChatGPT的橫空出世和全民級(jí)應(yīng)用發(fā)展趨勢(shì),眾多手機(jī)廠商紛紛入局AI大模型賽道,成為當(dāng)下最火熱的技術(shù)賽道。

而在這場(chǎng)大模型競(jìng)賽中,vivo顯然走在了前列。11月1日,在2023 vivo開(kāi)發(fā)者大會(huì)上,vivo正式發(fā)布自研藍(lán)心大模型BlueLM、OriginOS 4、自研藍(lán)河操作系統(tǒng)BlueOS。其中,藍(lán)心大模型是vivo自研通用大模型矩陣,從開(kāi)源到完全自研歷時(shí)6年,包括十億、百億、千億三個(gè)不同參數(shù)量級(jí)的5款自研大模型,全面覆蓋核心應(yīng)用場(chǎng)景,并將大模型矩陣能力全面融入到OriginOS 4。這意味著,vivo端側(cè)大模型已從前沿技術(shù)探索進(jìn)入到應(yīng)用和產(chǎn)業(yè)級(jí)落地新階段。

大模型與手機(jī)結(jié)合之后,智能手機(jī)又有了新敘事,為未來(lái)智能手機(jī)發(fā)展探索出新方向。vivo副總裁、OS產(chǎn)品副總裁周圍預(yù)判,未來(lái)手機(jī)的發(fā)展趨勢(shì)或?qū)⑦M(jìn)化為“智能體”。

如何將大模型裝入手機(jī)?答案是:端云協(xié)同

通過(guò)類似ChatGPT、文心一言的APP就能使用大模型,為什么還要把大模型裝入到手機(jī)端側(cè)呢?這是因?yàn),與單純?cè)谠贫瞬渴鹕墒?AI 應(yīng)用和服務(wù)相比,手機(jī)終端側(cè)部署生成式 AI 可以實(shí)現(xiàn)在設(shè)備端運(yùn)行復(fù)雜的AI算法,從而減少對(duì)云端服務(wù)的依賴,個(gè)人私密信息也不用上傳的云端,保障數(shù)據(jù)安全。此外,手機(jī)可以更好地理解和響應(yīng)用戶的需求,從而滿足用戶對(duì)更加智能化手機(jī)的期待。

那么,大模型千億級(jí)的參數(shù)量如何在手機(jī)上流程運(yùn)行,此時(shí)端云協(xié)同的混合架構(gòu)就成為關(guān)鍵。vivo的藍(lán)心大模型包含有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模,其中10億量級(jí)模型是主要面向端側(cè)場(chǎng)景打造的專業(yè)文本大模型,具備本地化的文本總結(jié)、摘要等能力。70億模型是面向手機(jī)打造的端云兩用模型,具有優(yōu)秀的語(yǔ)言理解、文本創(chuàng)作能力,同時(shí),上述兩個(gè)量級(jí)的模型支持高通和MTK最新旗艦雙平臺(tái)端側(cè)化部署,在保證數(shù)據(jù)安全的同時(shí),在出詞速度、響應(yīng)時(shí)間、內(nèi)存占用等方面也非常優(yōu)秀,實(shí)現(xiàn)了安全與性能的雙重并舉。

vivo同時(shí)在做的有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模的藍(lán)心大模型,其中10億和70億已經(jīng)可以由本地算力支撐,而更大的數(shù)據(jù)仍然需要運(yùn)行在云端。為此,vivo并不會(huì)強(qiáng)制用戶必須使用端側(cè)或者云端,而是交給用戶自己去選擇,比如隱私保密性不需要那么高的輸入法等功能,可以選擇在云端運(yùn)行,而公司文件、相冊(cè)等,就可以利用手機(jī)本身的算力來(lái)完成。

700億模型是面向云端服務(wù)的主力模型,其綜合能力,在C-Eval、CMMLU、SuperCLUE(10月)等榜單中均處于中文大模型的第一梯隊(duì)。另外1300億、1750億模型也將在更復(fù)雜的場(chǎng)景中以更豐富的知識(shí)和推理能力為用戶帶來(lái)更專業(yè)的智能體驗(yàn)。

除了與云端協(xié)作,手機(jī)大模型還面臨算法和算力的挑戰(zhàn)。vivo整個(gè)團(tuán)隊(duì)花了六年多時(shí)間不斷解決問(wèn)題,在算法方面,在預(yù)訓(xùn)練階段,vivo利用最前沿的Transformer架構(gòu),改良了注意力機(jī)制、位置編碼等關(guān)鍵模塊,并在包含了3.3萬(wàn)億詞的大規(guī)模多語(yǔ)言數(shù)據(jù)集上進(jìn)行訓(xùn)練,最終使得藍(lán)心大模型具備了超強(qiáng)的基礎(chǔ)能力。算力上,vivo也在積極通過(guò)信息技術(shù)應(yīng)用創(chuàng)新去解決算力問(wèn)題,組建了一只150人的工程團(tuán)隊(duì),持續(xù)地提升集群的效率,目前vivo千億模型訓(xùn)練周期低于2個(gè)月,百億模型不到2周。

目前,vivo構(gòu)建了超過(guò)100萬(wàn)條高質(zhì)量的多語(yǔ)言多任務(wù)指令數(shù)據(jù)進(jìn)行學(xué)習(xí)和訓(xùn)練,從而讓藍(lán)心大模型更好地理解用戶的意圖,適應(yīng)各種目標(biāo)任務(wù)。并在安全部署中通過(guò)了中國(guó)信通院內(nèi)容審核服務(wù)系統(tǒng)評(píng)測(cè),在文本、語(yǔ)音和視頻內(nèi)容識(shí)別需要檢測(cè)的15個(gè)大類中,14個(gè)大類獲得最高的5星等級(jí),1個(gè)獲得4星等級(jí)。

全新OriginOS 4,讓手機(jī)越用越好用

在本次發(fā)布會(huì)上,vivo帶來(lái)了全新升級(jí)的OriginOS4,它將大模型能力與系統(tǒng)結(jié)合,打造“1+2+N”智能系統(tǒng)體驗(yàn),藍(lán)心小V則是具體的應(yīng)用呈現(xiàn)。

與傳統(tǒng)AI應(yīng)用相比,藍(lán)心小V擁有更為自然的人機(jī)交互方式,強(qiáng)大的自然對(duì)話能力、信息處理能力以及洞察能力,不僅支持通過(guò)語(yǔ)音、文字、拖拽等方式接受并處理信息數(shù)據(jù),還可以針對(duì)不同問(wèn)題以合適的形式進(jìn)行信息呈現(xiàn),這些讓它能夠像一位專屬私人助理一般,在自然交流中幫助用戶完成找文件、搜照片、總結(jié)歸納信息、快捷創(chuàng)建日程等操作,帶來(lái)更加智慧便捷的AI體驗(yàn)。

為了讓大模型在用戶端得到廣泛應(yīng)用,vivo還推出了可在任意手機(jī)安裝的藍(lán)心千詢APP,具備同樣強(qiáng)大的自然對(duì)話能力和信息處理能力,而與藍(lán)心小V不同的是,藍(lán)心千詢完全基于云端大模型處理任務(wù),不會(huì)涉及用戶隱私數(shù)據(jù)。

此外,針對(duì)硬件配置較低的終端設(shè)備,vivo推出了一個(gè)全新的操作系統(tǒng)——藍(lán)河BlueOS,它從全棧視角進(jìn)行了高性能架構(gòu)設(shè)計(jì),例如,在編程語(yǔ)言、運(yùn)行時(shí)Runtime、系統(tǒng)調(diào)度、框架、顯示和內(nèi)存等技術(shù)方向取得了技術(shù)突破,能支持藍(lán)河操作系統(tǒng)流暢地運(yùn)行在各種配置的設(shè)備上。而在智慧層面,它結(jié)合了先進(jìn)的AI大模型,接入藍(lán)心大模型的多模態(tài)能力。

據(jù)vivo介紹,藍(lán)河操作系統(tǒng)首發(fā)將落地vivo Watch3搭載。用戶可以通過(guò)語(yǔ)音的方式,基于AI能力,個(gè)性化地創(chuàng)作手表表盤(pán)。

目前AI大模型在手機(jī)端側(cè)的應(yīng)用還在起步階段,但卻是未來(lái)必爭(zhēng)的技術(shù)高地。根據(jù)IDC預(yù)測(cè),到2026年,中國(guó)市場(chǎng)中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。這意味著,手機(jī)廠商擁有AI大模型的能力將變得越來(lái)越重要。而vivo布局大模型絕非“蹭熱點(diǎn)”,歷經(jīng)六年的蓄勢(shì),vivo通過(guò)“1+2+N”的智能系統(tǒng)將大模型能力在終端側(cè)全面釋放,讓AI有機(jī)會(huì)走入千家萬(wàn)戶,為每一位用戶帶來(lái)更加智慧且貼心的體驗(yàn)。

編 輯:高靖宇
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問(wèn)題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張?jiān)泼鳎捍蟛糠謬?guó)家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動(dòng) 共筑信息保障堤壩
2023MWC上海世界移動(dòng)通信大會(huì)
中國(guó)5G商用四周年
2023年中國(guó)國(guó)際信息通信展覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書(shū)面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像