騰訊云MaaS再升級(jí)：混元筑底、生態(tài)擴(kuò)容，持續(xù)推進(jìn)“效能革命”

2023-09-07 18:13:50來(lái)源：中關(guān)村在線  

9月7日，2023騰訊全球數(shù)字生態(tài)大會(huì)于深圳舉辦。會(huì)上，騰訊首次對(duì)外公布騰訊混元大模型進(jìn)展，并宣布從技術(shù)底座、平臺(tái)能力、智能應(yīng)用三大維度升級(jí)MaaS能力?；谧匝序v訊混元大模型，同時(shí)支持業(yè)內(nèi)20余款主流開(kāi)源模型，助力客戶構(gòu)建專屬大模型及智能應(yīng)用，加速模型產(chǎn)業(yè)落地，推進(jìn)“效能革命”。


(資料圖片僅供參考)

升級(jí)后，騰訊云行業(yè)大模型精選商店將進(jìn)一步擴(kuò)容，能為客戶提供不同規(guī)模的模型服務(wù)；大模型訓(xùn)練、精調(diào)工具鏈，可以幫助客戶更快、更低成本地打造“更實(shí)用”的專屬模型；同時(shí)，依托騰訊多元的PaaS、SaaS產(chǎn)品矩陣“試煉場(chǎng)”，用戶也能夠快速裝備即插即用的模型能力。

會(huì)上，騰訊云與信通院還共同發(fā)布了《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報(bào)告》，參考騰訊云在行業(yè)大模型產(chǎn)業(yè)應(yīng)用領(lǐng)域的實(shí)踐和經(jīng)驗(yàn)，為客戶構(gòu)建行業(yè)大模型提供了標(biāo)準(zhǔn)化流程、綜合評(píng)估方法，以便更好地幫助行業(yè)伙伴構(gòu)建專屬大模型。

騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示，騰訊著眼于產(chǎn)業(yè)實(shí)踐建設(shè)行業(yè)大模型的思路已得到了業(yè)界的普遍認(rèn)可。通過(guò)“行業(yè)大模型+企業(yè)數(shù)據(jù)精調(diào)”方案，騰訊幫助產(chǎn)業(yè)伙伴打造適合自己的大模型產(chǎn)品，解決企業(yè)應(yīng)用大模型過(guò)程中面臨的專業(yè)度、準(zhǔn)確度、數(shù)據(jù)安全、成本等諸多挑戰(zhàn)。技術(shù)變革和客戶需求的快速發(fā)展，推動(dòng)了騰訊云MaaS服務(wù)能力快速迭代升級(jí)。

騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生

開(kāi)放多元基底模型，騰訊云MaaS持續(xù)推進(jìn)“效能革命”

會(huì)上，騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲認(rèn)為，當(dāng)前企業(yè)在大模型領(lǐng)域探索已過(guò)“嘗鮮期”，產(chǎn)業(yè)實(shí)踐將成為檢驗(yàn)大模型價(jià)值的重要標(biāo)準(zhǔn)，大模型在產(chǎn)業(yè)領(lǐng)域應(yīng)用的“縱深度”也將持續(xù)拓展?；诖耍v訊云行業(yè)大模型從技術(shù)底座、平臺(tái)能力、智能應(yīng)用三大層面升級(jí)，加速模型落地進(jìn)程。

技術(shù)底座方面，由騰訊自研的混元通用大模型首次公開(kāi)亮相。吳運(yùn)聲表示，騰訊混元大模型是騰訊云行業(yè)大模型的堅(jiān)實(shí)底座，其不僅有出色的中文創(chuàng)作能力，還具備在復(fù)雜語(yǔ)境下的邏輯推理能力以及可靠的任務(wù)執(zhí)行能力，并已在騰訊內(nèi)部多個(gè)產(chǎn)品和業(yè)務(wù)中成功接入并獲得顯著成果，并將通過(guò)騰訊云陸續(xù)面向行業(yè)客戶開(kāi)放。

騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲

而為了滿足企業(yè)、開(kāi)發(fā)者多元的模型需求，騰訊云還率先宣布上架和支持開(kāi)源模型，接入了Llama 2、Falcon、Bloom等20多個(gè)行業(yè)最新主流的開(kāi)源模型，覆蓋智能對(duì)話、文本生成、寫(xiě)作等豐富應(yīng)用場(chǎng)景?？蛻艨衫抿v訊云TI平臺(tái)對(duì)上述開(kāi)源模型進(jìn)行訓(xùn)練，基于Jupyter Notebook快速啟動(dòng)模型精調(diào)，低代碼操作完成模型部署。

同時(shí)，騰訊云也對(duì)平臺(tái)能力進(jìn)行了大幅提升。升級(jí)后的TI平臺(tái)工具鏈，接入騰訊云HCC高性能計(jì)算節(jié)點(diǎn)及星脈高性能計(jì)算網(wǎng)絡(luò)，可提供3.2Tbps的網(wǎng)絡(luò)帶寬。全新升級(jí)的太極Angel大模型加速框架，較行業(yè)常用方案性能提升30%以上。全新的工具鏈，具備高性能的大模型精調(diào)與部署能力，覆蓋大模型開(kāi)發(fā)、應(yīng)用全生命周期，讓客戶只需加入自己獨(dú)有的場(chǎng)景數(shù)據(jù)，即可在短時(shí)間內(nèi)精調(diào)出專屬的模型方案。

此外，企業(yè)也可接入騰訊升級(jí)后的SaaS、PaaS產(chǎn)品矩陣，通過(guò)豐富的、即插即用的智能應(yīng)用，快速裝備模型能力。升級(jí)后的智能客服機(jī)器人擴(kuò)展了知識(shí)邊界，大幅提升接待對(duì)話體驗(yàn)，減少運(yùn)營(yíng)成本；企點(diǎn)分析AI助手，通過(guò)“對(duì)話式數(shù)據(jù)分析、輔助分析模型配置更新、智能結(jié)論提取、一鍵生成分析報(bào)告”等核心能力，改造傳統(tǒng)分析流程，提升企業(yè)數(shù)據(jù)的分析洞察產(chǎn)出效率；全新發(fā)布AI大模型加持的“通用口型”版小樣本數(shù)智人，無(wú)需訓(xùn)練，上傳素材1小時(shí)內(nèi)即可獲取專屬數(shù)智分身。

攜手客戶伙伴，助力20＋行業(yè)提質(zhì)增效

會(huì)上，吳運(yùn)聲表示，“騰訊云將不斷完善MaaS能力，與廣大客戶和合作伙伴攜手，共同迎接AI大模型時(shí)代的‘效能革命’。”作為行業(yè)大模型“實(shí)戰(zhàn)派”，騰訊云目前已落地文旅、泛互、零售、能源、醫(yī)療等20多個(gè)行業(yè)，并覆蓋生產(chǎn)、銷售、客服等多個(gè)環(huán)節(jié)，并已經(jīng)在頭部客戶中打造多個(gè)最佳實(shí)踐。

比如某科技公司搭建大規(guī)模建模平臺(tái)時(shí)，面臨人力、物力、資源等缺乏問(wèn)題。騰訊云MaaS為其提升了自動(dòng)駕駛領(lǐng)領(lǐng)域的2D感知、3D感知類建模任務(wù)的訓(xùn)練性能，實(shí)現(xiàn)輕量化運(yùn)維和接入。提供高性能算力集群及訓(xùn)練加速能力，訓(xùn)練性能提升40%；打通高性能分布式文件存儲(chǔ)和高性能計(jì)算節(jié)點(diǎn)，大幅提升算力資源利用率。

文旅領(lǐng)域是客服應(yīng)用的集中場(chǎng)景，對(duì)模型應(yīng)用的效率有強(qiáng)烈的提升需求。騰訊云聯(lián)合某線上旅游OTA公司，共同探索文旅行業(yè)大模型的應(yīng)用，改善傳統(tǒng)智能客服對(duì)話配置中知識(shí)維護(hù)量大、耗時(shí)長(zhǎng)、人力成本高等痛點(diǎn)。精調(diào)后的客戶專屬模型，無(wú)需配置對(duì)話流程，即可實(shí)現(xiàn)端到端解決業(yè)務(wù)問(wèn)題。提升任務(wù)完成率，降低對(duì)話構(gòu)建成本。

內(nèi)容創(chuàng)作對(duì)大模型的生成速度、理解能力要求高，是最能驗(yàn)證大模型場(chǎng)景廣度的領(lǐng)域之一。騰訊云MaaS助力閱文集團(tuán)文生圖、圖生圖的推理部署和加速。C端用戶應(yīng)用需要提供高QPS、低模型耗時(shí)的方案，閱文基于騰訊云TI平臺(tái)搭載的Angel推理加速引擎，推理能力平均提升30%，將文生文領(lǐng)域成本降低到原來(lái)的1/4。此外，TI平臺(tái)提供動(dòng)態(tài)batch和自動(dòng)服務(wù)調(diào)度機(jī)制，大幅提高了服務(wù)吞吐量，模型優(yōu)化和部署模塊一鍵加速和發(fā)布模型，極大減輕了服務(wù)部署的維護(hù)成本。

而政務(wù)領(lǐng)域則需要大模型深入應(yīng)用場(chǎng)景，更加專業(yè)、可靠。騰訊云助力某稅務(wù)部門(mén)打造專屬政務(wù)大模型，解決傳統(tǒng)智能客服知識(shí)邊界受限，問(wèn)題攔截率、覆蓋率低，政策法規(guī)、辦事指南的持續(xù)迭代造成后續(xù)運(yùn)營(yíng)維護(hù)成本高的問(wèn)題。升級(jí)后的客服系統(tǒng)，從知識(shí)采集到知識(shí)運(yùn)營(yíng)均實(shí)現(xiàn)智能化升級(jí)，成為“稅務(wù)領(lǐng)域的知識(shí)專家”和“緊跟法規(guī)、指南的稅務(wù)助手”。

積極參與標(biāo)準(zhǔn)制定，助推行業(yè)大模型高質(zhì)量發(fā)展

行業(yè)大模型的落地與拓展，需要標(biāo)準(zhǔn)化的流程與評(píng)估體系。會(huì)上，騰訊云與信通院共同發(fā)布了《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報(bào)告》（以下簡(jiǎn)稱“報(bào)告”），幫助行業(yè)伙伴更好地構(gòu)建專屬大模型。

《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報(bào)告》發(fā)布

吳運(yùn)聲介紹，報(bào)告內(nèi)包括行業(yè)需求分析與資源評(píng)估、行業(yè)數(shù)據(jù)與模型共建、行業(yè)精調(diào)與優(yōu)化部署等關(guān)鍵環(huán)節(jié)，能夠幫助行業(yè)伙伴洞悉行業(yè)應(yīng)用場(chǎng)景、模型開(kāi)發(fā)、模型能力、模型應(yīng)用、模型運(yùn)營(yíng)、安全可信等維度，從而對(duì)大模型進(jìn)行綜合評(píng)估。

中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所副所長(zhǎng)魏凱表示，信通院作為國(guó)家信息通信領(lǐng)域的重要研究機(jī)構(gòu)，一直關(guān)注AI技術(shù)的發(fā)展和應(yīng)用，特別是大模型技術(shù)的創(chuàng)新和推廣。信通院將與騰訊云深入合作，共同推進(jìn)行業(yè)大模型標(biāo)準(zhǔn)體系的建設(shè)和完善，為產(chǎn)業(yè)智能化發(fā)展提供技術(shù)支撐和服務(wù)。

“我們希望行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究，能夠幫助行業(yè)伙伴解決如何將大模型能力“應(yīng)用”到自身的行業(yè)和場(chǎng)景里的問(wèn)題，可以更有效的解決成本、數(shù)據(jù)、安全，合規(guī)等大模型實(shí)際落地難題。通過(guò)建立標(biāo)準(zhǔn)體系，為行業(yè)大模型的建設(shè)和應(yīng)用提供指引和支持?！彬v訊法務(wù)副總裁江波提到。

為千行百業(yè)輸送行業(yè)大模型解決方案的同時(shí)，騰訊一直積極參加大模型標(biāo)準(zhǔn)建設(shè)。2020年，騰訊被選舉為全國(guó)信標(biāo)委人工智能分委會(huì)委員兼副秘書(shū)長(zhǎng)單位，作為核心成員，承擔(dān)了更多標(biāo)準(zhǔn)制定工作以及技術(shù)引領(lǐng)作用。前不久，騰訊云還聯(lián)合中國(guó)信通院發(fā)起行業(yè)大模型生態(tài)計(jì)劃，并牽頭國(guó)內(nèi)首個(gè)金融行業(yè)大模型標(biāo)準(zhǔn)制訂，為金融行業(yè)智能化的高質(zhì)量規(guī)范化發(fā)展提供重要支撐。

更強(qiáng)的能力、更高的效率、更廣的場(chǎng)景、更深的應(yīng)用，騰訊云行業(yè)大模型不斷迭代，通過(guò)MaaS能力助力產(chǎn)業(yè)提質(zhì)增效。未來(lái)，騰訊云將持續(xù)升級(jí)產(chǎn)品、技術(shù)能力，幫助千行百業(yè)更高效率、高品質(zhì)、低成本地創(chuàng)建和部署更實(shí)用的AI應(yīng)用，助力更多實(shí)體實(shí)現(xiàn)高質(zhì)量的數(shù)智化轉(zhuǎn)型升級(jí)。

標(biāo)簽：

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀