世界消息！逐浪AIGC丨AI大模型時(shí)代，火山引擎要做聚合平臺(tái)

來(lái)源：21經(jīng)濟(jì)網(wǎng)

21世紀(jì)經(jīng)濟(jì)報(bào)道記者白楊 北京報(bào)道

大模型浪潮撲面而來(lái)，幾乎所有企業(yè)都在思考如何迎接。經(jīng)過(guò)半年的觀察和實(shí)踐，字節(jié)跳動(dòng)旗下的ToB品牌火山引擎也找準(zhǔn)了自己的定位。

6月28日，火山引擎正式發(fā)布大模型服務(wù)平臺(tái)“火山方舟”，旨在為企業(yè)客戶提供模型精調(diào)、評(píng)測(cè)、推理等MaaS（Model-as-a-Service）服務(wù)。


【資料圖】

火山引擎總裁譚待表示，對(duì)于中國(guó)的大模型發(fā)展，火山引擎已經(jīng)有了幾個(gè)關(guān)鍵判斷：首先，未來(lái)的大模型市場(chǎng)將是一個(gè)百花齊放的多模型生態(tài)，在這個(gè)生態(tài)系統(tǒng)中，將同時(shí)并行存在幾個(gè)少數(shù)的超大規(guī)模的大模型、多個(gè)中等規(guī)模的大模型和更多個(gè)行業(yè)的垂直模型，“這是由安全信任、行業(yè)壁壘和成本因素共同決定的?！?/p>

其次，在未來(lái)，企業(yè)尤其是行業(yè)頭部企業(yè)，自身對(duì)于大模型的應(yīng)用，將會(huì)是“1+N”的應(yīng)用模式，即企業(yè)通過(guò)自研或者與三方模型服務(wù)商的深度合作，形成企業(yè)自身的1個(gè)主力模型，這個(gè)主力模型之外，在不同的場(chǎng)景中，企業(yè)還會(huì)同時(shí)應(yīng)用N個(gè)外部模型。

聚合多方大模型

在此之前，已有多家云廠商相繼推出了MaaS服務(wù)，他們的思路大都一致，都是基于一個(gè)通用基礎(chǔ)大模型，為不同行業(yè)提供具有行業(yè)屬性的行業(yè)大模型。

而火山引擎另辟蹊徑，采用了一種聚合模式。據(jù)介紹，火山方舟已集成百川智能、出門問(wèn)問(wèn)、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型。基于這種多模型架構(gòu)，企業(yè)客戶在火山方舟上便可同步試用多個(gè)大模型，并選用更適合自身業(yè)務(wù)需要的模型組合。

譚待在接受21世紀(jì)經(jīng)濟(jì)報(bào)道采訪時(shí)指出，火山引擎和其他廠商的理念可能不大一樣，“友商推出模型平臺(tái)，從模型到模型平臺(tái)以及各種體系都是自己做的，是很封閉的端到端，他們可能認(rèn)為未來(lái)一個(gè)模型就夠了，但我們不是這樣想的。我們認(rèn)為未來(lái)肯定不是一個(gè)模型，而是多模型，所以我們的平臺(tái)一定要支持多個(gè)模型?！?/p>

除了理念上的不同之外，譚待還提到，火山引擎能做多模型架構(gòu)，有一個(gè)很重要的原因，是這些業(yè)界做比較好的大模型，本身大部分的訓(xùn)練都是在火山引擎上?！八晕覀円呀?jīng)跟這些大模型建立了很強(qiáng)的合作關(guān)系和信任感，他們也自然而然會(huì)把推理也放到火山引擎上?！?/p>

對(duì)于哪些大模型可以進(jìn)入火山方舟，譚待稱，“我們希望火山方舟是一個(gè)精選的結(jié)果，所以希望那些確實(shí)是訓(xùn)練完成，并且在合規(guī)等方面都做比較好的，已經(jīng)達(dá)到可用形態(tài)的大模型才放到方舟平臺(tái)上。第一批公布的是7家，后面還會(huì)陸續(xù)接入更多大模型。”

當(dāng)然，做聚合平臺(tái)，也意味著火山引擎要面臨更多風(fēng)險(xiǎn)和挑戰(zhàn)。譚待表示，企業(yè)使用大模型，最擔(dān)心的是數(shù)據(jù)泄露；如果將大模型私有化部署，企業(yè)將承擔(dān)更高的成本，模型生產(chǎn)方也會(huì)擔(dān)心知識(shí)資產(chǎn)安全。

據(jù)火山引擎智能算法負(fù)責(zé)人吳迪介紹，“火山方舟”已上線了基于安全沙箱的大模型安全互信計(jì)算方案，利用計(jì)算隔離、存儲(chǔ)隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式，實(shí)現(xiàn)了模型的機(jī)密性、完整性和可用性保證，可適用于對(duì)訓(xùn)練和推理延時(shí)要求較低的客戶。

此外，吳迪透露，“火山方舟”還在探索基于NVIDIA新一代硬件支持的可信計(jì)算環(huán)境、基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)資產(chǎn)分離等多種方式的安全互信計(jì)算方案，更全面地滿足大模型在不同業(yè)務(wù)場(chǎng)景的數(shù)據(jù)安全要求。

聚焦平臺(tái)而非模型

對(duì)于火山方舟平臺(tái)，外界還關(guān)心的一個(gè)問(wèn)題是：如果字節(jié)跳動(dòng)有了自己的大模型，火山方舟會(huì)如何平衡自研和第三方模型的關(guān)系？

對(duì)此，譚待向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示，火山方舟會(huì)是個(gè)開(kāi)放的平臺(tái)，字節(jié)內(nèi)部其他團(tuán)隊(duì)如果做好了模型，也會(huì)放到方舟平臺(tái)上對(duì)外提供，它在方舟上就是眾多模型中的一個(gè)。“最后選擇字節(jié)的模型還是其他模型，這是由客戶來(lái)做選擇的，而不需要火山引擎來(lái)做平衡?！?/p>

所以，在服務(wù)模型應(yīng)用方的過(guò)程中，火山引擎提供的不是模型能力，而是幫助應(yīng)用方更好使用模型的能力。按照譚待的說(shuō)法，火山方舟為企業(yè)提供的是大模型使用的一站式工作臺(tái)，不僅包含了模型試用、評(píng)測(cè)、接入、精調(diào)等能力，也通過(guò)訓(xùn)推一體、彈性調(diào)度、算子優(yōu)化等能力，幫助應(yīng)用企業(yè)全面進(jìn)行成本優(yōu)化。

據(jù)吳迪介紹，企業(yè)可以用統(tǒng)一的工作流對(duì)接多家大模型，對(duì)于復(fù)雜需求可設(shè)置高級(jí)參數(shù)、驗(yàn)證集、測(cè)試集等功能，再通過(guò)自動(dòng)化和人工評(píng)估直觀對(duì)比模型精調(diào)效果，在不同業(yè)務(wù)場(chǎng)景里還可靈活切換不同的模型，實(shí)現(xiàn)最具性價(jià)比的模型組合。

在其看來(lái)，訓(xùn)練大模型很昂貴，但是從長(zhǎng)期來(lái)看，模型的推理開(kāi)銷會(huì)超過(guò)訓(xùn)練開(kāi)銷。效果和成本的矛盾永遠(yuǎn)存在，降低推理成本會(huì)是大模型應(yīng)用落地的重要因素，“一個(gè)經(jīng)過(guò)良好精調(diào)的中小規(guī)格模型，在特定工作上的表現(xiàn)可能不亞于通用的、巨大的基座模型，而推理成本可以降低到原來(lái)的十分之一。”

因此，企業(yè)在火山方舟進(jìn)行的自定義指標(biāo)和評(píng)估數(shù)據(jù)的積累，也將成為企業(yè)在大模型時(shí)代寶貴的數(shù)據(jù)資產(chǎn)。另?yè)?jù)吳迪透露，字節(jié)跳動(dòng)內(nèi)部已有十多個(gè)業(yè)務(wù)團(tuán)隊(duì)在試用“火山方舟”，覆蓋文本和圖像生成、對(duì)話、代碼輔助、信息檢索、營(yíng)銷創(chuàng)意、電商、辦公效率等領(lǐng)域。

吳迪表示，火山方舟希望在模型供應(yīng)商和模型使用方之間，促成“研究-訓(xùn)練-應(yīng)用-變現(xiàn)-反哺研究”的正向循環(huán)?！皩?duì)模型提供方來(lái)說(shuō)，火山方舟能夠幫助大家以更低的成本觸達(dá)海量客戶，用更小的代價(jià)在ToB市場(chǎng)規(guī)模化；對(duì)模型使用者來(lái)說(shuō)，則可以便捷地接觸到眾多高質(zhì)量的基座模型，為不同場(chǎng)景選擇最合適的模型?！?/p>

但譚待也坦言，“每一次技術(shù)的大變革，都會(huì)帶來(lái)體驗(yàn)創(chuàng)新的新機(jī)會(huì)，而火山方舟還在起步階段，工具鏈和下游應(yīng)用插件需要持續(xù)完善。”接下來(lái)，火山方舟還將接入更多大模型，并逐步擴(kuò)大邀測(cè)范圍，加速大模型在各行各業(yè)的應(yīng)用落地。

標(biāo)簽：

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)