大模型狂飆突進(jìn)之后,各行各業(yè)關(guān)注的焦點(diǎn),逐漸轉(zhuǎn)移到了大模型的實(shí)用性與商業(yè)化,關(guān)注大模型在具體場(chǎng)景中能解決什么問(wèn)題。
其中,金融場(chǎng)景是許多大模型廠商和創(chuàng)業(yè)者都很關(guān)注的領(lǐng)域,由于市場(chǎng)規(guī)模大、客戶付費(fèi)能力強(qiáng)、對(duì)AI技術(shù)采納早、領(lǐng)域?qū)I(yè)性強(qiáng)易于構(gòu)建數(shù)據(jù)壁壘……這些先天優(yōu)勢(shì),讓金融領(lǐng)域的垂類大模型,展現(xiàn)出極強(qiáng)的落地和商用潛力,同時(shí)也掀起了激烈的市場(chǎng)競(jìng)爭(zhēng)。
不僅基礎(chǔ)大模型廠商積極向金融領(lǐng)域進(jìn)發(fā),和金融伙伴聯(lián)合推出行業(yè)大模型,一些垂類企業(yè)也在積極研發(fā),Bloomberg率先推出了自研的BloombergGPT……這些面向金融場(chǎng)景的大模型,究竟有何差異呢?
最近,權(quán)威大模型評(píng)測(cè)榜單C-Eval剛剛更新,其中清華&;智譜Al、OpenAl、商湯科技、容聯(lián)云等位居前列。
高達(dá)50~100億參數(shù)的容聯(lián)云赤兔大模型,專注于金融垂類大模型,其成績(jī)表現(xiàn)超過(guò)了幾乎所有同等規(guī)模的模型,以輕量級(jí)模型躋身GPT4等千億模型為主的TOP梯隊(duì)。
百模大戰(zhàn)之后,通用大模型成為少數(shù)玩家的游戲,更小參數(shù)、更易部署、更懂行業(yè)、更低落地成本的垂類大模型成為諸多行業(yè)和企業(yè)用戶關(guān)注的焦點(diǎn)。
我們不妨以表現(xiàn)突出的容聯(lián)云赤兔為例,來(lái)聊一聊大模型在垂直行業(yè)的落地,究竟該點(diǎn)亮哪些技能點(diǎn)。
赤兔飛馳
在大模型賽場(chǎng)一戰(zhàn)成名
赤兔,被認(rèn)為是馬中之王,是戰(zhàn)場(chǎng)上日行萬(wàn)里的悍將。從這個(gè)角度看,容聯(lián)云赤兔確實(shí)“模如其名”,在百模大戰(zhàn)中展現(xiàn)出和赤兔馬一樣的風(fēng)采:
首先是快。今年7月,容聯(lián)云在上海世界人工智能大會(huì)上發(fā)布了赤兔大模型,成為行業(yè)首個(gè)專注金融垂類大模型,到今天躋身權(quán)威榜單第六,崛起速度是非常迅疾的。
其次是猛。C-Eval是由清華大學(xué)、上海交通大學(xué)和愛(ài)丁堡大學(xué)合作構(gòu)建的面向中文語(yǔ)言模型的綜合性考試評(píng)測(cè)集,包含13948道多項(xiàng)選擇題,涵蓋52個(gè)不同學(xué)科和四個(gè)難度級(jí)別,是目前較為權(quán)威的中文AI大模型評(píng)測(cè)榜單。赤兔大模型能躋身TOP梯隊(duì),獲得第六的成績(jī),屬實(shí)是垂類大模型的一員猛將了。
垂類大模型更重要的是精。因?yàn)榇竽P吐涞氐囊粋€(gè)普遍痛點(diǎn),是場(chǎng)景和效果不確定,將大模型和金融行業(yè)需求精準(zhǔn)對(duì)接,需要在數(shù)據(jù)工程、知識(shí)工程、提示工程、應(yīng)用探索等多方面,下“巧功夫”。目前,赤兔大模型已經(jīng)探索出了一些垂直場(chǎng)景,比如其賦能的溝通智能2.0,專注解決客服和營(yíng)銷場(chǎng)景下的知識(shí)庫(kù)、人工座席輔助及陪練、問(wèn)答機(jī)器人、金牌銷售等需求,精準(zhǔn)釋放大模型的技術(shù)價(jià)值。
總體來(lái)說(shuō),容聯(lián)云赤兔不僅在大模型評(píng)測(cè)賽場(chǎng)上一馬當(dāng)先,更重要的是,其在實(shí)用性和商業(yè)化探索上也邁出了重要一步,展現(xiàn)出國(guó)產(chǎn)大模型的落地速度和商用潛力。
金融+大模型
需要一個(gè)“四邊形戰(zhàn)士”
當(dāng)許多大模型廠商和創(chuàng)業(yè)公司,在為如何回收高昂的模型訓(xùn)練成本發(fā)愁的時(shí)候,容聯(lián)云赤兔所走的垂類大模型之路,展現(xiàn)出了較為清晰的商用前景和價(jià)值轉(zhuǎn)化能力。
不由地使我們好奇,容聯(lián)云赤兔究竟做對(duì)了什么?一言以蔽之,大模型在垂直行業(yè)的落地需要的是在知識(shí)、數(shù)據(jù)、可信、成本等層面沒(méi)有短板的“四邊形戰(zhàn)士”,容聯(lián)云正是將這些工作做到前面、做到實(shí)處、做出差異化競(jìng)爭(zhēng)力,才能一馬當(dāng)先。
1.知識(shí)層面。機(jī)器學(xué)習(xí)的模式是提出抽象化特征并反向輸送給機(jī)器,從而實(shí)現(xiàn)智能,大模型也不例外。但到底提取什么特征,如何給出評(píng)估決策,這些環(huán)節(jié)都存在大量領(lǐng)域知識(shí)和行業(yè)Know-How。不搞清楚這些問(wèn)題,缺少知識(shí)驅(qū)動(dòng),大模型只能“大力出奇跡”,一味追求龐大規(guī)模參數(shù),帶來(lái)產(chǎn)業(yè)落地難以承受的高成本、部署難度、幻覺(jué)和不確定性。
為解決這一問(wèn)題,“赤兔大模型”結(jié)合金融領(lǐng)域知識(shí)進(jìn)行訓(xùn)練,可以真正理解客戶的開(kāi)放問(wèn)題,根據(jù)不同的業(yè)務(wù)需求和場(chǎng)景特點(diǎn)匹配相應(yīng)回答,提高金融服務(wù)的效果。
2.數(shù)據(jù)層面。AI離不開(kāi)數(shù)據(jù),大模型尤其依賴超大規(guī)模的數(shù)據(jù)積累和標(biāo)注。同時(shí),要讀懂垂直行業(yè)如金融場(chǎng)景,只有通用數(shù)據(jù)還不夠,必須學(xué)習(xí)豐富的金融語(yǔ)料來(lái)深度理解金融內(nèi)容,以保證大模型生成內(nèi)容的質(zhì)量和準(zhǔn)確性。而領(lǐng)域數(shù)據(jù),往往涉及到行業(yè)機(jī)密和隱私數(shù)據(jù),是很難獲得的、高壁壘的。這一點(diǎn)上,赤兔大模型展現(xiàn)出了特別的優(yōu)勢(shì)。據(jù)了解,容聯(lián)云首先通過(guò)開(kāi)源和公開(kāi)數(shù)據(jù)讓赤兔大模型獲得基礎(chǔ)能力,然后依托容聯(lián)云長(zhǎng)期積累的金融、營(yíng)銷等領(lǐng)域數(shù)據(jù)構(gòu)建領(lǐng)域模型,以解決特定行業(yè)的問(wèn)題。在實(shí)際服務(wù)過(guò)程中,進(jìn)一步基于業(yè)務(wù)數(shù)據(jù)和行業(yè)知識(shí)進(jìn)行模型迭代,不斷提升赤兔大模型對(duì)金融的理解能力。
3.可信層面。金融業(yè)“穩(wěn)健經(jīng)營(yíng)”的要求,是一個(gè)嚴(yán)謹(jǐn)嚴(yán)肅的復(fù)雜場(chǎng)景,對(duì)大模型的可信、可靠、可解釋等要求非常高。如果大模型在生成過(guò)程中出現(xiàn)幻覺(jué)、答非所問(wèn)、無(wú)中生有,這對(duì)于需要精準(zhǔn)決策的金融用戶是無(wú)法接受的。解決這一問(wèn)題,一方面需要專門的算法、數(shù)據(jù)工程等進(jìn)行質(zhì)量控制,同時(shí)要選擇恰當(dāng)?shù)膱?chǎng)景并進(jìn)行定制,以達(dá)到金融客戶采購(gòu)所要求的質(zhì)量。比如,赤兔大模型聚焦在一些容錯(cuò)率較高的場(chǎng)景,如客服、營(yíng)銷等,金融機(jī)構(gòu)借助赤兔大模型,可以生成一套金牌話術(shù),在電話咨詢等環(huán)節(jié)提高在線留存率,避免客戶流失,進(jìn)而提高交易成交率。在一些交易類的敏感業(yè)務(wù)、用戶體驗(yàn)要求極高的投訴類業(yè)務(wù),“赤兔”的進(jìn)入也更加謹(jǐn)慎,用更長(zhǎng)的周期來(lái)探索。
4.成本層面。一個(gè)共識(shí)是,行業(yè)和企業(yè)引入大模型是為了用的,為了降本增效發(fā)揮價(jià)值的,不是為了跟別人比拼先進(jìn)性的。用大模型就要考慮到投入產(chǎn)出比。不僅企業(yè)用戶要考量大模型的使用成本,對(duì)于大模型的開(kāi)發(fā)廠商來(lái)說(shuō),面對(duì)不低的訓(xùn)練推理和長(zhǎng)期維護(hù)成本,也需要在研發(fā)投入和商業(yè)回報(bào)周期之間進(jìn)行平衡。
容聯(lián)云CEO孫昌勛曾提到,在實(shí)際落地場(chǎng)景中,金融客戶更多使用十億級(jí)參數(shù)規(guī)模的模型來(lái)完成服務(wù)。所以,赤兔大模型在參數(shù)規(guī)模和模型性能之間做到了極高的效率,以50~100億的參數(shù)達(dá)到了極高的生成能力,為客戶提供更高的性價(jià)比和滿足私有化部署的要求。以智能客服領(lǐng)域?yàn)槔诔嗤么竽P?,容?lián)云生成式一體化智能客服平臺(tái),能將知識(shí)生產(chǎn)效率提升70%,對(duì)話構(gòu)建成本下降80%,將服務(wù)效率翻倍。
不難看出,大模型要落地金融行業(yè)并不簡(jiǎn)單,至少要具備“四邊形戰(zhàn)士”的條件,才能在產(chǎn)業(yè)化道路上快速前進(jìn),這也是容聯(lián)云赤兔“一馬當(dāng)先”的特別之處。
一馬當(dāng)先
垂類大模型向何處去?
我們都不希望大模型的火爆只是曇花一現(xiàn),而是深度融入產(chǎn)業(yè)智能化,實(shí)現(xiàn)長(zhǎng)期繁榮。垂類大模型如何走的更遠(yuǎn)?容聯(lián)云赤兔大模型的戰(zhàn)略選擇,在今天也非常值得我們思考。
具體來(lái)看,容聯(lián)云赤兔在幾次選擇中都選對(duì)了:
大模型的目標(biāo),選擇了“致用”。
作為行業(yè)大模型的初入局者,容聯(lián)云將大模型應(yīng)用的立足點(diǎn)放在自身優(yōu)勢(shì)行業(yè)——從2013年開(kāi)始積累的金融行業(yè),面向服務(wù)的上萬(wàn)個(gè)客戶,提供匹配當(dāng)前大模型能力和需求的產(chǎn)品,在客服、營(yíng)銷等場(chǎng)景中先完成落地。
孫昌勛曾說(shuō)過(guò),行業(yè)大模型不是無(wú)限制地攀登技術(shù)高峰,而是在滿足客戶需求的前提下,盡可能節(jié)省成本。聚焦場(chǎng)景,解決具體問(wèn)題,赤兔大模型的致用,才有后續(xù)的無(wú)限可能性。
大模型的優(yōu)勢(shì),選擇了“高能”。
從年初快進(jìn)到“百模大戰(zhàn)”,我們看到太多企業(yè)和創(chuàng)業(yè)公司為了追逐“風(fēng)口”而入局大模型,卻沒(méi)有考慮到后續(xù)的模型、商業(yè)等問(wèn)題,要么倉(cāng)促離場(chǎng),要么模型推出后很快無(wú)人問(wèn)津。
大模型落地業(yè)務(wù)場(chǎng)景的過(guò)程,不是一蹴而就的,后續(xù)還需要業(yè)務(wù)對(duì)接、數(shù)據(jù)互通、應(yīng)用探索、平臺(tái)建設(shè)、運(yùn)維服務(wù)等一系列工作。容聯(lián)云就非常注重大模型的長(zhǎng)期能力:
具備云通訊領(lǐng)域老兵的優(yōu)勢(shì),形成了“通訊+數(shù)據(jù)+智能”的綜合技術(shù)能力,為赤兔深入金融場(chǎng)景,提供技術(shù)上的“硬實(shí)力”。此外,大模型會(huì)涉及到敏感隱私數(shù)據(jù),因此來(lái)自行業(yè)客戶,尤其是金融行業(yè)的信任,是大模型廠商至為關(guān)鍵的“軟實(shí)力”。據(jù)了解,容聯(lián)云已經(jīng)和數(shù)家標(biāo)桿性客戶進(jìn)行聯(lián)合共創(chuàng),每家客戶都專門派了團(tuán)隊(duì),和客戶一起做大模型之下的行業(yè)應(yīng)用、產(chǎn)品迭代和更新,這又會(huì)進(jìn)一步增強(qiáng)雙方的聯(lián)接和信任,為“赤兔”的產(chǎn)業(yè)化鋪下道路。
大模型的商業(yè)化路徑,則一開(kāi)始就選擇了聚焦“行業(yè)”。
大家應(yīng)該都聽(tīng)過(guò)“田忌賽馬”的故事,在白熱化的市場(chǎng)競(jìng)爭(zhēng)中,恰當(dāng)?shù)牟呗圆拍塬@得商業(yè)化成功,形成良性循環(huán)。大模型的持續(xù)發(fā)展,離不開(kāi)行之有效的產(chǎn)業(yè)化策略。正如容聯(lián)云創(chuàng)始人兼CEO孫昌勛所說(shuō),AI大模型更應(yīng)該聚焦到行業(yè),聚焦到客戶需求。相比涉及各領(lǐng)域的通用大模型,企業(yè)其實(shí)更需要專精于某一領(lǐng)域的行業(yè)大模型。因此,在選擇赤兔大模型的應(yīng)用場(chǎng)景時(shí),容聯(lián)云優(yōu)先考慮的還是匹配客戶需求以及商業(yè)化空間,加速了赤兔大模型的落地和價(jià)值兌現(xiàn)。
有一句俗語(yǔ),說(shuō)“努力”是速度,“選擇”是方向,方向錯(cuò)了,越努力反而越快走向失敗。
對(duì)于成本高昂、競(jìng)爭(zhēng)激烈的大模型,面對(duì)群雄逐鹿的局面,更需要謹(jǐn)慎出手、做對(duì)“選擇”。
像容聯(lián)云赤兔這樣,在垂類場(chǎng)景里深耕,不斷錘煉“四邊形戰(zhàn)士”的能力。
這條腳踏實(shí)地的路,才是大模型行穩(wěn)致遠(yuǎn)、做深向?qū)嵉恼_方向。