在人工智能(AI)技術(shù)日新月異的今天,其應(yīng)用場(chǎng)景已遠(yuǎn)遠(yuǎn)超越了技術(shù)范疇本身,成為了一個(gè)集工程能力、產(chǎn)品開發(fā)以及技術(shù)實(shí)力于一體的綜合挑戰(zhàn)。只有全面應(yīng)對(duì)這一挑戰(zhàn),企業(yè)才能在市場(chǎng)上贏得認(rèn)可,實(shí)現(xiàn)商業(yè)價(jià)值。
近年來,大型語言模型(大模型)的興起標(biāo)志著技術(shù)驅(qū)動(dòng)的新一波浪潮。然而,隨著技術(shù)逐漸成熟,應(yīng)用場(chǎng)景的拓展成為了新的焦點(diǎn)。據(jù)行業(yè)觀察,從今年第一季度和第二季度開始,市場(chǎng)對(duì)AI應(yīng)用的需求顯著增長,尤其是金融行業(yè),這一趨勢(shì)尤為明顯。
金融行業(yè)作為AI技術(shù)的先行者,其大模型的滲透率已超過50%,位居各行業(yè)之首。然而,高滲透率并不意味著高效的生產(chǎn)力。過去一年中,金融機(jī)構(gòu)更多地聚焦于基于基座大模型進(jìn)行專屬模型的訓(xùn)練,而現(xiàn)在,他們的核心關(guān)注點(diǎn)已經(jīng)轉(zhuǎn)向了應(yīng)用層面,特別是在智能客服、坐席輔助、證券質(zhì)檢、數(shù)字營銷等具體場(chǎng)景中。
孔淼,一位在AI技術(shù)應(yīng)用前沿工作的專家,與容聯(lián)云團(tuán)隊(duì)共同見證了這一變化。他表示,不僅金融行業(yè),各行各業(yè)對(duì)AI的需求都在從模型層向更具體的應(yīng)用層轉(zhuǎn)變,這背后是企業(yè)對(duì)有效產(chǎn)品加持和更高投資回報(bào)率(ROI)轉(zhuǎn)化的迫切需求。
然而,在實(shí)際操作中,企業(yè)面臨著如何將大模型嵌入業(yè)務(wù)系統(tǒng),以及如何在應(yīng)用層進(jìn)行基于自身業(yè)務(wù)的適配開發(fā)的難題。市場(chǎng)上尚未出現(xiàn)標(biāo)準(zhǔn)答案,但已有企業(yè)開始探索可行的路徑。
去年12月,容聯(lián)云發(fā)布了基于自研赤兔大模型的全新產(chǎn)品品牌及生成式應(yīng)用,旨在幫助企業(yè)進(jìn)行包括營銷、服務(wù)等一系列流程的AI改造和重構(gòu)。這一舉措幾乎是國內(nèi)最早被拆解的AI應(yīng)用路徑之一,如今,一年過去,容聯(lián)云已經(jīng)交出了新的答卷。
在金融領(lǐng)域,智能化變革的前夕已經(jīng)到來。一位互聯(lián)網(wǎng)大廠AI應(yīng)用負(fù)責(zé)人透露,金融已成為他們今年及未來KPI中的重中之重。金融行業(yè)擁有豐沃的AI落地土壤,用戶基數(shù)龐大,數(shù)字化底層框架建設(shè)初步完成,高度線上化和數(shù)據(jù)化為其提供了堅(jiān)實(shí)的基礎(chǔ)。
然而,挑戰(zhàn)也隨之而來。盡管金融行業(yè)在數(shù)字化營銷平臺(tái)、智能運(yùn)營等方面進(jìn)行了初步部署,但真正成熟應(yīng)用的場(chǎng)景仍然較少。金融企業(yè)需要借助AI手段,實(shí)現(xiàn)更精細(xì)化的業(yè)務(wù)搭建和客群運(yùn)營,涵蓋營銷、銷售、服務(wù)的全部場(chǎng)景和節(jié)點(diǎn)。
容聯(lián)云在這一領(lǐng)域取得了顯著成果。以質(zhì)檢為例,在容聯(lián)云質(zhì)檢代理(QM Agent)的加持下,某國內(nèi)頭部證券機(jī)構(gòu)的準(zhǔn)確率從90%提升至94%,召回率從67%提升至96%。同時(shí),該機(jī)構(gòu)實(shí)現(xiàn)了“10000通會(huì)話、300小時(shí)時(shí)長、8大語義質(zhì)檢項(xiàng)、6.5小時(shí)質(zhì)檢完成”的高效成果,而所需部署的僅是一個(gè)14B參數(shù)的小模型和幾張市面上通用的GPU算力卡。
同樣,在壽險(xiǎn)場(chǎng)景,容聯(lián)云的坐席代理(Virtual Agent)產(chǎn)品也取得了顯著效果。某壽險(xiǎn)企業(yè)借助該產(chǎn)品實(shí)現(xiàn)了超過50人/天的人力節(jié)省,咨詢問答首解率由60%提升至80%,轉(zhuǎn)人工率由85%降低至55%。這些成果同樣基于數(shù)量不多的顯卡和14B小參數(shù)模型的部署。
在剛剛舉辦的“2024數(shù)智金融應(yīng)用論壇”上,容聯(lián)云展示了包括容犀質(zhì)檢代理(QM Agent)、容犀坐席代理(Virtual Agent)、容犀坐席助理(Agent Copilot)、洞察代理(Insight Agent)等在內(nèi)的一系列面向具體業(yè)務(wù)環(huán)節(jié)的AI應(yīng)用產(chǎn)品和實(shí)例。
孔淼表示,過去一年中,容聯(lián)云對(duì)大模型的落地場(chǎng)景越來越清晰,能夠準(zhǔn)確識(shí)別出真正的痛點(diǎn)、癢點(diǎn),以及能產(chǎn)生真正商業(yè)價(jià)值和增量的環(huán)節(jié)。這些場(chǎng)景被轉(zhuǎn)化為應(yīng)用產(chǎn)品,基于真實(shí)的AI剛需點(diǎn),輔助各種AI訓(xùn)練/調(diào)優(yōu)方式,最終實(shí)現(xiàn)了顯著的成果。
在孔淼看來,相較于大模型在預(yù)訓(xùn)練等環(huán)節(jié)的推進(jìn),在具體落地層面,更需要基于工程能力進(jìn)行需求的滿足。容聯(lián)云采取了靈活的方式,包括大小模型結(jié)合、基于Copilot或Agent的方式等,以滿足不同企業(yè)的需求。截至目前,容聯(lián)云的相關(guān)AI產(chǎn)品已經(jīng)在金融行業(yè)超過幾十個(gè)場(chǎng)景落地,幫助幾十家銀行、證券、保險(xiǎn)等不同細(xì)分領(lǐng)域的金融企業(yè)構(gòu)建了新的智能化營銷服務(wù)體系。
金融行業(yè)作為數(shù)字化轉(zhuǎn)型的明珠,其應(yīng)用路徑對(duì)其他行業(yè)具有重要的借鑒意義。在AI時(shí)代,金融行業(yè)的實(shí)踐經(jīng)驗(yàn)為我們提供了寶貴的啟示:真正的AI模型需要轉(zhuǎn)化為企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力和生產(chǎn)力,這要求服務(wù)商具備深入的行業(yè)理解、數(shù)據(jù)沉淀、工程落地能力以及特定的推理強(qiáng)化或?qū)儆?xùn)練能力。
容聯(lián)云的成功案例證明了這一點(diǎn)。他們基于金融數(shù)據(jù)的底座赤兔大模型進(jìn)行訓(xùn)練,聚焦細(xì)分場(chǎng)景進(jìn)行規(guī)則增強(qiáng)、推理增強(qiáng),同時(shí)在落地過程中采用大小模型結(jié)合和不同模塊的解耦方式,以適應(yīng)金融企業(yè)對(duì)大模型的真實(shí)需求:真實(shí)可用,小步迭代。
這一綜合命題的解答不僅關(guān)乎技術(shù)本身,更涉及工程能力、產(chǎn)品開發(fā)以及技術(shù)實(shí)力的全面融合。只有全面應(yīng)對(duì)這一挑戰(zhàn),企業(yè)才能在AI浪潮中立于不敗之地。