近日，汽車(chē)語(yǔ)言模型領(lǐng)域的兩大巨頭——賽輪思（Cerence）與英偉達(dá)，宣布了一項(xiàng)旨在全面升級(jí)其語(yǔ)言模型功能的深度合作計(jì)劃。此次合作不僅覆蓋了賽輪思的云端汽車(chē)大語(yǔ)言模型CaLLM，還深入到了其嵌入式小語(yǔ)言模型CaLLM Edge。
在合作的具體實(shí)施中，CaLLM將充分利用英偉達(dá)提供的NVIDIA AI Enterprise平臺(tái)，這一平臺(tái)以其端到端的云原生架構(gòu)，為CaLLM的性能提升提供了堅(jiān)實(shí)的基礎(chǔ)。與此同時(shí)，CaLLM Edge的特定功能也將獲得NVIDIA DRIVE AGX Orin的鼎力支持，這無(wú)疑為雙方的合作增添了更多的想象空間。
賽輪思AI通過(guò)整合NVIDIA AI Enterprise中的TensorRT-LLM和NeMo兩大技術(shù)，極大地加速了CaLLM系列模型的研發(fā)與部署速度。特別是NVIDIA NeMo，這一全面的框架為生成式AI應(yīng)用的打造、個(gè)性化定制以及高效部署，提供了前所未有的便捷。
在此基礎(chǔ)上，賽輪思AI對(duì)CaLLM系列模型進(jìn)行了深入的優(yōu)化與定制，旨在為消費(fèi)者帶來(lái)更為出色的使用體驗(yàn)。借助英偉達(dá)在加速計(jì)算和SoC技術(shù)上的深厚積累，賽輪思的車(chē)載助手得以在性能上實(shí)現(xiàn)質(zhì)的飛躍，為用戶(hù)帶來(lái)更為流暢、敏捷的交互體驗(yàn)。
賽輪思還開(kāi)發(fā)了針對(duì)汽車(chē)環(huán)境進(jìn)行優(yōu)化的NVIDIA NeMo Guardrails實(shí)現(xiàn)，這一創(chuàng)新技術(shù)確保了Cerence驅(qū)動(dòng)的系統(tǒng)能夠精準(zhǔn)捕捉并處理車(chē)載交互中的每一個(gè)細(xì)微之處，從而為用戶(hù)帶來(lái)更加精準(zhǔn)、可靠的交互體驗(yàn)。
在CaLLM Edge上，賽輪思與英偉達(dá)攜手實(shí)施了代理架構(gòu)的優(yōu)化，這一舉措不僅提升了模型的運(yùn)行效率，更為下一代車(chē)載用戶(hù)體驗(yàn)的革新奠定了堅(jiān)實(shí)的基礎(chǔ)。通過(guò)雙方的共同努力，未來(lái)汽車(chē)的語(yǔ)言模型將更加智能、高效，為用戶(hù)帶來(lái)前所未有的駕駛體驗(yàn)。
