IT之家 1 月 3 日消息,赛轮思(Cerence)今日宣布扩大与英伟达的合作,以提升其 CaLLM 系列语言模型的功能,包括基于云的赛轮思汽车大语言模型(CaLLM)和 CaLLM Edge 嵌入式小语言模型。
通过此次合作,CaLLM 由端到端云原生软件平台 NVIDIA AI Enterprise 提供支持,CaLLM Edge 的某些方面则由 NVIDIA DRIVE AGX Orin 提供支持。
具体而言,Cerence AI 通过利用 NVIDIA AI Enterprise 软件平台(包括 NVIDIA TensorRT-LLM 和 NVIDIA NeMo)加速 CaLLM 的开发和部署(IT之家注:NVIDIA NeMo 是一个用于构建、定制和将生成式 AI 应用程序部署到生产环境的端到端框架)。
因此,Cerence AI 优化并定制了其 CaLLM 系列模型,以:
在 NVIDIA 加速计算和 SoC 上提供更快的车载助手性能
开发汽车优化的 NVIDIA NeMo Guardrails 实现,帮助确保 Cerence 驱动的系统能够驾驭车载交互的细微之处
通过 NVIDIA DRIVE AGX Orin 在 CaLLM Edge 上实施和优化代理架构,帮助推进下一代车载用户体验
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。