在前不久结束的 NVIDIA AI 峰会上，Zoho CEO Sridhar Vembu 及 CTO Shailesh Davey 会见 NVIDIA 英伟达 CEO 黄仁勋，宣布了 Zoho 在 AI 领域的最新进展 ——Zoho 和 NVIDIA 达成深度合作，将借助 NVIDIA 的 AI 加速计算平台，构建和部署大语言模型，为全球用户提供更具场景化的 AI 解决方案。
过去一年，Zoho 在 NVIDIA 的 AI 技术和 GPU 上投资了超过 1000 万美元，计划今年追投等同金额，继续推进 AI 大模型的落地。
开发针对具体业务场景的企业级 AI 大模型
Zoho 人工智能总监 Ramprakash 说道：“现今市场上的许多大模型更侧重于面向消费者应用，比如 ChatGPT 等，这些模型在生成文本、创意内容、语言翻译等方面表现出彩，但对于企业业务来说，他们仍然存在很大的局限性。Zoho 致力于填补这块的不足，我们开发专门针对各种业务场景使用的 AI 大模型。同时，由于 Zoho 拥有完整的技术堆栈，产品涵盖各种业务功能，也使得我们能够发挥 AI 真正有效的基本要素：场景。”
长久以来，Zoho 采用多模态 AI 方法，为业务决策提供全面的情境智能支持。除了大模型，Zoho 还在开发小型和中型语言模型，满足不同企业对数据处理能力和模型复杂度的差异化需求。值得一提的是，Zoho 的 AI 模型，从未接触过客户数据训练，充分保障了企业数据安全与隐私。
NVIDIA 南亚区董事总经理 Vishal Dhupar 表示：“Zoho 提供了一系列大中小 AI 模型，使企业能够根据自己的需求精确定制 AI 解决方案，从而平衡性能与成本效益。借助 NVIDIA 的 AI 加速计算平台，Zoho 正在构建广泛的模型，以满足其客户的多样化需求。”
目前，Zoho 正在测试 NVIDIA TensorRT-LLM 优化大模型以便部署，与以前使用的开源框架相比，吞吐量提高了 60%，延迟减少了 35%，模型处理请求的速度更快，用户得到的响应时间更短。
接下来，Zoho 将借助 NVIDIA Hopper GPU 在 NVIDIA 加速计算平台上加速大模型运行，Hopper GPU 的强大算力将为大模型提供更快的训练和推理速度。还将使用 NVIDIA 的 NeMo 平台来开发自定义的生成式 AI，NeMo 是一个端到端的平台，提供了丰富的工具和预训练模型，可以帮助开发者快速构建各种各样的生成式 AI 应用，包括大语言模型、多模态模型、视觉模型和语音模型。
为 Agentic AI 的发展做好准备
Agentic AI，即代理人工智能，具有主动性、自治性和适应性的智能系统，它能够在复杂环境中设定目标、独立决策并主动执行任务，而无需受人影响和控制。
Agentic AI 在企业应用中展现出巨大的潜力，尤其是自动化任务、智能化决策、个性化服务、解决复杂问题以及提高效率等方面表现出色。比如在 Zoho CRM 中，AI 代理可以自动生成潜在客户线索、进行客户分类、预测销售额等，帮助销售团队提高效率。在 Zoho Desk 中，AI 代理可以自动分类客户问题、提供标准化的回复等等。
本次与 NVIDIA 合作，也为 Zoho Agentic AI 的发展注入新活力。NVIDIA 的 GPU 提供了强大的计算能力，大幅提升 Agentic AI 模型的训练和推理速度，缩短开发周期，降低成本。同时，NVIDIA 的软件生态系统也为 Zoho 的 AI 开发提供了极大的便利。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。