英特尔通过开放、易获取的 AI 系统和生态协作,以创新的方式为运动员提供支持,并助力企业客户创造更多可能。
今日,英特尔分享了与国际奥林匹克委员会(IOC)的一些合作细节,并披露了其以行业需求为导向所打造的生成式 AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于英特尔 ® 至强 ® 处理器和英特尔 ® Gaudi AI 加速器的开放式 AI 系统及平台,帮助开发者和企业应对 AI 高速发展所带来的需求。
英特尔执行副总裁兼数据中心与人工智能事业部总经理 Justin Hotard 表示:“此次与国际奥委会的合作,彰显了英特尔致力于推动 AI 触手可及。我们正在打造一个开放的环境以鼓励创新,帮助开发者和企业构建定制化的 AI 解决方案并取得切实成果。通过拥抱开放、协作的生态系统,英特尔正以创新的方式为运动员提供支持,并助力企业客户创造更多可能。”
基于 Athlete365 平台的聊天机器人:对于运动员而言,获得奥运会参赛资格仅仅是个开始。为了帮助全球约 11,000 名拥有不同语言和文化背景的运动员在奥运比赛场地出入,并遵守相关规定,国际奥委会与英特尔合作开发了基于 Athlete365 平台的聊天机器人 AthleteGPT。这是一款基于英特尔至强处理器和 Gaudi 加速器的 RAG 解决方案。AthleteGPT 不仅能够应答运动员的日常询问并进行互动,同时将在运动员入住巴黎奥运村期间,为其按需提供信息,使运动员能够专注于自身训练和比赛。
重要意义:部署生成式 AI 解决方案会带来诸如成本、规模、准确性、开发需求、隐私和可靠性等方面的挑战。作为一种关键的生成式 AI 工作负载,RAG 可以让企业安全地利用专有数据,增强 AI 产出结果的及时性与可靠性。这将极大地提高 AI 应用的质量和实用性,对于推动当下的数字化发展意义非凡。
基于 AI 平台、开放标准以及强大的软件和系统生态,英特尔以协作的方式帮助开发者构建定制化的生成式 AI RAG 解决方案,从而满足企业的多样化需求。此外,英特尔亦将持续提供开放、强大且可组合的多供应商生成式 AI 解决方案。
生成式 AI RAG 解决方案工作流程:英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案,用于轻松部署 RAG。基于企业 AI 开放平台(OPEA),该方案是一种以行业需求为导向、开箱即用,且可立即投产的 RAG 解决方案。该生成式 AI 一站式解决方案在助力企业便捷地部署数据中心 RAG 的同时,具备高度的灵活性和可定制性,并集成了多个 OEM 系统及行业合作伙伴的产品组件。
该生成式 AI 一站式解决方案将基于 OPEA 的微服务组件集成至用于部署英特尔至强处理器和 Gaudi AI 系统的、可扩展的 RAG 解决方案中,可通过 Kubernetes、Red Hat OpenShift 等经验证的编排框架进行无缝扩展,并提供兼具可靠性和系统遥测功能的标准化 API。
・ 以开放式软件堆栈打破壁垒:几乎所有大语言模型(LLM)的开发都基于高抽象框架 PyTorch,该框架由英特尔至强和 Gaudi 及相关技术提供支持,助力在英特尔 AI 系统及平台上实现轻松开发。同时,英特尔携手 OPEA 开发了用于 RAG 和 LLM 部署的开放式软件堆栈。该软件堆栈通过生成式 AI 一站式解决方案进行优化,并基于 PyTorch、Hugging Face 服务库(TGI 和 TEI)、LangChain 以及 Redis 向量数据库所构建。
・ 满足开发者需求:OPEA 为企业提供开源、标准化、模块化,以及异构的 RAG 流水线(pipeline),并致力于为开放式模型及多种编译器和工具链的开发提供支持。其加速了针对垂直领域用例的容器化 AI 集成与交付。OPEA 通过创建细化、可组合的框架,引领堆栈技术前沿,解锁 AI 的全新可能。
凭借生成式 AI 一站式解决方案与全面的企业 AI 堆栈,英特尔提供了完整的解决方案,以应对企业和数据中心在部署和扩展 RAG 与 LLM 应用时所面临的挑战。通过基于英特尔技术与产品的 AI 系统及平台,以及 OPEA 的优化软件,企业可以更高效、快速地发挥并利用生成式 AI 的巨大潜力。
现阶段,如何将最新的 AI 计算技术应用到企业中,并推动关键业务成果落地,是企业亟待解决的问题。通过与广大行业合作伙伴的战略合作,英特尔正为由生成式 AI 和 RAG 解决方案驱动的 AI 服务创造更多新的可能性。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。