设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

以创新 + 合作推动终端侧 AI 扩展,高通孟樸:让智能计算无处不在

2024/7/5 11:06:33 来源:之家网站 作者:- 责编:-

最近,2024 世界人工智能大会暨人工智能全球治理高级别会议在上海盛大开幕,本次大会在展览规模、参展企业数、亮点展品数、首发新品数均达历史最高,其中展览面积超过 5.2 万平方米,汇聚了中国移动、阿里巴巴、特斯拉、高通、微软等 500 多家国内外参展企业,展示了一系列智能终端、大模型、“人工智能 +”创新应用等最新成果,推动人工智能惠及各行各业以及广大的消费者。

近年来,生成式 AI 的兴起为人工智能技术普及应用带来了新的契机,然而,目前生成式 AI 主要在云端运行,大模型训练与推理所需要的巨大成本影响了 AI 的快速普及。根据摩根士丹利的数据,每一次生成式 AI 搜索的成本是传统搜索方式的 10 倍,如果每天有超过 100 亿次的搜索查询产生,即便基于大语言模型的搜索仅占其中一小部分,每年增量成本也可能达到数十亿美元。

在本次大会全体会议产业发展主论坛上,高通公司中国区董事长孟樸发表演讲时谈到,当前生成式 AI 的研发和应用主要集中在云端,并且云计算仍将发挥重要作用,不过如果将 20% 的生成式 AI 工作负载转移到终端侧,预计到 2028 年将节省 160 亿美元的计算资源成本。他认为,终端与云端的紧密结合,将成为推动生成式 AI 规模化扩展、加速数字化转型的关键所在。同时,为了推动生成式 AI 的广泛应用,我们也需要将其能力延伸到日常使用的智能设备上,如智能手机、移动 PC 和智能网联汽车等。

随着生成式 AI 从云端扩展到终端,特别是消费者对于生成式 AI 服务品质的要求越来越高,势必对终端设备的 AI 处理能力提出考验。作为全球领先的无线科技创新者,高通长期为智能手机等终端提供连接、计算等方面的先进技术,在提高计算性能的同时也注重降低功耗,不断推动高性能低功耗计算领域的技术创新。孟樸表示,如今的智能手机拥有比 2000 年的超级计算机更强的计算能力,而且其能耗甚至比一个 LED 灯泡还要低。这种技术进步在确保性能的同时,能延长电池寿命并提高能效,使仅靠电池供电的移动终端也能随时随地运行生成式 AI。

公开信息显示,高通专门为 AI PC 打造的骁龙 X Elite 平台,拥有高达 45 TOPS 算力的 NPU, 并且,骁龙 X Elite 平台的 NPU 还有出色的能效表现,每瓦特性能是竞品的 2.6 倍到 5.4 倍。此外,高通推出的第三代骁龙 8 移动平台也集终端侧智能、顶级性能和能效于一体,可以在手机上运行拥有 100 亿参数的生成式 AI 模型。并且,高通已经将生成式 AI 处理能力扩展到第三代骁龙 8s、第三代骁龙 7 + 等多个移动平台上,有助于生成式 AI 在更多不同层级的智能手机普及应用。

生成式 AI 的发展涉及到产业链多个环节,包括终端设备厂商、大模型厂商、应用服务提供商、开发者等,其普及应用离不开产业各方的共同努力。高通在不断推动技术创新的同时,也注重与不同行业的合作伙伴深入合作,推动 AI 等创新技术的落地应用。其中在智能手机行业,目前已经有超过 20 款搭载第三代骁龙 8 的旗舰手机产品发布,支持丰富的生成式 AI 用例;在个人电脑 (PC) 行业,高通携手微软和众多生态伙伴,已推出超过 20 款由骁龙 X 系列独家支持的首批 Windows 11 AI PC, 为用户带来全新的 AI 体验;在汽车行业,多家中国车企已基于骁龙 8295 发布了车端大模型功能,进一步改善用户驾乘体验。

根据麦肯锡的报告,生成式 AI 每年将为 60 多个用例,在全球范围内带来 2.6 万亿至 4.4 万亿美元的经济效益增长。这也意味着,生成式 AI 的广泛应用将为各行业参与者带来新一轮发展机遇。孟樸表示,高通公司始终秉持创新驱动的发展理念,不断推动 AI 研发、硬件开发和软件优化,并致力于为开发者提供全方位的支持。同时,高通也希望通过与全球合作伙伴的紧密协作,让智能计算无处不在。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:业界动态

软媒旗下网站: IT之家 辣品 - 超值导购,优惠券 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 魔方 酷点桌面 Win7优化大师 Win10优化大师 软媒手机APP应用