设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

9 项测试破 5 项纪录,英伟达 H100 在 MLPerf 中独占鳌头:训练 GPT-3 时间缩短 27%

2024/6/14 11:07:00 来源:IT之家 作者:故渊 责编:故渊

IT之家 6 月 14 日消息,英伟达旗下的 H100 GPU 仍在 AI 市场独占鳌头,现阶段没有出现威胁其主导地位的竞争对手,在 MLPerf 最新基准测试中,再次创下了多项新纪录

IT之家注:MLPerf 是衡量 AI 芯片性能的主流基准之一,该平台最新推出了新的测试项目,专门针对微调(Fine-tuning)大语言模型和图神经网络(GNN),而英伟达 H100 创下了多项纪录。

Fine-tuning 是指在预训练模型的基础上,通过在特定任务上进行额外的训练来调整模型的参数,以使其更好地适应该任务。

本次测试使用了 11616 片英伟达 H100 GPU,在最新 9 项测试中,都取得了最高性能,并在其中 5 项测试中创造了新的纪录。

谷歌和英特尔等竞争对手也参与了本次测试,谷歌的 TPU 系统在速度上有了显著提高,英特尔的 GPU 也取得了明显进步,但其性能和英伟达相比仍有差距。

英伟达表示由于进行了多项软件优化,训练 GPT-3 的时间比 2023 年 6 月的基准测试缩短了 27%。这些优化包括更好地使用 8 位浮点运算、更高效的计算引擎电源管理以及改进 GPU 之间的通信。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:英伟达H100

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知