设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

复旦测评 13 家大模型高考数学成绩,字节豆包 II 卷超 GPT-4o 夺冠

2024/6/13 11:56:25 来源:之家网站 作者:- 责编:-

近日,复旦大学自然语言处理 (NLP) 实验室 LLMEVAL 团队公布了 2024 年高考数学大模型评测结果。数据显示,字节豆包在 2024 高考数学新 II 卷客观题正确率达到 74.66%, 在 13 家大模型中排名首位,阿里千问和 GPT-4o 分列二三位。而在高考数学新 I 卷评测排名中,字节豆包也排在前列。

据悉,LLMEval 是由复旦大学 NLP 实验室推出的大模型评测基准,专注于评估专业领域的知识能力。评测团队表示,全新出炉的高考试题具备高度的独创性和保密性,是用来评测大模型的“绝好评测集合”。因此,团队在高考后第一时间对 13 家大模型进行了评测。

评测选取 2024 高考数学新 I 卷和新 II 卷的 14 道客观题,参评“选手”涵盖 GPT-4o、文心一言、阿里千问、字节豆包等主流大模型。GPT-4o 是 OpenAI 于今年 5 月新推出的大语言模型,数学能力是其发布会现场着重展现的能力模块。但结果显示,部分国产大模型在本次数学评测中的成绩优于 GPT-4o。在新 II 卷客观题测试中,字节豆包成绩排在首位,其次是阿里千问和 GPT-4o。

今年 5 月,豆包大模型在火山引擎原动力大会上正式发布。相关数据显示,在 MMLU、BBH、GSM8K、HumanEval 等 11 个业界主流的公开评测集上,Doubao-pro-4k 的总分为 76.8 分,优于同期测试的其他国产模型。在数学能力、语言理解能力,以及综合评测集 CMMLU 和 CEval 的评测上,豆包也有不错的表现,得分排在前三。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:业界动态

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知