设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

打脸奥特曼,GPT-4 今年比去年还懒!网友在线实测出炉

量子位 2024/2/5 13:34:54 责编:远洋

GPT-4 变懒的问题,又有新进展。

就在今天凌晨,奥特曼发推称,GPT-4 这个毛病在新的一年应该好多了!

关于 GPT-4 变懒,网友的吐槽已是不计其数,其中最多的就是与代码相关的任务:

完成度不高不说,还会被分割成一个一个小块,使用时需要逐一复制。

对于最新版本,一位博主体验之后表示,自己尝试给一年级的孩子做了个学习用的小游戏,效果还不错。

但也有人不认同,比如这位网友就发现,ChatGPT 回复的长度虽然增加了,但是很多都是车轱辘话,干正事依旧摆烂。

他让 ChatGPT 把一些文本翻译成 17 种语言,结果叽里呱啦说了一堆就是不翻译。

为了消除个体差异,有网友用数据集测试了新的 ChatGPT,结果……

新版反而更懒了?

这位网友用 GitHub 上开源的一套“lazy benchmark”测试了 0125(24 年 1 月最新版)和 1106(23 年 11 月的上一版)GPT-4 模型,发现新版甚至还不如以前,变得更懒了。

这个测试数据集包含了与代码相关的任务,用正确完成的比例间接反映“懒惰”程度,完成率越高说明“惰性”越小。

结果,对于其中的代码比较(Unified diffs)任务,旧版能完成的比例尚且超过了一半,为 57%,新版的完成率却仅有 44%,降低了近四分之一。

直观感受上,也有人发现 ChatGPT 的“懒惰”变本加厉了 ——

以前就算偷懒至少还会糊弄一下,给出个大概的框架让用户自行补充,现在直接就是摆烂说自己干不了。

而针对网友们的这番发现,也有人给出了锐评:

几周之前奥特曼就说过 GPT-4 表现变好了,但是有人感觉到差别吗?

这次,关于 GPT-4 变懒的原因,以及到底采用了什么优化策略,奥特曼也未做进一步说明。

“土办法”可降低惰性

不过,之前的一项研究表明,GPT-4 的惰性可能与时间相关,这一结论与 GPT-4“变懒”的现象出现在年末的 12 月相吻合。

按照这一理论,新年伊始,模型的表现的确会有所提升,但似乎解释不了表现不升反降的现象。

不过,网友们也总结了一些“土办法”,能在一定程度上降低 ChatGPT 的惰性。

比如告诉它“我没有手指”,就能得到相对完整的代码,而不是一段段碎片。

又或者,告诉 ChatGPT 自己会“给小费”,也能激发它的工作动力。

甚至有人专门针对“小费”的金额进行了研究,发现 10 美元的性价比是最高的。

那么,你觉得 ChatGPT 是变好了还是更懒了?

参考链接:

  • [1]https://twitter.com/sama/status/1754172149378810118

  • [2]https://aider.chat/docs/benchmarks-0125.html

本文来自微信公众号:量子位 (ID:QbitAI),作者:克雷西

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:GPT4OpenAIChatGPT

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知