继分不清 9.11 和 9.9 哪个大以后，大模型又“集体失智”了！数不对单词“Strawberry”中有几个“r”，再次引起一片讨论。
GPT-4o 不仅错了还很自信。
刚出炉的 Llama-3.1 405B，倒是能在验证中发现问题并改正。
比较离谱的是 Claude 3.5 Sonnet，还越改越错了。
说起来这并不是最新发现的问题，只是最近新模型接连发布，非常热闹。
一个个号称自己数学涨多少分，大家就再次拿出这个问题来试验，结果很是失望。
在众多相关讨论的帖子中，还翻出一条马斯克对此现象的评论：
好吧，也许 AGI 比我想象的还要更远。
路遇失智 AI，拼尽全力终于教会
有人发现，即使使用 Few-Shot CoT，也就是“一步一步地想”大法附加一个人类操作示例，ChatGPT 依然学不会：
倒是把 r 出现的位置都标成 1，其他标成 0，问题的难度下降了，但是数“1”依旧不擅长。
为了教会大模型数 r，全球网友脑洞大开，开发出各种奇奇怪怪的提示词技巧。
比如让 ChatGPT 使用漫画《死亡笔记中》高智商角色“L”可能使用的方法。
ChatGPT 想出的方法倒是也很朴素，就是分别把每个字母写出来再一个一个数并记录位置，总之终于答对了。
有 Claude 玩家写了整整 3682 个 token 的提示词，方法来自 DeepMind 的 Self-Discover 论文，可以说是连夜把论文给复现了。
整个方法分为两大阶段：先针对特定任务让 AI 自我发现推理步骤，第二阶段再具体执行。
发现推理步骤的方法简单概括就是，不光要会抽象的思维方法，也要具体问题具体分析。
这套方法下，Claude 给出的答案也非常复杂。
作者补充，花这么大力气解决“数 r 问题”其实并不真正实用，只是在尝试复现论文方法时偶然测试到了，希望能找出一个能用来回答所有问题的通用提示词。
不过很可惜，这位网友目前还没公布完整的提示词。
还有人想到更深一层，如果要计算文档中 straberry 出现多少次怎么办？
他的方法是让 AI 想象有一个从 0 开始的内存计数器，每次遇到这个单词就往上加。
有人评论这种方法就像在用英语编程。
也有 AI 可以一次做对
那么究竟有没有大模型，可以不靠额外提示词直接答对呢？
其实不久之前有网友报告，ChatGPT 是有小概率能直接答对的，只不过不常见。
谷歌 Gemini 大概有三分之二的概率能答对，打开“草稿”就能发现，默认每个问题回答三次，两次对一次错。
至于国内选手，在提问方式统一、每个模型只给一次尝试机会的测试下，上次能正确判断数字大小的，这次同样稳定发挥。
字节豆包给出了正确回答，还猜测用户问这个问题是要学习单词拼写吗？
智谱清言的 ChatGLM，自动触发了代码模式，直接给出正确答案“3”。
腾讯元宝像解数学题一样列方程给出了正确答案（虽然貌似没有必要）。
文心一言 4.0 收费版则更加详细，也是先正确理解了意图，然后掰指头挨个找出了全部的“r”。
不过有意思的是，在同一种方法下，文心一言 App 中的免费版文心 3.5 掰指头也能数错。
讯飞星火也通过找出“r”所在位置给出了正确回答。
还是 token 的锅
虽然“数 r”和“9.11 与 9.9 哪个大”，看似一个是数字问题一个是字母问题，但对于大模型来说，都是 token 问题。
单个字符对大模型来说意义有限，使用 GPT 系列的 Llama 系列的 tokenizer 就会发现，20 个字符的问题，在不同 AI 眼中是 10-13 个 token。
其中相同之处在于，strawberry 被拆成了 st-，raw，-berry 三个部分来理解。
换一个思路用特殊字符ⓢⓣⓡⓐⓦⓑⓔⓡⓡⓨ来提问，每一个字符对应的 token 也就会分开了。
面对这种问题，其实最简单的方法就是像智谱清言一样，调用代码来解决了。
可以看到，ChatGPT 直接用 Python 语言字符串的 count 函数，就能简单搞定。
刚刚创业开了所学校的大神卡帕西认为，关键在于需要让 AI 知道自己能力的边界，才能主动去调用工具。
至于教给大模型判断自己知道不知道的方法，Meta 在 LLama 3.1 论文中也有所涉及。
最后正如网友所说，希望 OpenAI 等大模型公司，都能在下个版本中解决这个问题。
GPT Tokenizer 试玩：
https://gpt-tokenizer.dev
Llama Tokenizer 试玩：
https://belladoreai.github.io/llama-tokenizer-js/example-demo/build/
参考链接：
[1]https://x.com/diegoasua/status/1816146114573394143
[2]https://www.reddit.com/r/ClaudeAI/comments/1eap6b1/comment/leolf3t/
[3]https://www.reddit.com/r/ChatGPT/comments/1do7cnq/counting_the_rs_a_chat_with_chatgpt/
[4]https://www.reddit.com/r/ChatGPT/comments/1dpfj2c/a_prompt_where_chatgpt_gets_the_strawberry/
本文来自微信公众号：量子位（ID：QbitAI），作者：梦晨一水
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。