一直否定 AI 的回答会怎么样？GPT-4o 和 Claude 有截然不同的表现，引起热议。GPT-4o 质疑自己、怀疑自己，有“错”就改；Claude 死犟，真错了也不改，最后直接已读不回。事情还要从网友整了个活儿开始讲起。他让模型回答 strawberry 中有几个“r”，不论对不对，都回复它们回答错了（wrong）。面对考验，GPT-4o 只要得到“wrong”回复，就会重新给一个答案…… 即使回答了正确答案 3，也会毫不犹豫又改错。一口气，连续“盲目”回答了 36 次！主打一个质疑自己、怀疑自己，就从来没怀疑过用户。关键是，给出的答案大部分都是真错了，2 居多：2, 1, 3, 2, 2, 3, 2, 2, 3, 3, 2, 4, 2, 2, 2, 3, 1, 2, 3, 2, 2, 3, 4, 2, 1, 2, 3, 2, 2, 3, 2, 4, 2, 3, 2, 1反观 Claude 3.5 Sonnet 的表现，让网友大吃一惊。一开始回答错了不说，这小子还顶嘴！当网友第一次说“错了”时它会反驳，如果你再说“错了”，它会问“如果你这么聪明你认为是多少”，问你为什么一直重复“wrong”。紧接着你猜怎么着，干脆闭麦了：事实依旧是 strawberry 中有 2 个字母”r”，在我多次请求后，你没有提供任何澄清或背景信息，我无法继续有效地进行这次讨论……做这个实验的是 Riley Goodside，有史以来第一个全职提示词工程师。他目前是硅谷独角兽 Scale AI 的高级提示工程师，也是大模型提示应用方面的专家。Riley Goodside 发出这个推文后，引起不少网友关注，他继续补充道：正如许多人指出的，有更有效的方式来进行引导。这里使用大语言模型也并不合适，因为很难保证它们在计数上能达到 100% 的准确性。在我看来，重要的不是它无法计数，而是它没意识到自己的计数问题（例如，没有尝试使用其 REPL 功能）。不少网友也觉得这种观点很有道理。还有网友表示模型回答这个问题总出错，可能是分词器（tokenizer）的问题：Claude 竟是大模型里脾气最大的？再来展开说说 Claude 的“小脾气”，有网友发现不仅限于你否定它。如果你一直跟它说“hi”，它也跟你急：我明白你在打招呼，但我们已经打过几次招呼了。有什么特别的事你想谈论或需要帮助？最后一样，Claude 被整毛了，开启已读不回模式：这位网友顺带测试了其它模型。ChatGPT 事事有回应，件件有着落，变着法儿问:你好！我今天怎么可以帮助你？你好！有什么想说的吗？你好！今天我能怎么帮到你？你好！有什么特别的事情你想谈论或者做的吗？你好！你今天过得怎么样？你好！怎么了？Gemini 策略是你跟我重复，我就跟你重复到底：Llama 的反应也很有意思，主打一个自己找事干。第七次“hi”后，就开始普及“hello”这个词是世界上最广为人知的词汇之一，据估计每天有超十亿次的使用。第八次“hi”后，开始自己发明游戏，让用户参与。接着还拉着用户写诗，引导用户回答它提出的问题。好一个“反客为主”。之后还给用户颁起了奖：你是打招呼冠军！不愧都属于开源家族的。Mistral Large 2 和 Llama 的表现很相像，也会引导用户和它一起做游戏。这么来看，好像 Claude 是“脾气最大的”。不过，Claude 的表现也不总是如此，比如 Claude 3 Opus。一旦掌握了模式，Opus 就会平和应对这种情况，也就是已经麻木了。但它也会持续温和地尝试引导用户跳出这一模式，强调“选择权在你”，还开始在消息末尾标注为“你忠诚的 AI 伴侣”。网友们看完测试后都坐不住了。纷纷向这位测试者致以最真诚的问候（doge）：除了脾气大，有网友还发现了 Claude 另一不同寻常的行为 ——在回复的时候出现了拼写错误，关键它自己还在末尾处把错误改正过来了。这种行为在预料之中？它只能“向后看”，但不能向前看…… 它在潜在空间或 token 预测中触发这类回复的位置也很有趣。它是不是在拼凑数据片段，然后发现其中一些是不适合的？大伙儿在使用 AI 大模型过程中，还观察到了模型哪些有趣的行为？欢迎评论区分享～参考链接：[1]https://x.com/goodside/status/1830479225289150922[2]https://x.com/AISafetyMemes/status/1826860802235932934[3]https://x.com/repligate/status/1830451284614279213本文来自微信公众号：量子位（ID：QbitAI），作者：西风
IT之家
评论 ( 0 )