今日观察者

全网骂Claude变笨,Anthropic下场揭秘:坑你的不是模型

来源:搜狐新闻 科技

全网骂Claude变笨,Anthropic下场揭秘:坑你的不是模型

新智元报道

【新智元导读】更换更高级的模型,就意味着AI会变得更聪明吗?这或是Claude Code用户最常犯的误区。许多人都曾沿着这条思路一路升级到最顶级的Fable,不过Anthropic公司最近亲自出面,澄清了这一问题。

有没有过这样的经历:当Claude Code写代码出错时,第一反应便是立即换用更强大的模型。可实际上,这种做法往往收效甚微,甚至可能造成不必要的经济损失。近日,Anthropic公司发布了一篇详细文章,专门探讨这一话题。

事件的起因是很多人都分不清Claude Code中的两个关键选项:模型选择(Model)与努力度(Effort)。过去,大家对于这两项的理解十分简单:换用更高级的模型意味着AI更聪明;而提高Effort水平,则不过是让AI多花些时间思考。

今年3月,这个误解还引发了一场不小的风波。当时,不少开发者发现,他们手上的Claude Code突然表现得"变笨"了。原本应当读取的文件不再读取,该执行的测试不再执行,任务做到中途就停止,甚至反过来索要更多信息。结果,GitHub上充斥着大量的批评声音。

AMD公司的AI负责人Stella Laurenzo的评论最为严厉。她在GitHub上分析了6852个会话记录,发现Claude的思考量较2月之前下降了67%,进而表示:"Claude已经无法胜任复杂的工程任务了。"起初,人们还以为是自己的提示词写得不够好,或是配置出现了问题。经过一番摸索,大家才恍然大悟:问题根本不在于自身,而是Anthropic公司悄悄修改了某个设置。

3月4日,为了降低响应延迟,Anthropic将Claude Code中的Effort选项的默认档位从high调整到了medium。虽然官方更新日志中有所记载,但大多数人并未留意到这个变化,他们只是感到手里的模型似乎无故变差了。直到这时,许多人才意识到,这个开关其实一直就在眼前,它暗中决定着AI是否愿意全力为你工作。

Model负责提供思考能力,Effort决定工作投入程度。Anthropic官方对此进行的解读可以概括为:Model更换的是"大脑",Effort调整的是"工作态度"。

先说说Model,它更换的是"大脑"。每个模型背后都有一套"冻结的权重",一旦训练结束,其能力和知识就固定下来,无法再进行修改。这意味着,在进行推理时,你提供的提示词、CLAUDE.md文档、插入上下文的代码等内容,都无法改变这套权重。你只能引导AI,却无法"训练"它。更换模型,本质上就是切换使用一套不同的权重来处理任务,因此它解决的问题只是"能不能"的问题。

如果在模型训练时并不存在的库出现在你的请求中,即使你将完整文档提供给AI,它也只能临时代理,但模型本身并不会记住这些内容,用过即忘。偶尔出现调用不存在的API的情况,也是同样的道理。这并非因为模型查漏补缺,而是权重按照训练时学到的旧模式硬凑出一串回应。

如果你再深入底层探究,会看得更清楚。你编写的const x = await fetch代码,在模型看来首先会被切分成一个个token,每个token再对应词表中的一个数字。你写的一行代码,在经过token化处理后,每个token会转换成词表里的一个整数:const对应1078,await对应2597,整个词表约有10万个。模型接收到的从来不是文字,而是一串数字。(图源:Anthropic官方博文)

模型并不是一次性吐出整个答案的。它会一次预测一个token,接着再对整串内容重新计算,继续预测下一个token。一段两百个token的回复,需要重复两百次完整的运算过程。你付出的时间和金钱,大部分都消耗在这个循环计算之中。

再谈谈Effort,它调整的是"工作态度"。很多人以为高Effort就是"多思考几秒钟",这种理解并不准确。它控制的是Claude在当前任务中投入的工作量:需要读取多少文件、是否运行测试、是否进行额外验证、是否将一个多步骤任务完整执行后再与你沟通。

简而言之,低Effort的Claude倾向于减少工作量,比如跳过某些文件读取、不运行测试等。而高Effort的Claude则会更全面地执行任务,确保各项工作都得到妥善处理。通过调整Effort档位,用户可以灵活控制AI的工作方式,以达到最佳效果。

相关推荐

最新文章