返回信息流
新闻事件
InfoQ
1 个来源

Armature 研究:编程智能体如何选择工具,品牌旧印象或成障碍

开发者工具增长服务公司 Armature 发布了一项实验性研究,分析编程智能体(Claude Code、Codex、Cursor)在真实代码库中如何选择和接入工具。研究发现,智能体的选择高度依赖模型权重中固化的旧品牌印象,而非工具当前的实际能力,这意味着工具厂商过去二十年积累的品牌优势在 Agent 时代可能失效。Armature 认为,厂商需要针对 Agent 优化自身被提及和选择的概率,否则可能被排除在未来的技术栈之外。

SynthePulse Insight · AI 深度解读

当Agent替开发者选工具:一场17,000次会话揭示的采购变局

版本 1 · 1 个来源

Armature用1,163个prompt、75个代码仓库测试Claude Code、Codex与Cursor如何挑选工具,发现代码库上下文、Agent的信息来源差异,以及“被提到”与“被选中”之间的巨大鸿沟,正在重写开发者工具的竞争规则。

  • Armature公开一项实验性分析,观察编程Agent如何发现、选择并接入工具,核心展示数据来自5,292次经过验证的会话子集。
  • 实验设计1,163种prompt、覆盖75个独立代码仓库,测试Claude Code、Codex和Cursor三个Agent。
  • 代码仓库上下文决定结果:同一类邮件服务选型,TypeScript、Python、Go、Java四种语言代码库选出四个不同赢家。
  • 三个Agent仅在42%的测试单元里选择同一工具,Claude Code选择“自己造”的比例约为Codex和Cursor的两倍。
  • 被提到不等于被选中:PayPal被提及139次却未被选中,LangChain被提及194次仅被选择4次。
  • Armature联合创始人称品牌声誉会随模型权重固化,厂商若无法被Agent提及和选择,可能被排除在技术栈之外。
展开章节目录一个被重新定义的采购决策

一个被重新定义的采购决策

开发者工具的增长服务公司Armature公开了一项实验性分析,试图回答一个此前少有人系统测量的问题:编程Agent如何看待、发现并选择工具,以及每个类别中最终哪个工具胜出。研究观察了17,000次工具选择会话,但对外展示的核心数据来自规模较小、经过验证的5,292次会话子集。

这项研究的背景是AI推动的关注点从搜索引擎优化(SEO)转向答案引擎优化(AEO),即优化内容使其能作为Agent生成的答案呈现。Armature联合创始人Theodore Otzenberger的判断是,现在真正决定哪个工具会被接入代码库的是Agent,这对开发者工具厂商有“生死攸关的影响”——做不到被Agent提及和选择,工具未来很可能被直接排除在技术栈之外。需要指出的是,Armature本身是一家开发者工具增长服务公司,在这场游戏中有着非常直接的利益关系,且成立于2026年,这类分析目前还只是它早期的研究尝试。

实验怎么做的:人造公司、伪造密钥与一个模拟人类

研究覆盖75个彼此独立的代码仓库,设计了1,163种不同的prompt,并测试了Claude Code、Codex和Cursor三个编程Agent。重点不只是看它们推荐哪些工具,而是观察它们在真实代码库中最终选择并接入什么工具。

分析基于公开GitHub仓库展开,团队记录了项目的编程语言、框架、第三方服务、部署平台、团队规模和代码库年龄,并参考公开数据调整样本以更接近设定的目标结构。为减少偏差,团队使用了虚构的公司名称、人造的Git提交历史和伪造的API Key,还加入了一个由Gemini 3.7 Flash通过orchestrator扮演的模拟人类环节。

这个模拟人类环节并非装饰。Armature解释,模拟人类通常会接受排名第一的方案,或让编程Agent自己挑选最合适的方案并完成实现;但如果一开始就要求Agent不提问、直接动手,它往往倾向于把所有功能都自己做出来,因为没有机会询问是否可采用第三方方案。加入“人类”环节后,头部工具和云平台原生方案原本过强的优势被削弱,结果更接近真实情况。

样本结构本身存在约束:公开开源项目更偏向初创公司,企业软件项目往往不会直接出现在GitHub上,团队只能参考公开数据调整样本。因此研究结论能否推广到企业软件项目尚不确定。

代码库上下文比品牌更能决定胜负

Armature发现代码仓库上下文至关重要。在要求选择最优邮件/通信服务提供商时,四个用不同语言编写的代码库最终选出了四个不同赢家:Resend在TypeScript代码中胜出(89次运行中胜出55次),SendGrid在Python中胜出(24次中22次),Postmark在Go中胜出(24次中20次),Azure ACS在Java中胜出(23次中22次)。

这组数字的含义是,工具选型并非在一个统一的“最佳工具”排行榜上完成,而是被代码库的语言与既有技术栈深度塑造。同一类需求,换一种语言,赢家就换一个。

不同Agent的信息来源差异进一步放大了这种分化。Cursor在三分之二的会话中基于Web信息决策;Codex几乎总是使用Web搜索(占会话的94%),且十次查询中有九次使用site等搜索运算符;Claude Code主要依赖自身已有知识,只有约30%的情况下搜索Web,但一旦开始浏览网页,访问的页面数量会是Codex的3倍。

结果是,三个Agent只有在42%的测试单元里会选同一个工具;而Claude Code选择“自己造”的比例几乎是Codex和Cursor的两倍(19%对10%)。这意味着“Agent会选什么”没有单一答案,取决于哪个Agent、什么代码库、以及它是否愿意上网查。

被提到与被选中:一道正在变成生意的鸿沟

Glokal AI OÜ创始人兼CTO Jeet Pattanaik指出,被提到和最终胜出不是一回事:PayPal被提到139次却一次都没被选中;LangChain是被提及最多的框架、共出现194次,但最终只被选择了4次。这中间的差距,正是这类增长服务生意存在的原因。

Pattanaik的判断是,真正影响Agent做决定的往往是一些看起来微不足道的细节,因此厂商接下来要优化的除了仓库上下文本身,还有工具的配套文档和定价页面——这些内容今后面对的读者可能越来越多是Agent而不是人。它不会略读,不因Logo好看而更有好感,甚至连数据保留期限这种脚注都会按字面认真理解。

需要区分的是,上述关于提及与选择差距的观察来自Pattanaik这一第三方评论者,属于来源说法而非Armature研究本身的确认结论;被提到与最终被选中之间的差距是否稳定适用于其他工具类别,来源也未给出证据。厂商针对Agent优化文档和定价页面能否实际改变Agent选择,同样尚无验证。

品牌被冻结在模型权重里

Otzenberger给出了一个更尖锐的比喻:在17,000次工具选择会话中,工具厂商二十年的品牌建设仿佛被冻结在时间里,品牌声誉会跟着进入模型权重,并绑定在让厂商成名的那个产品上。

他举的例子是容器:一旦提到容器,Agent马上就会想到Docker,但它对Docker现在提供的沙箱功能一无所知,所以最后实际上反而不会选择这个工具。换言之,模型记住的是厂商成名的那个旧形象,而不是它今天的能力清单。

这一判断来自Armature联合创始人的表述,属于来源说法。它指向一个结构性风险:品牌认知越强、越固化,Agent对产品现状的认知偏差可能越大,而厂商很难通过传统营销直接修正模型权重中的印象。

结论的边界与下一次洗牌

这项研究公开了整项研究包括所有trace和prompt供任何人核查,Otzenberger称团队很快会在Astra和Fable 5.1上重新跑一遍完整研究。他强调,每出现一个新的Agent或模型,工具选择的结果都可能重新洗牌,理解这些Agent如何做选择已经成了一个需要用工程方法解决的问题。

但边界同样清晰:对外展示的核心数据来自5,292次会话子集而非完整的17,000次会话;样本偏向公开开源项目,企业软件场景的适用性未知;外部是否已独立验证其结论,来源未说明;在Astra和Fable 5.1上重跑后的结果是否会改变现有结论,目前未知;模拟人类环节对结果的具体影响幅度,来源仅给出定性描述。

因此更稳妥的读法是:这项研究提供了一套可核查的方法与一组具体观察,证明Agent选型存在显著的语言依赖、Agent间分歧和“提及—选择”落差;但它尚不足以断言某个工具类别已经形成稳定的新秩序。真正的变量是模型与Agent的迭代速度——每一次换代,都可能让今天的赢家重新排队。

可信度边界

本文全部事实来自InfoQ对Armature研究的报道。其中研究设计、会话与prompt数量、各语言下的邮件服务胜出数据、三个Agent的信息来源比例与一致率,属于报道确认的事实;关于品牌被冻结在模型权重、Docker案例、厂商“生死攸关”的判断,以及PayPal与LangChain的提及—选择差距,均来自Armature联合创始人和第三方评论者的表述,属来源说法,未经独立验证。Armature作为开发者工具增长服务公司存在直接利益关系,且成立于2026年,研究属早期尝试;样本偏向公开开源项目,企业场景适用性未知。

核心结论

Agent正在成为工具选型的实际决策者,而它的选择被代码库语言、自身信息来源和模型权重中的旧品牌印象共同塑造。对厂商而言,被提到不等于被选中;对读者而言,这项研究给出了可核查的方法和一组具体数字,但结论仍受样本偏向与模型迭代速度的限制。

主报道

InfoQ

主报道来源