亚洲财经

☰ 搜索

GPT-6.1 Sol 帮助 Asana 将 Agent 成本降低了76倍,但这里有陷阱

Asana 通过优化数据复用策略及切换至 GPT-6.1 Sol 模型,将 AI 浏览器代理成本降低 76 倍

核心要点:

  • 在 GPT-6.1 Sol 模型上,Asana 优化的代理每次运行平均成本为 0.47 美元,而此前使用竞品模型时至少为 36.21 美元。
  • 仅工作流调整就将成本降低了 29 倍,随后才进行模型切换。
  • 上述数据源于单次内部测试,尚未经过独立审计。

StackAI 测试详情

10 月 9 日,OpenAI 发布了一份案例研究,披露了 Asana 工程师此前发布的包含 144 次运行的测试结果。该测试针对的是 StackAI(Asana 收购的一家自动化平台)内部的浏览器代理,该代理无需编写代码即可导航网站、填写表单并收集信息。每次运行任务要求代理收集 32 本书的数据。

在使用竞品模型的原始生产环境中,每次运行成本至少为 36.21 美元,耗时至少 22.5 分钟,部分任务因达到步骤限制而无法完成。而在 GPT-6.1 Sol 模型上优化后的版本,平均每次运行成本仅为 0.47 美元,耗时约四分钟,且所有运行均返回了正确答案。

Frank Hidalgo 谈成本控制

StackAI 首席技术官 Frank Hidalgo 表示,这项研究若由人工完成可能需要一至两个月,但实际仅耗时一周左右。他指出,成本曾限制 Asana 为客户提供的模型选择范围,而更精简的代理使其能够在降低运营成本的同时提供更快的模型服务。

OrcaRouter 的分析观点

AI 路由公司 OrcaRouter 的分析认为,大部分节省的成本来自于修复工作流,而非切换模型。相同的更改使竞品模型的成本降低了 29 倍。GPT-6.1 Sol 在同一列表价格下进一步实现了 2.6 倍的降本,分析将此差距归因于模型对缓存的使用效率。

技术细节与缓存优化

OpenAI 的 GPT-6 Astra 在 Codex 编码工具内部发现,该代理几乎在每次调用时都以全价发送不断增长的历史页面文本和截图记录。Astra 随后测试了以下修复方案:缓存历史记录,允许截图累积至 20 张后再缩减至一张,并将历史记录限制提高四倍。在 GPT-6.1 Sol 上应用这些更改后,89% 的输入来自缓存。

其他背景信息

这并非 Asana 首次公开 Codex 的成果。8 月 7 日,其工程师曾表示,Codex 代理在两周内将公司的前端测试从过时的库中迁移出来,而这原本预计需要五年时间,总费用约为 12,000 美元。

需要注意的是,上述数据尚未经过外部第三方审计。