Nasiko发布OpenRuntime:实现AI代理成本精细化管控
近日,Nasiko正式发布了其运营平台OpenRuntime。该平台支持按团队和代理(Agent)维度追踪AI模型调用成本,并在预算达到上限时通过网关自动拒绝后续的模型请求,从而帮助企业有效控制AI支出。
核心功能:TokenOps成本管理体系
Nasiko在官方博客中详细介绍了OpenRuntime及其核心的成本管理功能——TokenOps。该系统具备以下关键特性:
- 分层预算管理:用户可为团队、单个代理或特定运行环境(Harness)设置预算上限。当使用量达到80%时,系统会自动发出预警。
- 智能拦截机制:一旦触及预算红线,Agent Gateway将拒绝后续的模型调用请求。需要注意的是,官方说明指出这主要针对“模型调用”环节,并不意味着代理的所有任务都会立即停止执行。
- 多维度数据透视:TokenOps能够将成本细分为团队、模型、代理及运行环境四个维度进行展示。对于使用多家模型供应商的组织而言,这一功能有助于清晰识别资金流向,明确各团队或项目的具体支出情况。
技术架构与灵活性
在技术实现上,Nasiko强调其平台具有高度的兼容性和灵活性:
“无需修改现有的代理代码或SDK即可接入平台。”
此外,平台允许用户独立开启“会话用量报告”和“模型路由”功能。预算限制主要作用于经过Nasiko网关的模型请求;若请求绕过网关,则不受此限制约束。这意味着实际的成本控制范围取决于企业是否将所有模型请求配置为经由网关转发。
权限管理与安全控制
除了成本控制,OpenRuntime还强化了工具使用的权限管理。管理员可以针对特定工具设置允许或禁止使用的策略,并支持引入人工审批流程,确保敏感操作需经确认后方可执行。
Nasiko早在今年5月就推出了包含代理注册、路由、安全、部署及可观测性在内的控制层,当时已初步展示了OpenRuntime的多项运营能力。同年9月,Nasiko宣布在DigitalOcean市场提供托管式运行时服务,并将TokenOps定位为关键的支出追踪与控制工具。因此,此次16日的发布并非TokenOps的首次亮相,而是对包含该功能在内的OpenRuntime整体能力的全面展示。
社区反馈与潜在问题
随着开源仓库的公开,社区用户也反馈了一些关于成本计量方面的具体问题:
- Codex缓存重复计费争议:有贡献者指出,Codex的缓存输入Token可能存在重复统计现象,导致其案例中的成本记录被放大至约6.9倍。
- 新会话初始用量显示异常:部分用户报告称,新建Codex会话的初期使用量被错误地记录为0。
- 中断调用的费用扣除问题:另有反馈提到,当Claude Code的工具调用被中断时,已经产生的费用可能未能从记录中正确扣除。作者基于15条企业级记录进行了汇总分析。
Nasiko方面回应称,上述问题属于个别用户的反馈,并不代表产品整体的故障率。同时,Nasiko在发布会上提及,其开源仓库已获得超过11,900个星标,但这代表的是项目长期的累计关注度,而非本次发布的即时反应。