在AI基础设施支出持续膨胀的压力下,Meta正试图从内部寻找降本之道。
7月21日,据科技媒体The Information报道,Meta内部AI孵化器AAI Labs正在开发一款名为"Switchboard"的AI模型路由工具,其核心逻辑与OpenRouter的Auto Router产品高度相似——通过对任务难度评分,将简单请求分流至更廉价的小模型,从而降低整体推理成本。
Switchboard目前仍处于早期阶段,能否最终落地尚不确定。但据The Information获得的内部文件显示,Meta团队已明确提出两条潜在路径:一是在公司内部部署以压缩成本,二是面向大规模运行AI编程智能体的外部组织公开发布。
分析指出,这意味着该工具不仅是一项降本举措,也可能成为Meta在AI工具市场开辟新收入来源的尝试。
另据报道称,这一项目的提出,直接指向该公司当前面临的一个现实痛点:为每一个编程请求支付顶级模型的价格,包括那些本可由小模型轻松处理的简单任务。
直指痛点:推理成本是规模化部署的最大障碍
报道称,Switchboard项目的立项逻辑,在内部文件中被表述得相当直白:"我们为每一个编程请求支付顶级模型的价格,包括那些简单的请求。"
文件进一步指出,大多数编程智能体任务完全可以由较小的模型处理,只有少数任务才真正需要前沿大模型的能力。然而现状是"所有请求都发往同一个模型,导致简单任务上的过度支出,或在复杂任务上表现不足"。
文件明确将推理成本定性为在公司内部更广泛部署智能体的"首要障碍",并直言:"成本是限制我们大规模运行智能体的关键因素。"
这一表述与Meta近期在AI支出管控上的一系列动作相互印证。据The Information此前报道,Meta今年6月曾通知员工,将在鼓励全公司更广泛采用AI工具仅数周后,开始对AI token用量设置上限,同时构建内部平台以追踪AI支出并执行token预算。
值得注意的是,Switchboard项目隶属于Meta旗下的AAI Labs,这是Meta Applied AI Engineering团队下设的内部孵化机构,于今年3月正式成立。据The Information审阅的内部文件,该机制允许员工提交AI产品和服务提案,通过审批后由小团队负责构建,并有机会对外公开发布。
截至今年7月,AAI Labs已累计批准约200个项目,涵盖消费者产品、开发者工具和内部基础设施三大方向。Switchboard正是其中之一。
这一机制折射出Meta CEO扎克伯格的更宏观战略构想——借助AI让小团队快速构建产品。扎克伯格今年4月曾对分析师表示,AI智能体意味着"小团队可以取得非常快速的进展",并预测这项技术将推动"大量创新"。他还表示,Meta可能打造多达50款新应用。
模型路由赛道:OpenRouter之外,巨头纷纷入局
Switchboard所瞄准的模型路由赛道,正在吸引越来越多的关注。
OpenRouter凭借帮助开发者以更低成本访问多种AI模型,已在开发者群体中积累起相当人气。据The Information上周报道,OpenRouter已与一家规模更大的科技公司就潜在收购事宜展开讨论,相关交易可能将其估值推升数十亿美元——该公司今年4月的估值为13亿美元。
模型路由概念在更广泛范围内引发关注,源于OpenAI发布GPT-5时内置的路由功能——该功能可在用户提示相对简单时自动切换至更廉价的模型。此后,Databricks和Palantir等公司也相继开发了各自的路由工具,以管理成本、提升效率。
Meta此番自研Switchboard,既是对自身成本压力的主动回应,也是在这一快速升温的赛道上布局自有能力的战略选择。
更大野心:AI投资寻求多元变现
Switchboard项目的背后,是Meta将庞大AI投入转化为新工具、新业务和新收入来源的整体诉求。
Meta此前预计,今年在AI基础设施及其他设备和设施上的支出可能高达1450亿美元,较2025年的水平翻逾一倍。与此同时,Meta正在对工程团队进行重组,以强化AI开发能力。
AAI Labs孵化的项目不止于Switchboard。据The Information获得的另一份内部文件,AAI Labs还在开发一款面向驾驶者的AI导览应用,可通过Apple CarPlay和Android Auto运行,利用AI解说附近地标并允许驾驶者提问。
文件将该产品定位为Instagram地图体验的延伸,未来或整合基于位置的Reels内容、旅行推荐,乃至Meta Ray-Ban智能眼镜。
报道称,这些项目共同勾勒出Meta的路径:以员工创意为起点,快速原型化AI产品,再择机向外部市场推出——在控制成本的同时,探索广告业务之外的增量收入空间。
资讯来源:华尔街见闻
