企业做AI，最容易踩的坑，是把一次令人惊艳的演示，当成产品已经可用的证明。

高盛数字平台Marquee负责人、全球银行与市场AI工作组联席主席Chris Churchman，最近在一期播客中给出了一个更残酷的标准：AI Demo 只展示“最好的一次表现”；但机构产品上线后，最糟糕的输出会被市场与客户审视。

这句话击中了企业AI从PoC走向生产的真正断点。前沿模型接上企业数据，很容易生成一份流畅、完整、看起来专业的答案；但在金融等高风险场景里，“大体正确”没有意义。

事实是否准确、计算能否复核、结论是否越过权限、错误能否及时停止，决定了企业能否让系统进入真实流程。

这场访谈给出四条产品化边界：不用Demo代替验收；不押注模型的暂时缺陷；重做工作流；不把人的判断力外包。

高盛的“AI实验”

Churchman在访谈中提到，一个模型即使在假设中有90%的事实是对的，也可能没有实际价值。因为使用者不知道错误藏在哪10%里，最终仍要核对全部事实。AI看似节省了写作时间，却把成本转移到了逐条验证。

普通用户可以容忍一次不准确的推荐，机构产品却必须严谨面对权限错误、数据过期、来源冲突、工具调用失败和异常市场条件。平均准确率无法回答错误落在哪里、影响多大，以及系统能否被安全接管。

Churchman用了一个很形象的比喻：事实和推断一旦进入上下文窗口，都会经过“同一台香肠机”，模型自己无法区分哪一个是事实、哪一个是插值。它不是故意误导，而是根本不知道两者的区别。

因此，高盛为Marquee AI设定的目标，是让每个重要陈述都能追溯到研究材料、交易台评论或可审计的计算。

这里的“有来源”不是在答案末尾附上几个链接，而是判断与具体证据一一对应，计算过程也能复现。

对于企业来说，验收Agent时，测试集不能只有标准问题和正常流程，还要主动加入过期文档、互相矛盾的数据、权限不足、接口超时、重复提交和无法回答等情况。

需要记录的不只是答案准确率，还包括引用可追溯性、人工接管率、越权或误操作、失败恢复时间，以及完成一个合格任务的总成本。

产品与Demo的差距，正是这些看起来无聊、很难成为发布会卖点的工程工作。

不要押注模型缺陷，要建设模型学不会的东西

Churchman的第二个判断是：不要和模型能力的进步对赌。

Churchman复盘，早期模型只有约4K Token上下文，约等于3000个英文单词，开发者不得不切片、嵌入向量数据库，并研究怎样避开“中间遗失”现象。

随后上下文窗口升到128K、再到100万Token，长文本检索也快速改善；函数调用和MCP又吸收了大量工具连接脚手架。围绕暂时性缺陷构筑的产品壁垒，很可能在下一个模型版本发布后迅速贬值。

这并不意味着RAG、工作流编排或Agent框架已经无用。变化在于，它们不该只用来弥补模型“读不下长文”或“不会操作工具”，而应承担模型无法独立解决的任务：确定哪份材料是权威版本，知识何时失效，当前用户能看什么，不同数据如何关联，结论依据来自哪里，写操作由谁批准。

Churchman把这些概括为模型无法从海量公共训练中学到的机构细节，包括企业专有数据、权限体系、数据之间的连接方式和业务授权。

对于B端AI供应商，这意味着通用生成、搜索和工具调用会越来越快地商品化；更持久的价值，将转向企业上下文、系统集成、权限治理、评测和持续运营。

企业自建也应遵循同一原则。不要投入大量资源复制模型厂很可能内化的通用能力，而要优先建设自己的权威知识源、业务对象、接口、权限映射、评测集与责任体系。

模型会升级，机构事实不会自动整理，组织责任更不会从参数中长出来。

访谈还勾勒出一条清晰的技术演进路线：从提示词工程，到上下文工程，再到让Agent检查和修正自身工作的Agent工程；接下来是环境工程，以及尚未成为通用术语的“授权工程”。

环境工程解决的是Agent在哪里工作：它能否进入一个安全环境，获得最新知识和正确工具，沿用真实身份与权限，并让每一步行动可观察、可暂停、可回滚。

授权工程解决的则是更难的问题：Agent被允许做什么，以谁的名义行动，依据谁的授权，出了问题由谁承担责任。

模型能力越强，这些问题越不能放到上线后补做。所谓自主性，也不应简单理解为“能连续执行更多步骤”，而是系统在清楚的责任边界内独立完成任务，并在触碰边界时主动停止。

对于高风险流程，一个可落地的结构通常是：AI完成材料识别、信息核对、分析或预审；关键决定由明确的人确认；结果写回原有业务系统，进入现有审计链。

这也是许多PoC无法规模化的真正原因。演示只需要证明模型能做，产品还要证明组织敢让它做。

与其自动化旧流程，不如重新理解任务

Churchman把企业使用AI分为两种思路：自动化和重新构想。

自动化是在原流程中找到阅读、审核、录入等认知瓶颈，用AI替代人工，得到同样的结果但速度更快。它容易落地，也能产生效率，却可能把历史流程中的冗余一起固化。

重新构想则从“真正要完成什么”出发，假设智能可以低成本、弹性地调用，再重新设计人与软件的分工。Churchman把这种转变概括为：过去是用户学习软件，现在是软件学习用户。Marquee AI不是让用户掌握更多菜单，而是理解其研究意图，再组织研究、数据、工具和计算。

他也承认，AI的原生产品形态尚未出现：行业像刚发明电视时仍在电视上播放广播节目，也像还停留在命令行、尚未进入Windows和鼠标的阶段。今天大量“聊天框加旧流程”的产品，可能只是过渡形态。

企业判断一个Agent项目是否有价值，也可以做同样的区分。如果AI只是生成一份结果，员工还要手工搬回原系统、重新核对和发起审批，它可能只是增加了一个界面。真正的闭环应该减少跨系统交接，让结果进入后续流程，同时保留必要的确认和回退机制。

最不能外包的，是人的判断力

这场访谈最有分量的一层，是对人类能力退化的担忧。

Churchman认为，技术不断替代记忆、导航和信息查找之后，生成式AI开始接管论证与推理。如果企业只追求减少人工步骤，年轻员工可能跳过形成专业判断所需的训练。许多机构知识没有写进文档，而是在师徒协作和实际操作中传递，过度自动化可能让这部分知识直接断层。

他把推理能力类比为体能：人因为每天坐办公室12小时，才需要主动去健身房；AI时代也需要为思考建立“健身房”。他希望十年后的高盛新人更像“战斗机飞行员”，能够处理大量信息、在不确定中判断，而不是只按既定路线驾驶的“公交车司机”。这不是排斥AI，而是要求产品增强人的推理，而非替人放弃推理。

因此，好的企业AI不应隐藏推理所依赖的证据，而应帮助人更好地判断：展示来源与计算，明确事实、假设和推断，暴露冲突与不确定性，把高风险选择留给有责任的人。AI可以扩大人的信息带宽，但不应让人失去质疑输出的能力。

高盛的经验最终指向同一个结论：企业AI的护城河，不是把通用模型再包装一层，而是建立一套模型无法从公共世界学到的工作环境。

其中包括权威数据及其关系、身份与权限、任务授权、工具接口、异常升级、业务验收和组织记忆。模型升级会吃掉大量临时脚手架，却不会自动替企业回答：哪条事实可以使用，谁有权采取行动，什么结果可以被接受，什么时候必须把决定交还给人。

对供应商来说，下一阶段不能只展示Agent“能做什么”，还要说明最坏情况下如何停、如何查、如何恢复。对企业来说，也不该从功能清单开始采购，而应选取真实任务，在真实权限和异常条件下测试完成率、可追溯性、人工介入与单位成本。

Demo证明的是AI有能力，产品证明的是组织能够信任这种能力。从前者走向后者，才是B端AI应用真正开始创造价值的地方。