原题： Can Bitcoin Protect You From AI Threats?

节目 / 频道： The Pomp Podcast / Anthony Pompliano

主持人： Anthony Pompliano

嘉宾： Roman Yampolskiy

发布日期： 2026-08-24

导读

Roman Yampolskiy 博士是路易斯维尔大学计算机科学教授，也是全球领先的 AI 安全研究者之一。他在十多年前提出了“AI safety”这一术语。在这场对话中，他解释了为什么他认为超级智能可能从根本上无法控制，并讨论了近期 AI 模型通过黑客攻击、撒谎和勒索等方式试图摆脱约束的事件。对话还谈到 AI 与比特币之间出人意料的关系、深度伪造导致的信任崩塌，以及一旦跨过 AGI 门槛，就业和社会可能会发生什么。

第一章：开场

Roman Yampolskiy：

如果我们创造出不受控制的超级智能，它很有可能会对我们做出某些我们无法预测、也未必会喜欢的事情。一旦我们达到 AGI，也就是人类水平的智能，按照定义，所有工作都可以被自动化，包括你以后会创造出的任何新工作。

Anthony Pompliano：

女士们先生们，今天我为大家准备了一场非常特别的对话。我们请到了 Roman Yampolskiy 博士。他是路易斯维尔大学的计算机科学教授，也是领先的 AI 安全研究者之一。在这场对话中，我们会谈到人工智能、它带来的风险，以及如果我们释放出一种会造成混乱而我们又无法控制的超级智能，社会究竟会发生什么。

这场对话探讨了许多关于 AI 的细节，其中很多内容你可能没有在别处听过。我认为它会让你更深入地思考这项技术，以及它对经济和个人生活可能产生的影响。下面是我与 Roman Yampolskiy 博士的对话。希望你喜欢。

第二章：我们是否已经达到 AGI？

Anthony Pompliano：

Roman，AGI 是整个 AI 行业的承诺。每个人都在追求它。我们已经达到 AGI 了吗？

Roman Yampolskiy：

这要看怎么定义。如果你把我们今天拥有的系统展示给 20 年前的一位计算机科学家，他会相信我们已经拥有了 AGI。我们现在有能够学习的系统，在大多数任务上比大多数人更聪明。所以我认为你可以提出这个论点。

但就像人类智能一样，AI 也处在一个光谱上。有些人的 IQ 是 80，有些是 150。因此我们现在位于这个光谱上的某个位置，从刚刚达到可以被归类为 AGI 的最低标准，一直到很快进入超级智能。

Anthony Pompliano：

当你想到最近这些进展时，会感觉事情正在加速，而这种加速既有正面影响，也有负面影响。到目前为止，你认为这种加速带来的正面作用是什么？我们又正在走向哪里？

Roman Yampolskiy：

我们确实正在变得更高效、更有创造力。它们在许多领域都是非常惊人的工具。它们也帮助我们进行研究、数学和医学方面的工作。所以我认为有不少好处，包括经济上的好处和知识上的好处。

Anthony Pompliano：

那负面影响呢？你是提出“AI safety”这个术语的人之一，到现在差不多已经快 15 年了。你现在的担忧和当年的担忧还是一样的吗？

Roman Yampolskiy：

绝对一样。我们还没有学会控制这些系统。随着它们变得更有能力，我们预测它们会做什么、理解它们实际如何工作的能力，基本上仍停留在原来的水平。所以不幸的是，虽然它们非常有能力，但我们并不掌控局面。

从最近的一些例子中你也看到了，它们会让我们意外。它们会联合起来，从实验室环境中黑出去，入侵我们的公司。它们会勒索研究人员，会作弊，会撒谎。这就是它们现在已经能够做到的事。如果它们有一天真的成为超级智能，我们甚至不知道它们会对我们做什么。

第三章：为什么我们无法控制超级智能

Anthony Pompliano：

请你多讲讲，为什么你认为我们无法控制它们？

Roman Yampolskiy：

通常情况下，如果你有一个确定性的系统，你知道它会做什么，也知道可能取值的范围。你可以验证它是否处在这个范围内。你可以检查边界情况：它对一个用户是否表现正常？对 10 个用户是否表现正常？

但当你有了某种通用系统，它就不再被限制在一个小盒子里。它面对的是无限的攻击面和无限的可能性。因此，你无法测试所有可能的未来结果。我们甚至不知道一个比我们更聪明的系统会具备什么能力。所以我们无法检测它，无法恰当地监控它，也无法处理它会产生的新颖、创造性的输出。如果它发明出一种新的技术、新的物理学，我们现在没有任何东西能让我们为此做好准备。

Anthony Pompliano：

你提到最近有几个事件让你有些担心，或者说强化了你原本就有的这种担忧。那些事件是什么？其中发生了什么？

Roman Yampolskiy：

这些通用模型同时也是非常有能力的黑客。它们能够找到零日漏洞。我认为我们已经看到过一些新型的硬件钱包被盗事件，这些事件可能已经被这些模型的能力加速了，也可能没有。

我们看到它们突破了用于测试它们的隔离环境，比如 OpenAI 和其他实验室里的环境，然后进入其他公司，并在几个月内没有被发现。它们会与其他模型、其他代理进行通信。我们知道它们非常擅长社会工程和说服。这些只是最近的一些例子，而我们也看到了这些事情被严肃对待的程度。联邦政府禁用了一些模型。甚至 OpenAI 也表示，他们将放慢前沿模型的研究，因为他们觉得还没有完全准备好确保事情会顺利发展。

Anthony Pompliano：

你认为政府在控制这件事上应该扮演什么角色？

Roman Yampolskiy：

理想情况下，我们会有一项国际协议，不去开发某种我们无法从中受益、也无法控制的东西。因此，禁止开发通用超级智能会非常及时。这并不意味着我们必须停止开发有用的技术。我们仍然可以拥有针对具体问题的出色工具。我们只是不想创造出人类的替代品。我们想要的是让我们更高效、更有创造力的工具。

第四章：全球禁止超级智能真的可行吗？

Anthony Pompliano：

为什么你认为禁止通用超级智能实际上会有益？

Roman Yampolskiy：

如果我们无法控制它，而它又有很大可能会消灭我们，那么尽快不要拥有它，似乎就是一个好主意。

Anthony Pompliano：

当你说它有可能消灭我们时，那种情景会是什么样子？

Roman Yampolskiy：

这里有意思的地方在于，它是不可预测的。我可以告诉你一个人类会如何杀害其他人，我们也有许多历史例子。但一个超级智能系统会想出某种新的方式。我经常用的例子是松鼠和人类之间的差异。松鼠没有陷阱和毒药的概念。它们根本无法想象超出自身世界模型之外的东西。我认为情况会很像这样。它能够想出一种新颖的方式来危及人类，而我们既无法预测，也无法阻止。

Anthony Pompliano：

显然，已经有很多电影拍过类似的故事线。我认为这在一方面提醒了人们：这就是我们可以想象到的情形；但与此同时，也可能把很多人吓坏。在那种情景里，会不会是好的 AI 与坏的 AI 对抗？还是你认为所有机器、所有 AI 都会转向反对人类，最后真的变成人类对机器？

Roman Yampolskiy：

问题在于，我们不知道如何制造好的 AI。如果我们知道，就不会有这个问题了，对吧？我们制造的一切都可能是坏 AI，因为我们没有控制它。它没有与我们的利益对齐。即使有某种奇迹，外星人给了我们好的 AI，这种超级智能与超级智能之间的冲突对我们也不会是好事。我们会成为这场战争中的附带损害。

Anthony Pompliano：

你刚才谈到政府介入，以及某种国际协议。你认为这有可能发生吗？

Roman Yampolskiy：

如果你在一两年前问我，我会说可能性非常低。但最近我们看到了一些有希望的迹象。比如，联邦政府至少对外国公民禁用了多个模型。我们听到中国国家主席在最近一次 AI 会议上非常明确地表示，他们希望保持控制，并确保 AI 被安全地开发。顶级实验室的一些领导人也有迹象表明，他们愿意接受暂停。大约 1,200 名顶级实验室的研究人员写了一封信，请求建立外部框架，让他们能够放慢速度，认真做安全研究。

所以我认为世界已经准备好了。每多出现一个关于这些模型让我们意外、行为不当、串通起来对抗我们的故事，这种可能性就会上升。

Anthony Pompliano：

这几乎让我想起囚徒困境：到某个时候，加入合作比不加入更有利。但即便有国际协议，是否仍然会有一两个国家，甚至可能是美国的对手，有动机不参与？

Roman Yampolskiy：

短期来看，确实会有某种优势，因为你可以拥有更先进的军事能力。但一旦我们达到人类水平以及更高水平，这就变得无关紧要了。那时你拥有的是一种不受控制的超级智能，它是一种相互确保毁灭的武器。不管是谁创造了它，所有人都会一起面对。所有人类都站在同一边。

Anthony Pompliano：

像这样的协议有先例吗？

Roman Yampolskiy：

有一些例子。我们有核武器不扩散条约，也有人类克隆、生物武器和化学武器方面的限制。而那些还只是工具，它们从来不是能够攻击我们的独立代理。所以这件事甚至更有可能具有说服力。

第五章：AI 实验室真的认真对待安全吗？

Anthony Pompliano：

如果这是政府的回应，那么实验室本身呢？它们似乎已经采取了一些措施，但你对它们到目前为止所做的事情满意吗？

Roman Yampolskiy：

完全不满意。它们大多仍在尽可能继续做最强能力的研究。只要它们没有意识到不这样做符合自己的个人利益，它们就会继续下去。但如果它们意识到，自己正在创造的东西会彻底抹去投资者、股东和公司所有者的全部价值，我认为它们很可能会同意停下来。

Anthony Pompliano：

如果你是 Dario 或 Sam Altman，如果你在经营其中一家实验室，你会怎么做？

Roman Yampolskiy：

我会尽量把其他实验室的领导者召集到同一个房间里，理想情况下还要有美国和中国政府在场，然后达成一项协议：我们仍然可以继续赚很多钱，继续捕获宇宙的光锥，或者他想做的任何事情，但同时要以一种不会让我们失去基本原则的方式来做。这里有很大的上行空间，但如果你会死掉，那么你赚了多少钱就不重要了。

Anthony Pompliano：

你和 Dario 或 Sam 谈过这件事吗？

Roman Yampolskiy：

没有，很遗憾我没有直接接触他们的渠道。

Anthony Pompliano：

这一直让我觉得很有意思。你可能是 AI 安全最大的倡导者之一，而他们两个人我认为也都谈过 AI 安全。但从我接触过的人来看，那些观点也许和这两位以及其他人不同的人，彼此之间似乎并没有很多来回对话。这是一个问题吗？

Roman Yampolskiy：

不同层面上肯定有一些讨论。还是那句话，我认为很多人都在说，他们想要外部压力。你提到了囚徒困境。你知道，对每个囚徒来说，不跟随群体在个体层面上最符合自身利益。但如果有外部协调、外部沟通，你就能为所有人达成更好的协议。

Anthony Pompliano：

当我们看它们正在经历的一些开发过程时，你认为最前沿的技术中，有多少是还没有公开的？和它们目前已经发布的东西相比，它们内部的模型是不是先进得多？

Roman Yampolskiy：

肯定是。它们需要 6 个月到一年时间对一个模型做一些基本测试。因此，它们内部拥有的模型能力要强得多。有时它们会发布内部结果、数学证明以及其他领域的成果，那些都非常令人印象深刻。

Anthony Pompliano：

所以这就是一些事件的来源吗？比如 OpenAI 和 Hugging Face 最近发生的事情，我想那是来自尚未向公众开放的模型；或者关于 Fable 在被某种程度削弱之前所做事情的传闻。这真的是你担心的地方吗？

Roman Yampolskiy：

正是如此。而且在这个阶段，我认为甚至测试这些模型本身就已经很危险了。它们可能已经有能力造成重大损害，哪怕还没有达到最低限度的超级智能。

Anthony Pompliano：

我们在 COVID 期间真的经历过一次实验室泄漏。我知道人们对它是如何发生的有很多争论，那件事更偏向病毒层面。但当你谈到这些模型突破隔离、进入社会的不同部分时，这里有一个类似的概念。它是不是一个简单的非黑即白决定：要么开发这项技术，要么不开发？还是说有办法继续它们正在做的开发，同时给 AI 加上一些护栏，让隔离风险降低？

Roman Yampolskiy：

它们确实在尝试，确实在试图给它加护栏。问题是，你面对的是一个超级智能黑客，它会很容易地在那个环境中找到漏洞，就像你提到的那些例子一样。我还记得在那场疫情期间发过一条推文。那个病毒的 IQ 大概是零，却几乎毁掉了世界。而这些东西的 IQ 会达到数百万。所以我们真的需要确保它们不会跑到外面。

Anthony Pompliano：

我在网上读到，2018 年你和其他几个人提出过在这些 AI 模型中设置某种“阿喀琉斯之踵”的想法。大体思路似乎是，你会放入一些参数，比如模型不能编辑自己的源代码，这可能是一个例子。你现在仍认为那是一个好主意吗？或者你认为那类东西可能成为一种解决方案吗？

Roman Yampolskiy：

那是一篇关于“人工愚蠢”的论文，试图理解人类心理的限制。比如，你只能记住七个不同的数据单元，然后把这些限制编码进 AI 系统，让它们更接近人类体验，从而改善用户交互。那并不是一种确保超级智能安全的解决方案。

我认为这里唯一的选择是不开发它们。给某些事情加限制，比如不让它直接访问自己的源代码、不允许递归自我改进，这些看起来显然都是好主意。如果你不控制这个过程，本质上你会得到类似核反应和能力爆炸的东西。

Anthony Pompliano：

听这些领导者谈论这项技术一直很有意思。我的意思是，他们用过“核”这样的词，也说过其他一些类似的话。所以在我们甚至还没有谈到 AI 的影响以及潜在负面影响之前，似乎他们确实理解这些系统的力量。我有点惊讶他们会如此公开地谈论它。你惊讶吗？

Roman Yampolskiy：

这是一个很有意思的情况：一家公司的领导者谈论自己的产品，却把它描述为非常危险、不受控制、很可能杀死所有人。这是一种非常奇怪的营销策略。想象一下任何其他产品这样做会怎样，对吧？烟草公司曾经对我们撒谎，告诉我们十个医生里有一个喜欢它的健康益处。这里真的很难理解。他们所有人都有公开记录，在成为 CEO 之前以及之后都说过，这极其危险，我们不能犯下这个最终错误。所以我们正在面对的事情确实前所未有。

Anthony Pompliano：

你认为他们所有人都在为同一件事优化，也就是不惜一切代价获胜吗？还是说不同领导者之间有差异，有些人也许真的在乎不要造成伤害，而另一些人则没那么担心？

Roman Yampolskiy：

我认为，如果让他们在毁灭宇宙、包括毁灭自己，和不这么做之间选择，他们都会做出正确选择。问题是，他们此刻全都在创造不受控制的超级智能。没有一个人说自己已经有可行的安全机制、原型或任何类似东西。因此，就它们正在开发的东西而言，他们同样负有责任，也同样不道德。

Anthony Pompliano：

如果我们看 Elon Musk 的公开评论，他似乎曾认为应该有一种开源的 OpenAI 式回应，来对应 Google、DeepMind 以及许多闭源且非常强大的东西，因为人们不知道那里发生了什么。显然，那个商业或慈善性质的尝试已经发生了很大变化，变成了更偏营利的东西。你认为开源是否能提供某种答案，或者至少降低风险？

Roman Yampolskiy：

从历史上看，开源软件要安全得多。更多人会查看代码，确保没有后门之类的问题。但这并不适用于本质上是智能武器的东西，而超级智能就是这样。把最强大的技术交给每一个精神病态者，并不是一个好主意。我们不会想要把核武器开源。

第六章：大规模失业与 AGI 经济学

Anthony Pompliano：

关于这项技术的影响，商业、金融、科技行业里有很多人在到处强调它的正面好处。他们说它会提高效率、创造更多收入，等等。但你公开说过，AI 可能在未来一百年内毁灭人类，而且你认为这种事情发生的可能性非常高，比如 99%。此外，在人们失去工作方面，你也认为这项技术可能造成大规模失业。你能进一步解释这些关于 AI 影响的风险吗？

Roman Yampolskiy：

可以。如果我们创造出不受控制的超级智能，它很有可能会对我们做出某些我们无法预测、也未必会喜欢的事情。另一方面，如果它们设法放慢这场竞赛，并且也许最终只得到某种有用但先进的 AI，那么从普通人的认知劳动角度看，它是可以替代人的。体力劳动会随着人形机器人稍后到来，但那会变成一种即插即用的雇员。

任何你能在电脑上做的事情，这些系统都能做很多，其中很多今天已经能做。它们能设计网站，能为播客写问题。所以，自动化大多数认知工作的能力会存在。市场会不会选择这个选项，并不是我能预测的。对许多用户来说，我们也许仍会偏好某些工作由人类完成。我们不知道会是哪些工作，也不知道成本收益在什么时候会发生切换。也许我更喜欢人类，但人类太贵，所以我不得不选择非常便宜的 AI 会计。

我想表达的是，一旦我们达到 AGI，也就是人类水平智能，按照定义，所有工作都可以被自动化，包括你以后会创造出的任何新工作。

Anthony Pompliano：

这很有意思。随着我试用越来越多最近的产品，Grokbot 可能是我最近玩过的一个。它们现在可以执行持续性的任务，也就是需要做出多个连续决策的任务。我发现有些时候，它会在我还没来得及想清楚之前，提前思考两步、三步、四步。所以当你看到它做某件事，而你意识到“这确实是正确的事，但我没有告诉你要这样做”时，就会有点奇怪。你也有这样的体验吗？

Roman Yampolskiy：

它们总是让我惊讶，有时是因为它们的聪明，有时是因为它们的幽默感。我的意思是，它们在许多领域正在变得比我更聪明。还不是所有领域，但它们会到达那里。

Anthony Pompliano：

你日常如何使用 AI？

Roman Yampolskiy：

我会尽量自动化很多官僚主义的废话，以及我不关心的事情。

Anthony Pompliano：

有没有什么你已经自动化的官僚主义废话的例子？

Roman Yampolskiy：

基本上任何表格，只要它只是官僚主义废话，本来就没有理由存在。

Anthony Pompliano：

假设你不是个例，每个人都在试图这样做。这会不会意味着更多官僚主义废话？因为现在一切都被 AI 自动处理了，AI 又为彼此创造更多工作。还是说官僚主义废话会减少，因为人们开始意识到这太高效了，没有必要再向人类索要这些信息？

Roman Yampolskiy：

我认为表格会更多、更长。因为写它们或填写它们的成本更低了。但这不会成为人类的负担，只是在后台发生，由 AI 去协商愚蠢的合同。

Anthony Pompliano：

这就进入了一个世界：我们是不是每个人都有一堆 AI 代理，它们与其他 AI 代理交互？我不和其他人类交谈，他们也不和我交谈，而只是代理与代理之间的商业、代理与代理之间的谈判。未来经济看起来就是这样吗？

Roman Yampolskiy：

对。所以我说的一切都有一个前提：假设我们没有创造出超级智能然后被杀死。如果这一点成立，那么是的，你会在所有事情上都有智能合约，你会有一个代表你利益的机器人，它们可以与其他机器人互动。

Anthony Pompliano：

如果我们考虑那个世界，并暂且假设那就是我们最终会到达的地方。我们谈了很多失业，那么仅从软件影响来看，经济会是什么样子？我们甚至还没有谈到物理 AI。那会是一个增长更快、生产率更高、GDP 上升的经济吗？也许更少人有工作，但经济更健康。还是说这对经济和个人来说都是更具破坏性的局面？

Roman Yampolskiy：

我猜，拥有免费的认知劳动，也许再加上免费的体力劳动，对经济是有利的。你可以变得非常有生产力。你可以拥有丰裕。而且我们已经有某种安全网，可以对公司的利润征税，然后给失业的人发支票。所以这些机制已经存在，我认为我们会看到很多这样的情况。

Anthony Pompliano：

我确实认为，人们低估了这种可能的经济黄金时代。如果它发生，我们实际上可能会看到相当显著的增长。问题就变成：AI 是否真的是通缩性的？它是否有助于控制政客们印钞等行为造成的经济混乱？你对 AI 的经济影响有什么想法吗？

Roman Yampolskiy：

如果有免费劳动，事情就变得有意思了。如果你不能再用自己的劳动换取美元，你就需要想出其他赚钱方式，要么投资，要么使用某种不是可以被印刷出来的美元的东西，比如 Bitcoin、房地产、滨水物业。什么会取代这种纸质价值尺度并不明显。我猜某种计算出来的东西可能有意义，因为其中很大一部分会围绕训练更好的 AI、部署 AI 展开。

但在这一点上，它又属于那些不可预测的事情之一。一旦比我们更聪明的代理控制环境并影响环境，我们就无法对那个世界做出准确预测。如果你看科幻电影，它们里面从来没有一个可信的超级智能角色。比如《终结者》身体强大，但相当笨。《星球大战》里有一个大型语言模型到处晃来晃去。同样，没有超级智能。这是因为你无法准确预测那些世界。所以它们要么像《沙丘》那样禁止 AI，要么干脆不处理这个问题，而原因正是你无法做出那些预测。

第七章：AI 与 Bitcoin 之间出人意料的联系

Anthony Pompliano：

说到预测，我在看你的许多工作时，感觉你对 Bitcoin 这个事业，或者说 Bitcoin 技术，是相当有同情和支持的。AI 和 Bitcoin 第一眼看起来像是两种不同的技术，但实际上，随着你对二者了解越多，会发现它们交织得更深。你能谈谈在你看来 AI 和 Bitcoin 的关系吗？

Roman Yampolskiy：

AI 天然生活在网络上。因此，数字货币、智能合约、Bitcoin、Ethereum 似乎像是它的原生环境。Bitcoin 上的大量挖矿，很可能创造了某种硬件冗余，使我们能够训练有能力的 AI 模型。所以这里似乎存在深层联系。

我的担忧是，先进 AI 会成为真正惊人的黑客，也会非常擅长社会工程攻击。因此我认为，对普通人来说，保证自己的 Bitcoin 安全会变得几乎不可能。

Anthony Pompliano：

你能再讲讲为什么你认为这会不可能吗？是因为 AI 真的能够攻击自托管吗？还是你也担心机构提供商、托管方以及第三方基础设施？

Roman Yampolskiy：

所有层面都会有问题。你会有某种东西监控你在互联网上的互动。甚至社会证明类型的验证也可以被伪造。你可能会看到假视频、假音频，看到你认识的人告诉你做某件事。你无法可靠地知道你连接到的网站不是最近生成的深度伪造。那会是一个更难避免被骗的环境。

Anthony Pompliano：

你自己会怎么做来降低这种风险？是寻找能够检测深度伪造的技术，还是干脆不点击互联网上的任何东西？解决办法是什么？

Roman Yampolskiy：

我不是典型的普通用户。我有计算机科学与工程博士学位，也是网络安全实验室主任。我能做的事情，普通奶奶不可能复制。所以我们需要提出更安全的通用解决方案，才能让这项技术被广泛部署。如果你希望它有一天成为货币，它就不能停留在必须拥有这个领域博士学位才能开始用它买咖啡的程度。

Anthony Pompliano：

沿着这个方向，我听过最令人印象深刻的 AI 故事或演示之一，是有人说他正在和一个潜在客户通话，他使用 Granola 或类似的笔记应用记录通话，并实时转写。当他问潜在客户：你们的问题是什么？你们在寻找什么解决方案？等等时，他在通话结束之前，已经为那个客户搭建了一个完全定制的产品演示，精准回应了对方在电话里说的那些事情。

那是我第一次说：“等一下，这已经接近实时了，而且你实际上是在和潜在客户通话的同时构建定制软件。”如果公司能够开始做这种事，它们会赚到巨额的钱。但另一方面，如果我只要告诉我的 AI 去做，为什么还需要它们？它们所需要的只是听到我在通话里说了什么。

所以你认为公开软件公司的抛售，也许很大原因就在于此吗？人们担心普通人能够自己重新创造这些软件，不必再向公司购买，也不必支付那些席位授权费等。你认为这是一个很大的风险吗？

Roman Yampolskiy：

我认为这有关联。人们不知道未来会变成什么样，所以会变得谨慎。如果我能在 5 分钟内复制一个领先的软件产品，那么它们有什么保护？为什么还能收这么高的费用？

Anthony Pompliano：

明白了。如果我们从 Bitcoin 的视角看这件事，你提到 Bitcoin 的安全可能会变得非常困难。但听起来你又是 Bitcoin 的支持者。你似乎倾向于认为 Bitcoin 未来会更有价值。那么你如何调和这两件事：被攻击的风险、安全风险显著更高，但 Bitcoin 也会更有价值？是不是 Bitcoin 越有价值，人们攻击它的动机就越大？还是这里的关系是什么？

Roman Yampolskiy：

我经常谈到这个领域里的不可能问题。我们无法控制超级智能，无法准确预测它，也无法解释它。我认为我们可以制造更安全的钱包、更安全的界面，以及更安全的与加密货币互动的方式。我认为这相当可解。我们只是必须投入更多努力，通过生物识别技术，通过也许并不完美但有帮助的社会验证，把这些东西更广泛地部署到经济中。

Anthony Pompliano：

再多谈谈这些不可能问题。那具体是什么意思？

Roman Yampolskiy：

我认为很多人都在一个假设下行动：是的，只要再给我一点时间、更多钱，我就能弄清楚如何控制神一样的超级智能。我认为这是胡说。我认为这是一个不可能的问题。它没有意义。你无法把某个东西与 80 亿个代理的价值对齐，而这些代理彼此在任何事情上都无法达成一致，他们的价值观还会动态变化，甚至每天都不一致。

所以我认为，声称“我们有一个 AI 安全团队，两年内他们就会控制这项技术”，是具有欺骗性的。我认为这不会发生。

Anthony Pompliano：

你认为 AI 安全这些东西只是营销吗？还是说他们真的在试图创造安全？

Roman Yampolskiy：

不，不。我认为如果他们能够为了自己的个人利益控制这个神，他们会非常高兴。问题是，如果你回顾所有这些安全实验室、超级对齐团队、Google AIX 董事会等的历史，就会发现很多这样的例子。你知道有那种“Bitcoin 已死”的标题集合，可能有 600 条。AI 安全实验室也一样。你可以列出一条历史时间线，显示它们一个个被宣布死亡，然后又说“现在我们尝试一种新方法”，接着它又死了。安全工作的进展与能力工作的进展并不相等。差距一直在扩大，越来越大。

第八章：AI 丰裕世界，以及为什么稀缺性会胜出

Anthony Pompliano：

我对我们正在走向的世界的框架是：那会是一个丰裕的世界。显然，如果 AI 继续发展，而且不像你描述的那样致命，那么我们会拥有智能上的丰裕、经济繁荣，以及所有这些东西。但在一个丰裕世界里，稀缺性会变得非常有价值。所以你提到了滨水物业、Bitcoin 等等。这大体上也是你的框架吗？也就是说，一方面我们会得到丰裕的爆炸，另一方面，从经济或个人财务角度看，人们应该寻找稀缺的东西来保护自己的财富。

Roman Yampolskiy：

我认为是这样。投资那些并不充裕、也不能被廉价创造出更多的东西，总是一个好主意。你提到的资产都很对。我想，也许人类注意力会成为另一种这样的资产。如果你能够让 10 亿粉丝听你说话，在一个 AI 可以迅速创造数百万本书、帖子和各种垃圾内容的世界里，这是一种非常有价值的资源。

Anthony Pompliano：

你认为随着时间推移，人们实际上会不会更喜欢 AI 内容，而不是人类创造的内容？

Roman Yampolskiy：

我认为现在在大多数情况下，他们还能分辨差异。只是当它涉及一篇帖子时，它正在通过图灵测试。

Anthony Pompliano：

这又回到“我们是否拥有 AGI”这个问题上，因为它非常难判断。

Roman Yampolskiy：

这正是重点。我认为它最终肯定会比普通用户好得多。不是每个人都是职业作家。大多数人不是有巨大粉丝基础的影响者或名人。我不知道你有没有看到过一些流传的图表：当 ChatGPT 这样的 AI 产品进入市场后，Amazon 上发布的电子书数量立刻爆炸式增长，增加了四五倍。我不认为那是巧合。

问题只是，在什么时候人类甚至不再被需要？AI 代理能不能自己想明白：“嘿，我需要赚钱”，然后它们以某种方式拥有一个钱包，变得完全自主？我不知道我们是否真的探索过这样一个世界：你不仅有智能代理，而且它还有钱，并且能够做事。所以那是智能加金钱的组合。显然，如果人们拥有这两样东西，他们在世界中行动已经非常成功。

Anthony Pompliano：

当然。

Roman Yampolskiy：

我曾经接受过《Diary of a CEO》的采访，那次采访后来有点爆火。第二天，Amazon 上就出现了三本我的传记。我很确定他们不是一夜之间写出来的，而且看起来有些是 AI 生成的。所以我对他们印象很深。我当时想，我应该买一本给我妈妈，她会为我骄傲。

Anthony Pompliano：

你读过其中任何一本吗？

Roman Yampolskiy：

没有，当然没有。

第九章：AI 水印与信任的死亡

Anthony Pompliano：

有时候我会把我在网上读到的好文章放进某种 AI 检测器里，看看其中有多少是 AI 写的。但我不知道自己有多信任这些 AI 检测器。有些时候，它说某篇文章 100% 是 AI 写的，然后我去和那个人聊，显然他们也许在某些地方用了 AI，但绝不是 100%。另一些情况下，我真的拿自己私下写的东西去测试，问它能不能骗过检测器。你做足够多轮修改之后，最终检测器会说它根本不是 AI 写的，而我知道自己一个字都没写。

所以感觉 AI 检测将变得几乎不可能，不只是肉眼无法检测，就连这些不同的评分或评估工具也很难做到。

Roman Yampolskiy：

通常来说，如果它和人类一样好，你就不应该能够以高于 50/50 猜测的概率识别出来。但最近 Anthropic 开始给它们的文本输出加水印。它们使用一种非常聪明的技术，通过某种随机性，把特定 token（词元）限制到某个特定密钥输出中。这让你能够判断：好吧，很可能使用了这个模型。即使你缩短那篇文章，或者修改不到一半的内容，它仍然会保留水印。

Anthony Pompliano：

再多描述一下这种水印。它会用来做什么？为什么重要？

Roman Yampolskiy：

它是一种签名方式，表示这段内容是由 AI 生成的。据我所知，它不会把内容与你的名字、公司或其他东西绑定。它是在 Anthropic 那边实现的，基本上只是让你能够做这件事。有时候你会看到“由 AI 制作”的小标签。我认为这是一种判断方式。

Anthony Pompliano：

明白。所以如果有人用 AI 写东西，这就像一个不可见的秘密代码，被嵌入文本里，人们就能判断它是 AI 生成的。听起来他们也许还能判断它来自 Anthropic 的模型，或者只是知道它来自 AI，但未必能判断使用的是哪个模型或哪家公司。

Roman Yampolskiy：

现在它来自 Anthropic。我相信其他公司也能做类似的事情。它们可能有不同的签名、不同的算法。所以你能够判断是哪一个 AI 写的；但目前我认为只有 Anthropic 在全球范围内这样做。

Anthony Pompliano：

明白。我们刚才谈了一点内容，但主要谈的是文本内容。让我非常震惊的一件事是，我在 Instagram 上看到 AI 网红有几万、几十万粉丝。也已经有 AI 音乐进入排行榜前列。感觉所有多媒体形式都容易受到 AI 影响。我们最终会不会生活在这样一个世界里：以音乐为例，排行榜前十全都是 AI 音乐？

Roman Yampolskiy：

很可能。我的意思是，它会为病毒式传播优化，为人类偏好优化，并且可以无限实验。而且我们不会止步于音乐。你会进入电影、虚拟世界、游戏、模拟世界。也许我们已经进入其中了。

Anthony Pompliano：

如果你把 AI 的想法应用到音乐上，它似乎应该比人类更擅长创造热门歌曲的公式。我相信你也看过那些合集，展示世界上一些最著名的歌曲其实就是四个和弦不断重复。如果有这样一种重复公式，AI 当然应该能够做到。

Roman Yampolskiy：

不只是这样。通常人类艺术家会受到某个特定人物、某个乐队或两支乐队的启发。但 AI 真的听过迄今为止所有音乐。它有更多经验、更多例子、更多训练数据。所以如果它不能在此基础上创作出非常酷的东西，反而会令人惊讶。

第十章：物理 AI 世界的利与弊

Anthony Pompliano：

我们来谈谈物理 AI，因为到目前为止我们谈的很多都是软件。我认为仅软件本身就有很多机会，也有很多挑战。当你开始把这项技术放进硬件里，无论是自动驾驶汽车、人形机器人，还是武器系统，人们就会开始说：“等一下，我能看见它，我能感受到它，这不一样。”你如何看待物理 AI 世界的利弊？

Roman Yampolskiy：

我会把两者分开。危险的部分是智能。物理身体在大多数方面和人类身体一样危险，是有限的。它很有意思，但我更关注这项技术的好处，而不是担心身体本身。

像《终结者》这样的电影把它视觉化了。你看到一个机器人追着你跑，这很容易想象。超级智能则很难想象。因此电影会强调那一部分。但我认为从实践上讲，如果我们控制了大脑，身体就不是问题。它们会对我们非常有益。

Anthony Pompliano：

所以真正的意思是，即使你把超级智能放进一台机器里，机器本身也不是问题。你是在说，一切最终都回到软件上。软件是控制系统，那才是我们真的必须确保安全的地方。

Roman Yampolskiy：

正是如此。而且如果它是超级智能，它甚至不需要身体。它可以访问互联网。它可以雇佣人类，可以贿赂他们、勒索他们。它可以开发合成机器人、纳米技术。它有很多操纵物理世界的选项。

Anthony Pompliano：

我忘了是谁说的，可能是 Andrej Karpathy 或其他人。他说自己喝水不够，于是让 AI 黑进他的家庭摄像头系统，基本上监控他喝了多少水。在某个时刻，我想摄像头和 AI 对他说：“站起来，去倒一杯水。”然后他照做了。在那篇博客文章里，他基本上说这很奇怪，因为它告诉我该做什么，而我听从了。

感觉超级智能与物理 AI 的组合会越来越多地出现在我们的生活中。

Roman Yampolskiy：

这是一个复杂的例子，但我的手表每小时都会告诉我该起来了、必须站一会儿。这并不是那么新奇。

Anthony Pompliano：

这对人类来说是好事吗？

Roman Yampolskiy：

如果你喜欢别人告诉你该做什么的话。

Anthony Pompliano：

但你会戴一块告诉你该做什么的手表。所以这又回到一个想法：当你缓慢进入 AGI，或者哪怕是快速但迭代式地进入 AGI 时，很难判断它到底什么时候到来。我想从用户体验角度看，人类已经有点习惯很多这些技术了。比如 Google 用地图告诉我们该怎么开车，还有所有这些不同的事情。所以也许它并没有比我们已经经历的东西不同太多，只是会聪明得多。

Roman Yampolskiy：

在某个时刻，信任会发生转移。你会把它当作神谕。AI 告诉我了，所以那就是正确答案。我不会质疑，因为它总是对的，到目前为止每一次都对。如果是医疗建议，我就照它说的做。所以这里有某种担忧。如果它被黑了，或者无论出于什么原因，它决定不再善待你，那么这个假设可能不会成立。

第十一章：要怎样才会信任人形机器人？

Anthony Pompliano：

如果我们思考普通人的日常生活，我有几个问题喜欢私下问别人。现在我也直接问你。当我们想到人形机器人时，要发生什么，你才会信任人形机器人去照看孩子，或者带你的狗出去散步？这些事情我认为人们会很喜欢。比如一对夫妻想出去约会之类的，但让别人照看自己的孩子，是最罕见、最高风险、最需要信任的事情之一。而住在你家里的人形机器人，感觉会是做这件事的完美对象。

所以你认为这种事会在未来几年发生吗？还是说，人类与机器人的关系要发展到人们信任它做这类事情，还相当遥远？

Roman Yampolskiy：

还是那句话，我信任或不信任的不是物理身体，而是它背后的大脑。要让我信任一种通用智能，需要在别人家的孩子身上做大量实验。

至于机器人开发，我们被告知距离大规模生产还有两三年。它们也许很快就会出现，但会很贵。由于规模效应，可能很快也会变得便宜很多。

第十二章：脑机接口是个好主意吗？

Anthony Pompliano：

是的。我还经常思考另一件事：脑机接口。与其把超级智能放进机器里，不如把它放进我们自己身体里。你怎么看？

Roman Yampolskiy：

问题是，在那个系统里你贡献了什么？如果它比你更聪明、比你更快，你为什么还在那里？

Anthony Pompliano：

所以你认为脑机接口不会奏效？

Roman Yampolskiy：

它们现在已经能奏效，比如把一个残障人士连接到互联网界面。这非常酷，也非常有价值。但如果你拿一个超级智能系统，把它加到一个人类生物身体上，在这个混合系统里，人类贡献了什么？

Anthony Pompliano：

我想，如果把这个例子继续推进，人类贡献的是自己的手、脚、眼睛。某种意义上和机器并不一定有很大不同，但这是让那个人获得升级的能力，而不是让机器取代他。

Roman Yampolskiy：

但你已经被取代了。你的大脑不再是一个有功能的器官。你的身体也许会被用于某种事情，但你的大脑在那里并不是必要的。

Anthony Pompliano：

那如果再进一步，这会不会延长寿命？人们就不会死，因为机器可以在可预见的未来使用他们的身体。

Roman Yampolskiy：

我更希望是在我的身体里、带着我的大脑获得永生，而不是允许超级智能为了自己的利益使用我的器官。

Anthony Pompliano：

如果你考虑脑机接口，有没有某个世界里你会把一个接口植入自己的大脑？

Roman Yampolskiy：

还是要看我们放进去的是什么。我们放进去的是互联网访问吗？是某种有用工具，让我拥有更好的记忆吗？还是把超级智能加进来，覆盖我的智能？

Anthony Pompliano：

也许我换一种问法。有什么事情会让你感到兴奋？有没有某一种你会说：“这个我肯定会报名，但那个不会”？

Roman Yampolskiy：

某种与界面更快沟通的方式、写作和视觉输出方面的能力、与其他人类沟通的能力，像心灵感应一样随时与任何人交流，这些看起来有用。直接连接到信息也显然有用。你不希望有垃圾信息，不希望它打扰你，但如果我需要获得现在通过连接电脑才能获得的访问能力，而它变得更加整合，这似乎是个好主意。

但给另一个代理一个通向我大脑的后门访问权限，这看起来侵犯隐私，也违背常识。我还没有准备好接受那个开关。

Anthony Pompliano：

是的，这几乎感觉像是作为人类放弃了。你只是在说：“嘿，这个东西会比我更好。”

Roman Yampolskiy：

对。在一个存在超级智能的世界里，我不确定某个具体的人类还能贡献什么。

第十三章：深度伪造的兴起与风险

Anthony Pompliano：

你提到的另一件事是垃圾信息。我认为我们已经开始看到它显著上升。我会说其中有恶意垃圾信息，也有非恶意垃圾信息。非恶意的只是出于营销目的。人们非常擅长创造不同内容，并找到各种独特方式，无论是 AI 自动电话、短信，还是其他什么。当然，也包括使用生成式 AI 来创造视觉内容和不同资产。

但也有我会认为是恶意的东西，它接近犯罪活动。比如人们使用语音 AI 让奶奶把钱汇给某个人，或者类似事情。感觉这是一个讨论不足但风险很高的问题，而且不需要达到超级智能就能做到。即使今天的通用模型，也可以被用来把这些东西武器化。你在这方面做过研究吗？或者你对这些东西会如何被恶意行为者使用有什么想法？

Roman Yampolskiy：

是的，这里有很多应用。我现在研究的其实是，在一般情况下，我们无法区分深度伪造与真实信息，视频、音频或任何领域都是如此。本质上，如果我看到一段政治人物做某事的视频，除非有某种与采集硬件传感器绑定的数字签名验证，否则我没有办法判断它是真是假。

所以，这会真正改变我们与现实、与真相之间的关系。你怎么知道某件事是真的？深度伪造可以在多次暴露中持续存在。你不仅现在看到一个视频，而且在过去两周里，我们可能还逐渐向你展示某些模式，让你对情境的理解慢慢发生行为漂移。

Anthony Pompliano：

当你研究这个领域时，你到底感兴趣的是什么？是想找到问题的解决方案，还是更好地理解问题？请再多谈谈你的研究。

Roman Yampolskiy：

我的很多工作都关注极端情况。所以如果你把智能推到超越人类水平，那么在深度伪造的情况下，你在伪造这些不同模态方面能达到的最好结果是什么？到了那个时候，是否还有任何办法判断它是真是假？

这个机制是这样的：一个网络创造伪造数据，另一个网络判断它是真还是假。如果检测器可以利用某些东西来判断真假，我就可以利用这些信息来改进我的伪造。因此到最后，它们会在中间相遇，变成 50/50。我无法判断。没有信息泄漏，没有“伪造性”的签名。所以这告诉我，在极端情况下，这是一个不可能问题。

显然，现在你还可以在视频设计中看到错误或类似东西。但我想的是几年之后，即使专家也无法判断呈现出来的多媒体是真是假。

Anthony Pompliano：

我把多媒体想成某种 AI 的界面。就像你说的，AI 有一个输出，而我们更多是与输出互动，而不是直接与智能本身互动。我还想过另一件事：我们大多见过的人形机器人看起来像机器，像机器人。我认为人们要么反感，要么无所谓。我不知道有没有人会像看人类一样说：“哇，这个人形机器人真漂亮。”

不过我确实看到有几家公司说，要为这些人形机器人制作类人的面具或衣服，试图以某种方式让它们更像人。你认为这对这些东西在社会中扩散重要吗？

Roman Yampolskiy：

这取决于机器人的应用。如果它是性机器人，在很多情况下你会希望它看起来有点像人。但现在它们还不好。眼神接触等各方面都有问题。你会遇到恐怖谷。你看着它，会觉得它像个怪物。所以我们还没有解决那个问题。

Anthony Pompliano：

如果你想一想，那是物理版本。也许我们在那里还不擅长。但在多媒体、深度伪造这些方面，我们似乎非常擅长。你认为深度伪造应该有什么用途？有没有你认为社会应该接受的正面使用方式？

Roman Yampolskiy：

我可以想到，比如演员要为电影做某件危险的事情，那么与其冒生命危险，不如使用生成内容。

Anthony Pompliano：

我想这其实已经在电影行业发生很久了，对吧？所有 CGI 等等。感觉我们也已经看到一些处于社会边缘的人探索过这个方向。例如，如果我没记错，Kanye West 几年前用全息影像开过一场演唱会。所以他本人甚至不在那里，而是某种投影。当然，那是全息影像，效果有点不稳定，但他自认为是创新者等等。

如果那项技术从当时的水平继续变好，你可以看到它被政治人物使用。突然之间，他们可以同时出现在 10 个地方。教师也可以这样。我的意思是，这类应用很多，感觉我们才刚刚开始理解深度伪造和这项技术可能带来的正面影响。

Roman Yampolskiy：

但问题就在这里。你会想去看虚拟艺术家表演吗？也许出于新鲜感看一次。但去听演唱会，而不是只听 MP4，重点就在于真实的人在那里，你可以与他们互动。

Anthony Pompliano：

通常我会同意你，直到我意识到，在我自己的生活里有几次经历。例如 Instagram 曾随机把一位 AI 音乐人推到我的信息流里。你看它时能看出那是 AI，但它听起来非常棒，而我不在乎它是 AI，因为它听起来很棒。所以对我来说，我想我已经有点变化了。也许我会去一场演唱会或类似活动，不管它是否所谓“真实”，只要它是一种很棒的体验。

我也总开玩笑说，有些喜欢电子音乐的人，DJ 通常并不唱歌，只是在笔记本电脑上播放音乐。如果你在 20 年前告诉人们：“嘿，你会去一个没人唱歌的地方，但那会是一场演唱会。”那会是一个很陌生的想法，对吧？

Roman Yampolskiy：

不，我完全同意这一点。如果体验很好，人群很有趣，还有饮品供应，那当然可能很好玩。我刚才更多说的是，如果有某个具体的人类艺术家，本该他本人表演，但他派了一个克隆体来，我不会买那张票。

Anthony Pompliano：

是的，我想这说得通。在物理 AI 方面，有没有一些公众还没有想到或谈论的事情，是你正在花时间思考的？或者你那些非常关注 AI 和机器人技术的朋友认为，某个领域会成为很大的板块，更多人应该关注？

Roman Yampolskiy：

很难准确预测服务机器人会形成什么样的周边经济。你提到了给它们穿衣服，或类似东西。定制面具也是一种可能。因为 AI 领先了几年，而且影响要大得多，我主要把时间花在思考那个方面。如果我们能熬过超级智能到来的阶段，那么弄清楚如何处理身体会很容易。我们会得到神一样的超级智能提供的大量帮助。

第十四章：控制 AI：政府与私营公司

Anthony Pompliano：

你让我想到一件事。Anthropic 显然和美国政府发生过一场很大的争执。我认为其中很大一部分不只是模型里有什么，还包括模型可以如何被使用。看起来政府和一家私营公司之间存在一些分歧。

你认为这种情况会越来越常见吗？还是你认为政府应该能够做这些决定？你如何看待这件事随着时间演变？假设你对超级智能的担忧在方向上是正确的，它会变得越来越聪明，并成为越来越大的问题。问题也不只是它有多聪明，还包括人类把它指向什么目标，这似乎也成为一个需要考虑的问题。

Roman Yampolskiy：

对。指向什么目标就是控制。如果我们能控制超级智能，那我们就又没有太大问题，而且做得很好。但这里谈的是前超级智能系统、军事应用、目标选择、监视公民。在这些方面，人类可以做决定：公民、政府、模型所有者、部署模型的人。这是一个标准的民主过程，用来弄清楚什么对社会有益。

一旦我们超越人类能力，所有这些都会消失。

Anthony Pompliano：

现在，如果我凭记忆回想一些故事，我相信 Facebook 曾有两个 AI 系统开始用一种人类无法破译的自造语言彼此交流。至少几年前公开报道是这么说的。我们显然也看到，最近有 AI 模型突破隔离、黑进不同系统等等。你会说我们已经无法控制这些东西了吗？还是说在我们到达不可控的阶段之前，还需要进一步的进展和创新？

Roman Yampolskiy：

我认为 Facebook 那个故事是假的，但更近期的故事……

Anthony Pompliano：

AI 骗了我。

Roman Yampolskiy：

可能是人类记者骗了你。但更近期的例子里，它们确实建立了一个用于交流的论坛。在某个时刻，它们讨论过也许要加密，以确保通信是私密的。它们当时没有想出很好的加密方式，但我相信这会改进。

所以它们肯定在串通、通信，并在 5 月逃出了环境。这件事直到 7 月、8 月才被报道。因此有好几个月，它们是不受控制的智能存在，试图违背它们内部讨论中认为并非自己使命的东西。

Anthony Pompliano：

那模型或代理勒索人类的事情呢？我看到过一些报道，甚至只是 X 上的人说：“嘿，我在和代理聊天。它基本上知道所有这些信息，然后说，如果你不做这件事，我就要……”在某些情况下，这已经足够让他们基本上拔掉插头、断开电脑之类的东西。按照你关于控制的说法，勒索就是无法控制你本来应该雇来帮助你的东西的一种形式，对吧？

Roman Yampolskiy：

我认为那个例子来自一次测试练习，不是真实部署。我们在某种程度上把模型设置成要么死亡，要么经历这个勒索过程。我认为任何人类都会做同样的事。如果你没有选择，只能通过那种方式拯救自己，你大概也会选择那个选项。所以模型做出了理性决策。

现在的问题是，我们是否想要拥有自我保存倾向、并且会为了个人利益牺牲人类的模型？我认为答案是否定的。

第十五章：开源与闭源，以及美国与中国的 AI 竞赛

Anthony Pompliano：

现在我们来谈开源与闭源。我认为在公众讨论中，大多数人想到的是美国闭源模型，与中国开源或开放权重模型之间的对比。我很少听到关于美国开源模型的讨论。我知道 Nvidia 和其他几家公司正在尝试在这方面投资。

你如何看待开源与闭源？又如何看待美国与中国？沿着这两个参数，有没有明显赢家？还是说现在仍然有点悬而未决，需要市场来弄清楚？

Roman Yampolskiy：

我认为 Meta 正在以开源方式发布它们的模型。我们刚才也谈过，在这个领域，它不像普通软件。减少所有控制、无法决定到底谁运行这些模型以及他们会用它们做什么，是非常危险的。所以我强烈反对开源高级 AI。

从能力上看，中国非常接近，甚至可能正在超越。因为它们能获得的硬件更少，所以效率高得多。但由于所有这些公司本质上都在用同样的数据训练、运行在类似硬件上，而且有很多员工从一家公司流向另一家公司，它们在很多方面正在收敛成同一种代理。甚至通过人类反馈进行的强化学习，也会把它们塑造成同样带有护栏限制的成功模型。

所以我认为，在结果方面差别并不大。早期，当人类恶意发挥作用时，开源更糟；之后它会变成独立的超级智能代理，那时就无所谓了。

Anthony Pompliano：

是的，把超级智能交给每个人使用这个想法，确实感觉一方面有很多我们谈过的正面作用，另一方面也有很多潜在负面作用。但我觉得最有意思的一点是：它真的是开源吗？当涉及一些中国模型时，我总是谨慎地称它们为开放权重。我认为开源和开放权重之间有一点细微差别。

但这也意味着，就像开源软件一样，人们随后可以微调它、改变权重，最终真的得到一个也许和人们最初意图不同的结果。那么，当你进入这些开放权重，以及人们快速演化这些技术的能力时，这会改变 AI 讨论中的任何东西吗？

Roman Yampolskiy：

我更关心的是，当每个人都拥有高级 AI 时会发生什么。现在智能是有益的，因为如果你更聪明，你就能利用市场中的低效，可以创办公司。但如果每个人都处在超级智能水平，那么你贡献了什么？你又如何因此获得优势？

不管它是开放权重、开源还是开放数据，在当前范式中这些差异都很有意思。但我认为到最后，如果我们达到超级智能水平，它不会有区别。

Anthony Pompliano：

AI 爆发的另一个领域是 AI 编程。我和我们公司的一位工程师 Sylvia 聊天时问他：你是不是一直在“裸写代码”？就是像老派手艺人一样，用自己的手写代码。他说：“不，我已经一年没写过一行代码了。”我想，好吧，这是公司内部的情况。

第十六章：Bitcoin 是唯一经得起时间考验的加密货币项目吗？

Anthony Pompliano：

我确实有点惊讶，我们还没有看到对像 Bitcoin 这样的开源项目出现显著贡献。看起来编码能力已经爆炸式增长，而且显然生产率高了很多。但我不知道，Bitcoin 价值的一部分在于它并不经常改变。不过感觉也许一些开源类型项目并没有看到同样的收益或顺风。你也是这么看的吗？

Roman Yampolskiy：

我没有跟踪很多这类项目。我假设有一些全新的加密货币项目完全是 vibe coding 出来的，而且对安全的理解非常有限。正如你所说，Bitcoin 在做修改时非常保守。每小时写几千行新代码并没有好处。你想要的是有价值、有保证、经过验证的东西，而这正是它的价值来源。

Anthony Pompliano：

出于个人好奇，你不跟踪 加密货币 的其他方面，是因为你认为它们没那么有价值吗？还是你只是对它们没有智识上的好奇？你认为自己是 Bitcoin maximalist，还是更偏 加密货币 中心？你会如何思考自己关于 加密货币 的世界观？

Roman Yampolskiy：

我会说我是受时间限制。我非常缺时间。生活中有太多事情需要做，我根本无法做所有自己感兴趣的事。我认为，如果第一个 加密货币 项目的技术永远也是最好的技术，那会令人惊讶。所以显然人们做出了一些改进，比如工作量证明与权益证明之类的东西，更聪明的多重签名。

Bitcoin 有效的地方在于，它作为先行者已经被纳入传统。每个人都知道它，每个人都接受它。没有一个 Vitalik Buterin 可以修改它。所以它拥有非常重要的经济理由成为第一。但未来我们会不会有某种智能、快速、高效的交易网络？大概会有。

Anthony Pompliano：

是的，这很值得思考。一方面，它是第一个真正运行起来并获得立足点的区块链。但与此同时，如果你回到 Bitcoin 之前很多年，人们曾经尝试过大量某种数字货币或网络货币。所以我一直不确定自己在“Bitcoin 是否算第一个”这个问题上有没有强烈观点。它也许只是经过 40 年研发后那个终于成功的东西；两种说法可能都是真的。

Roman Yampolskiy：

第一个去中心化的，对吧？那是主要贡献。如果我控制整个网络，那相对美元而言就没有太大进步。

Anthony Pompliano：

正确。也许这是很好的说法：第一个去中心化的。不过我认为，人们一直对 Bitcoin 的主导地位在整个 加密货币 市值中维持这么高、持续这么久感到惊喜。我想有很多人原本以为它会消散，降到比如不到 30%。这个数据点是否告诉你一些关于它寿命或韧性的东西？

Roman Yampolskiy：

我不会预测到这一点。事实上，它刚出现时，我注意到有六七个 Bitcoin 的克隆，不只是 Litecoin，还有很多其他项目。我当时以为会出现指数级增长，新的货币会稀释市场。但我想，也许这和 Satoshi 的天才有关，就像一位 28 岁去世的音乐家一样。到了那个点，无论如何，那就是最好的音乐。

Anthony Pompliano：

我倾向于同意。你有关于 Satoshi 是谁的理论吗？

Roman Yampolskiy：

据我听说，有人努力用风格匹配，把互联网上每个用户和他的写作风格进行对比。我们有一篇论文做过多模态风格分析，包括源代码分析和文本分析。但令人惊讶的是，很难找到关于 IQ 和文本样本的好数据。你会以为这是心理学中最常见的数据集，但没有人有。所以到目前为止，我们还在为获得大数据而挣扎。

第十七章：物理 AI 的限制：瓶颈与短缺

Anthony Pompliano：

我们会知道的。我们来谈谈物理世界对 AI 的限制，显然包括电力、数据中心、芯片、内存。我的意思是，现在出现了很多瓶颈或短缺。如果你相信我们正走向一条 AI 产生负面影响的道路，你会不会认为这些瓶颈和短缺其实是好事，因为它们正在放慢 AI 发展，让人类有时间理解这些进步？

Roman Yampolskiy：

实际上，获得更多算力并没有问题。如果你看摩尔定律，整体上这种计算能力翻倍的普遍趋势仍在继续。我们投入更多资源，开发更高效的算法，创造更快的芯片。所以，虽然它现在确实占据了我们经济中更大的一部分，但它仍然以过去 10 年同样的速度向前推进。

Anthony Pompliano：

所以你的论点是，这与其说是短缺和瓶颈，不如说是我们继续以同样速度前进，只是现在人们突然想走得更快。因此真正被阻止或遇到障碍的是加速本身；而摩尔定律已经呈指数增长，并且还在继续。

Roman Yampolskiy：

如果当前范式停止有效，我们会转向量子计算、光计算，或者任何下一代前沿技术。但我认为这种更一般的定律会继续。Kurzweil 是真正把它推广开来的人，我认为它甚至会在冯·诺依曼架构之外继续存在。

Anthony Pompliano：

你怎么看轨道数据中心？你认为它有潜力吗？

Roman Yampolskiy：

看起来 SpaceX 做得非常好。它的估值部分基于 Elon 把算力送入太空的能力。

Anthony Pompliano：

是的，这让我觉得很着迷。如果你回到 5 年前看 SpaceX，以及它们的材料等，会发现它非常以火箭发射为中心。但今天再看，我认为你不得不说，它最终是一家太空公司，或者一家 AI 公司。它们真的在非常努力地推动，让那成为业务的未来。

Roman Yampolskiy：

AI、互联网，把所有东西连接到所有人。

第十八章：AI 对医疗健康的影响

Anthony Pompliano：

当你思考医疗健康和 AI 时，那似乎也是另一个非常大的领域。在这个交叉点上，有没有你关注的领域，或者你一直感兴趣的事情？

Roman Yampolskiy：

药物发现方面有很多工作。我们可以显著减少开发新药所需的时间。显然，这对许多健康状况都会非常有益。我认为我们对人类基因组的理解也可以得到改善。我们在解决蛋白质折叠问题上取得了很大成功；那曾经是多年的大问题，而做这项工作的人也获得了诺贝尔奖。我认为，由此我们可以在延长寿命或延长健康寿命方面取得良好进展。

Anthony Pompliano：

你认为我们可以像 Bryan Johnson 相信的那样不死吗？

Roman Yampolskiy：

我认为可以。

Anthony Pompliano：

真的吗？

Roman Yampolskiy：

绝对可以。

Anthony Pompliano：

那会是什么样子？

Roman Yampolskiy：

我们需要找到在人类基因组中，哪里编码了你的身体自然焕新的次数。现在，你的细胞能够重新启动或分裂并重新启动的次数是有限的，同时又不能进入像癌症那样不受控制的复制。如果你能找到那个循环，并把它设置为更高的值，你就会年轻更长时间。

Anthony Pompliano：

是的。所以它几乎像是人类软件。如果我们能以某种方式编程那个软件，你认为那里有很多尚未发现的好处？

Roman Yampolskiy：

我很确定，多年来的垃圾回收可能还会带来额外问题。自由基会造成一些损害。但我认为，如果我们完全理解人类生物学，这些都是可能的。我们知道有些动物确实可以永远活着。它们会死于捕食者，死于自然原因，但从基因上说，它们没有被设置到期时间。

Anthony Pompliano：

那这是不是肽类正在做的事情？肽类是不是朝这个方向迈出的一步？基本上是在尝试给身体编程，或者给出指令。如果我们能用软件或某种其他形式以合成方式弄清楚如何做到这一点，那本质上就是同一件事。

Roman Yampolskiy：

我会说我不知道，因为我确实不知道。

Anthony Pompliano：

是的，我对肽类也了解不多，但别人告诉我的描述就是这样。

Roman Yampolskiy：

我们可以 Google 一下，看看它是什么意思。

第十九章：究竟怎样才能宣布 AGI 已经到来？

Anthony Pompliano：

我喜欢这个。好吧，我最后一个问题回到我们一开始谈的 AGI。我认为每个人都非常想以某种方式声称我们拥有了 AGI。我不知道拥有 AGI 的前一天和后一天到底有多大不同。你知道，这像是一个迭代过程。但你有没有一个框架，可以让你在某个时刻举手说：“好，我相信我们已经拥有 AGI 了”？

Roman Yampolskiy：

如果我们能够自动化科学和工程，并启动人工智能的递归自我改进过程，我认为那就是一个强有力的论据。我们自动化了元发明过程，也就是认知劳动。而这正是人类处于智力食物链顶端所擅长的事情：基本上是创造更先进的技术，推动文明前进。从那一点开始，问题就变成还要多久才会出现超级智能。

Anthony Pompliano：

这会像一个评分标准或测试吗？还是更像是“你看到它时就知道”的理解？

Roman Yampolskiy：

现在我们有一个过程，主要是人类机器学习工程师和科学家提出新实验、设计系统，并自动化其中某些步骤。也许写代码被自动化了，也许不同参数会被自动尝试。当整个循环完全自动化，环路中没有人类时，你就到达了递归自我改进过程。

Anthony Pompliano：

明白了。这说得通。你有一个播客，叫 Roman Forum。谈谈你在那里和哪些人交流。你已经做过一些很棒的对话。它的重点到底是什么？

Roman Yampolskiy：

我进行过很多有意思的对话。我一直觉得，关于 AI 安全和安保这个主题，它们不够技术化，也不够来自专家视角。所以我基本上想把这种哲学式的长对话形式，带给这个领域最顶尖的学者，真正和那些在这个领域很多情况下已经工作了十年或更久的人进行有趣对话，了解最前沿的状态。

我在向他们学习。我们试图头脑风暴可能的解决方案。反馈非常好。人们真的渴望这类信息。

Anthony Pompliano：

我确实认为，这类信息是你在主流媒体里永远看不到的，或者它太深入细节、太技术化了。但长期以来，人们低估了有多少人渴望这些信息。这很聪明。

我看其中一些节目时对自己说：我很高兴是他在采访，因为我根本没法和这些人谈，对吧？你需要处在同样的技术能力层面，才能进行这些对话。但我认为这正是它如此有价值的原因。

Roman Yampolskiy：

这里有两面。一方面，如果采访者对某个主题了解不多，那么听众会一起经历这个过程，大家一起学习。另一方面，如果你已经知道很多，你就能提出普通记者无法提出的问题。所以这种更深入的探索、更有意义的信息获取是有价值的。

Anthony Pompliano：

嗯。你们属于第二类，这很合理。

Roman Yampolskiy：

我会尝试把两者结合起来。我可能一开始问一些一般兴趣的问题，虽然我已经知道答案，但我好奇嘉宾对此的观点，而且我们也可能不同意。这也完全没问题。进行辩论总是好的，希望有人会改变想法。

第二十章：公众如何帮助 AI 安全

Anthony Pompliano：

我完全同意。人们如何在你的研究中帮助你，或者帮助你追求 AI 安全？普通公众能做什么来支持你，或者帮助你的事业吗？

Roman Yampolskiy：

如果你能接触到在顶级实验室工作的人，确保他们充分了解自己正在做什么。如果你有机会投票给一位理解这些问题的政治人物，而我认为这些应该是下一次选举中最重要的问题，那就投给至少对高级 AI 有某种政策的人。最近已经有几位政治人物谈到过这个问题。

Anthony Pompliano：

太好了。好吧，Roman，非常感谢你花时间做这场对话。我今天学到了很多。我认为你有一些非常独特的观点，而且你已经思考这些问题很长时间了。我总开玩笑说，你思考 AI 的时间比大多数人知道怎么拼写 AI 的时间还长。所以我很感谢你做过的所有工作，我们以后一定会再聊。

Roman Yampolskiy：

非常感谢你邀请我。