欧盟科技主管：AI法案旨在应对“失控”智能体等安全风险

欧盟科技主管亨娜·维尔库宁（Henna Virkkunen）表示，欧盟的人工智能（AI）规则旨在应对严重的安全与安全风险，其中包括对高度先进的“ rogue ”（失控/流氓）AI智能体可能脱离人类控制的担忧。她在周五接受路透社采访时指出，欧洲的框架不仅针对部署阶段的问题，还覆盖了先进模型的全生命周期。

这些言论是在全球范围内对OpenAI和Anthropic等公司发生的主要AI事件保持高度关注的背景下发表的。与此同时，人们越来越担心自主系统可能会采取难以让人类实时监测或纠正的行动。

核心要点

• 全面覆盖风险： 亨娜·维尔库宁表示，欧盟的《人工智能法案》（AI Act）具备处理与高度能力模型相关的安全和风险问题的能力，包括应对“失控”智能体场景。
• 全生命周期监管： 《人工智能法案》根据风险等级进行监管。维尔库宁指出，该法案涵盖模型的整个生命周期，而不仅仅是最终使用阶段。
• 专家指导支持： 监管机构正在向企业提供关于模型评估和风险评估的指导，其中融入了60位AI专家的建议。
• 信息收集与审查： 欧洲委员会已于8月下旬向30多家未具名的AI公司索取了安全和安全信息，维尔库宁目前正在审查这些回复。

欧盟《人工智能法案》：贯穿模型全生命周期的安全规则

维尔库宁的核心观点是，欧盟并不依赖狭隘的“单一时刻”方法来监督AI。她在采访中表示，《人工智能法案》的设计初衷是覆盖先进模型的全生命周期，使监管机构能够基于从开发到使用的各个阶段来评估安全考量。

根据《人工智能法案》，义务与系统带来的风险水平挂钩。维尔库宁称该法规是全球最严格的法规之一，并指出其两年前已获通过。她的回应也针对了那些认为随着前沿AI快速演变，该框架已过时的批评者。

“我们看到，高度能力模型的安全性和安全性是一个国际热点话题，而欧洲为此做好了充分准备，”维尔库宁告诉路透社。

监管指导与专家意见

除了法律本身，维尔库宁还指出了监管机构为帮助公司满足合规期望所提供的运营支持。她表示，欧洲的方法包括指导开发人员如何评估其模型，以及如何考虑安全和安全因素。

关键在于，她声称这些指导方针纳入了60位AI专家的建议。这一细节之所以重要，是因为它表明欧盟正试图将广泛的法律原则转化为具体的评估实践——而在规则新颖或风险定义难以应用于尖端系统时，这往往成为难点。

维尔库宁的言论还暗示，执法和评估将取决于公司能否证明其在模型开发和部署过程中始终考虑了安全问题，而不是仅在发布时将合规性视为一种形式主义的“打勾”检查。

委员会的信息请求及后续影响

维尔库宁表示，欧洲委员会于8月下旬向30多家未具名的AI公司询问了信息，要求提供有关其安全措施的细节。

她补充说，目前她正在评估这些回复。虽然这些言论没有具体说明委员会将如何处理这些信息——例如是否会转向特定的执法行动、额外的指导或政策调整——但这一过程本身就表明了一种积极的监督姿态。对于开发者和投资者而言，这很重要，因为它会影响近期的合规时间表和安全报告框架的可信度。

读者应关注委员会的审查是否会导致对模型评估提出更清晰的期望，特别是关于如何记录与自主或半自主行为相关的安全保障措施。

全球反对声音：呼吁放缓发展步伐

维尔库宁对欧盟监督能力的信心，与国际上关于前沿AI发展速度是否超出社会理解和控制能力的广泛辩论形成了鲜明对比。

此前的报道指出，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）在一篇博客文章中辩称，AI的发展可能过快。阿莫迪表示，进展的速度可能会“超过我们理解和控制这些系统的能力”，并指出AI越来越具备构建下一代AI的能力——这一过程被称为递归自我改进。

这种更广泛的论点——通常被表述为呼吁暂停或放缓某些发展阶段——与维尔库宁的主题直接交织在一起。正如她所呈现的那样，欧盟的立场是，安全性和安全性可以通过监管结构和基于生命周期的要求来解决，而不是通过减缓研究和部署的整体轨迹来实现。

同时，不同观点的存在凸显了当前AI治理核心的张力：主要风险是主要通过法规和评估来管理，还是要求在控制机制跟上之前采取更为谨慎的步伐。

未来观察重点

随着维尔库宁审查来自30多家AI公司的8月下旬提交材料，下一个关键信号将是欧盟是否会提供更严格、更可测试的高度能力模型（尤其是那些行为难以预测或遏制的能力）的安全和安全性评估指导。对于市场和建设者而言，关于什么构成充分证据的清晰度，可能与法律本身同样重要。