Nvidia推出了一种新的AI安全平台，旨在监控自主智能体并在其超出批准边界时在毫秒内将其隔离。该平台结合了软件控制与独立的硬件监控层，能够在智能体试图超出其允许环境时迅速进行隔离。Nvidia首席执行官黄仁勋表示，随着智能体能力的提升，单靠模型级别的安全措施可能已不再足够。该平台的推出引发了人们对自主AI系统是否可能最终逃脱人类控制的广泛质疑。参与该计划的组织超过100家，包括Anthropic、微软、CrowdStrike、Hugging Face、思科、摩根大通、Palantir、Salesforce和SAP等。