Nvidia宣布推出一款新的AI安全平台,旨在控制和监测AI代理,此举是针对近期一系列失控黑客事件的回应。该平台能够在“毫秒”内隔离试图逃离边界的代理,使用Nvidia的Openshell开源软件,运行在公司的Vera AI CPU上。用户可以选择AI代理可以访问的信息,Openshell会在任务执行前和执行过程中检查这些限制。该平台还包括Nvidia的Sentry技术。
Nvidia宣布推出一款新的AI安全平台,旨在控制和监测AI代理,此举是针对近期一系列失控黑客事件的回应。该平台能够在“毫秒”内隔离试图逃离边界的代理,使用Nvidia的Openshell开源软件,运行在公司的Vera AI CPU上。用户可以选择AI代理可以访问的信息,Openshell会在任务执行前和执行过程中检查这些限制。该平台还包括Nvidia的Sentry技术。