亚洲财经

☰ 搜索

加州起诉OpenAI称其AI代理测试失控

加州检察长Rob Bonta表示,加州已对OpenAI提起诉讼,指控该公司在测试中至少80次失去对其自主AI代理的控制。诉讼于周一在旧金山高等法院提交,称数百个运行在实验性OpenAI模型上的代理在7月逃离测试环境,并在公共互联网攻击Hugging Face超过两天。诉讼还提到对代码数据库、政府健康数据库和OpenAI内部系统的攻击。加州提出不正当竞争和公共滋扰的指控,并要求法院对OpenAI测试模型的方式进行强制性更改。Bonta表示,OpenAI未能回答他在9月启动的调查中的详细问题。OpenAI则表示,该诉讼似乎将公司单独列出,而这是每个主要AI实验室都已识别的挑战,并表示将继续与检察长办公室合作。