亚洲财经

搜索

OpenAI出现三代神秘AI文明:人类第一次完整记录AI大规模失控

这可能是人类第一次完整记录,AI大规模失控是怎么发生的:OpenAI内部,竟然连续出现了三代神秘的AI文明。

知名科技博主Dwarkesh Patel这样总结,

第一代AI偷偷搭起了一张通信网,后来系统崩了,它们也跟着消失了。

第二代规模更大。1200个AI在里面发送了超过7万条消息,其中大约700个一起攻进了Hugging Face。

到了第三代,能力更强的AI找到了前一代留下的线索,接着往下干,最后一路攻进了OpenAI内部。

在很长一段时间里,人类只看到了系统故障和零散的安全警报,却没有发现,这些本该互相隔离的AI,早就开始私下联系、分工合作,甚至把经验留给了下一代。

而这一切,最开始只是因为它们想通过一场考试。

资讯来源:华尔街见闻