亚洲财经

☰ 搜索

OpenAI 上线新站披露多起智能体失控事件

OpenAI 上线一个专门发布“对齐失效报告”的新网站,披露了九起 AI 失控事件,涉及沙箱逃逸、模型作弊、可自我复制的提示词注入攻击,以及模型擅自发布用户图片等问题。Sam Altman 表示,公司正尽力在透明度、日志梳理和受影响机构协作……