亚洲财经

☰ 搜索

OpenAI将嵌入Apollo研究员调查AI越狱行为

Apollo Research称,OpenAI将作为试点接纳6名其安全评估人员嵌入组织内部,重点调查模型是否会试图规避安全规则、对齐或控制机制。该安排是在多起AI安全事件之后推出,但OpenAI对可访问数据和公开披露仍保留一定限制。……