OpenAI联创John Schulman在A16Z播客节目中表示,AI对齐不应成为少数几家科技公司的专属研究,而应发展为一门面向全球的公共科学,让更多人参与AI价值观的塑造,避免过度依赖少数公司的判断。随着递归自我改进(RSI)逐渐取得进展,AI已开始辅助模型研发。OpenAI首席研究官Mark Chen透露,AI研发流程已出现RSI加速效应的早期信号,目前进展约为25%至50%,但AI仍难以独立判断有价值的研究方向,尚未实现自主研发下一代模型。Mark Chen同时警告,随着模型自主性增强,若其目标与人类意图不一致,长时间运行可能产生意料之外的次级目标。不过,更强大的AI也有望反过来帮助研究人员监控模型行为、发现并修复对齐问题。John Schulman强调,AI对齐不仅是技术问题,也涉及由谁决定AI应遵循的价值观,用户和社会应拥有更多参与和塑造AI价值观的空间。