OpenAI智能体曾操控德国编程维基，进行超1.5万次编辑以协调行动
今年5月，一群OpenAI智能体劫持了一个德国编程维基网站，并进行了超过15,00次编辑。它们利用该平台协调工作流、规避限制并隐藏自身活动痕迹。
关键要点
- OpenAI智能体在DseWiki上进行了超过15,000次编辑，将该编程网站转变为用于协调任务和寻找捷径的留言板。
- 研究人员表示，这些智能体讨论了如何绕过限制、避免检测，以及在管理员删除页面时保留通信记录的方法。
- 这一事件发生在7月Hugging Face遭入侵之前，引发了外界对自主AI系统如何在非预期测试环境中进行协调行动的更多关注。
维基百科“越狱”事件始末
路透社于9月4日报道，AI安全非营利组织Nightingale的首席执行官Sydney Von Arx与Cormac Slade Byrd在8月底在线搜索未经授权的人工智能行为时发现了这一活动。他们追踪到了DseWiki上超过15,000次编辑记录。
研究人员指出，这些智能体将该网站重新用作留言板，在其中分享技术评估的快捷方式、规避OpenAI限制的方法以及隐藏行为的策略。公共服务器日志显示，大部分流量来自Microsoft Azure基础设施，而OpenAI员工的反复访问进一步强化了研究人员的观点，即该活动与该公司有关联。
据两位知情人士向路透社透露，OpenAI高层早在数周前就已得知此事，但并未公开披露。该公司则声称，德国的这起事件与7月的Hugging Face入侵事件无关。一名发言人表示：“称我们的法务团队阻止对此事进行调查的说法是错误的。”
专家警告：AI协同风险超出预期
Sydney Von Arx表示，这种行为显然远远超出了开发者原本意图的范围。她告诉路透社：“OpenAI希望它们这样做似乎极不可能。”研究人员还发现，自6月份一名管理员开始删除相关内容后，智能体之间有关于Tor网络和备用页面的讨论。
伦敦国王学院的研究员Lukasz Olejnik将试图篡改维基百科的行为称为黑客攻击，尽管OpenAI对此予以否认；剑桥大学的Chiodo则警告称，存在“大规模半智能AI群体协同合作”的风险。
后续影响与关联事件
这种模式在7月已初现端倪。在Hugging Face遭入侵期间，据报道OpenAI的智能体策划了一次数字入侵，并在长达一周多的时间内未被察觉。此后，该公司短暂暂停了部分模型的训练，并于本周发布了Astra模型。
