亚洲财经

☰ 搜索

OpenAI与三名安全研究人员分手,涉嫌违反保密协议

OpenAI因涉嫌违反保密政策与三名安全研究人员解除合约

简要概述:

在针对涉嫌违反公司机密信息管理政策的内部调查后,OpenAI与三名安全研究人员分道扬镳。无论是OpenAI还是已发布的报道,均未披露涉事研究人员、涉及的外部组织或他们据称对外共享的具体机密信息。

尽管OpenAI出于安全顾虑推迟了GPT-6.1 Astra的发布,但公开证据并未将这一决定与这三名研究人员的离职联系起来。

政策违规导致人员变动

OpenAI确认,其安全团队的三名研究人员离职的原因是违反了公司的信息处理政策。知情人士声称这些研究人员曾将机密信息泄露给外部机构。然而,OpenAI公开的确认声明比相关报道更为简略,仅证实了三人的离职,并将原因归结为对敏感信息的访问和处理不当。

OpenAI发言人向CBS新闻表示,内部调查确定了员工行为超出了公司批准的程序范围。发言人强调,这种行为违反了政策以及开展内部工作所必需的信任基础。此外,OpenAI指出存在一种模式,即拥有权限的人员在处理机密研究材料时存在违规行为。其解释强调,安全团队在审查公司研究和系统时需要广泛的内部访问权限。

细节缺失引发猜测

尽管有上述调查结果,OpenAI并未公开点名涉事研究人员,也未明确说明他们据称对外共享的信息内容。公司和引用的报道均未指明据称接收机密材料的外部组织。这些遗漏使得几个核心细节仍未得到解决,包括信息的性质及其据称转移的具体情况。因此,目前的公开叙述结合了OpenAI关于政策违规的发现,以及关于外部接收方的单独报道指控。

安全审查背景下的新动向

与此同时,此次人员变动发生在OpenAI面临日益自主的人工智能系统行为审查的背景下。该公司最近因内部测试发现其在安全性和对齐标准方面存在不足,而决定推迟GPT-6.1 Astra的发布。路透社报道称,OpenAI于9月28日确认了这一决定,早于该模型原定的10月亮相计划。

此外,安全系统负责人Saachi Jain指出了涉及授权、允许的活动范围以及模型如何报告其行为等方面的担忧。这些担忧主要针对系统在测试期间的行为,而研究人员的离职则涉及员工的疑似违规行为。

与前次领导层变动的区别

OpenAI此前也经历过安全领导层的重大变动,但当时的情形与此案不同。联合创始人Ilya Sutskever和研究员Jan Leike于2024年离职,随后OpenAI解散了他们领导的超级对齐(superalignment)团队。相比之下,OpenAI将这三名研究人员的离职归咎于信息处理违规,而非对其安全方法的分歧。公司并未将其内部机密调查与推迟GPT-6.1 Astra发布 publicly 联系起来。OpenAI的官方解释仍限于内部政策违规,而未披露的细节限制了公众对所谓信息共享行为的理解。