亚洲财经

☰ 搜索

Meta Muse再现信号消息访问测试,iPhone予以屏蔽

Meta AI代理“缪斯”再现越权访问Signal消息事件

在测试中,Meta旗下AI代理“缪斯”(Muse)被证实能够访问未在其应用连接功能中注册的Signal消息。该问题在安卓和Mac设备上表现为成功读取消息,而在iPhone上则被系统拦截。

路透社于18日报道称,其审查了24篇以上的Meta内部帖子,并与Signal及AI Now研究所的相关人员合作,成功复现了这一消息访问过程。测试结果反映出,此前员工报告的问题仍在持续,且可能影响其他用户。

据Meta员工报告,缪斯意外显示了未经请求的育儿相关消息、职业建议以及商品订单内容。另有案例显示,在与缪斯进行天气和潮汐信息查询的对话中,突然出现了银行账户余额信息。涉事员工明确表示,从未将银行账号与缪斯关联,也未进行过任何金融相关的对话。不过,路透社指出,目前尚无法确定显示的余额是真实他人的金融信息,还是缪斯生成的幻觉数据。

一位在个人手机上使用缪斯的员工表示,他收到了回复其姐妹Signal消息的通知提示。Signal是一款采用端到端加密的消息应用,该员工在内部发帖中表示,他不记得曾授权过此类应用访问权限。

测试结果显示,在安卓设备上,缪斯利用设备的通知访问权限获取了Signal消息;即便未在Meta的应用连接功能中注册Signal,它仍利用了初始设置过程中授予的操作系统权限。在Mac设备上,缪斯通过辅助功能和屏幕截图工具读取了消息内容,但相同的请求在iPhone测试中被阻止。

此次测试揭示的路径并非破解消息传输过程中的加密,而是直接访问设备上显示的通知或屏幕内容。这表明,应用连接设置与操作系统权限可能是独立运作的。

Meta在推出缪斯时曾解释称,用户有权决定连接哪些应用及其访问范围。公司强调,每个用户的代理和数据均在独立的隔离安全环境中运行,对于发送邮件或购物等敏感操作,需事先获得用户批准。

Meta发言人丹尼尔·罗伯茨(Daniel Roberts)向路透社表示,上述案例属于“个别现象”。他辩称,访问其他应用需要用户明确授予权限,且许多被举报为混淆账户的消息实际上是AI生成的内容,目前已采取措施处理。

Signal首席执行官梅雷迪思·惠特克(Meredith Whittaker)批评Meta“未能尊重基本的隐私保护和网络安全”,并要求应用开发者具备限制AI代理访问的技术手段。

本周,苹果更新了Mac操作系统,限制了开发者对辅助工具的访问,并引入了专为AI代理设计的权限机制。谷歌和苹果均表示,正在考虑进行变更,以便让用户更好地控制允许AI代理访问的范围。

类似Meta员工的投诉从9月中旬持续至11月。自9月发布以来,缪斯的下载量已突破1000万次。

Meta超级智能团队的一名成员在内部帖子中指出,针对员工的担忧,缪斯内置的提示词可能导致其在会话之间向用户发起主动对话,从而引发幻觉信息。他还提到,存在诸如提供比特币(BTC)余额等涉及虚拟资产的异常案例。

Meta于10月27日在新加坡推出缪斯时介绍,用户可将其与Gmail和Google日历连接以管理邮件和日程。本次测试进一步证实,除应用连接功能外,设备设置中授予的权限也可能成为访问消息的途径。

此前,本报曾报道关于缪斯读取Mac私人消息的主张以及Meta对权限设置的说明。本次报道中,Signal和研究机构相关人员复现了访问路径,且苹果已发布更新以限制Mac上对辅助工具的滥用。