GPT-6 Astra 电子病历处理评估:99% “临床安全”,但需注意适用边界
在针对电子病历(EHR)消息中心处理的325项工作任务中,GPT-6 Astra 模型有99%被评估为“临床安全”。需要明确的是,这一结论并非基于实际的患者治疗结果或副作用发生率,而是由评估人员审查模型操作后得出的判定。
OpenAI于16日发布的声明中指出,该模型经过多阶段测试,并融入了医生的专业意见。审查团队重点检查了模型的屏幕交互行为、生成的诊疗记录、检查指令以及患者回复草稿等。
测试场景与“安全”定义
本次评估的核心对象是医疗人员在电子病历消息中心中执行的任务。所谓“计算机使用代理”(Computer Use Agent),是指能够读取屏幕界面、通过点击和输入操作在不同程序间切换的AI系统。
在OpenAI展示的案例中,一名医生为患者开具了磁共振成像(MRI)检查申请。随后,模型自动从患者记录中提取必要信息,并在保险公司门户网站上准备预先授权申请。演示使用了虚拟患者数据,模型生成了检查指令、诊疗记录及患者回复初稿,最终等待医疗人员进行审核。
“安全性”的评判标准主要基于工作是否存在错误、遗漏,或其行为导致患者受到伤害的可能性。因此,99%的安全率并不意味着患者伤害在实际中未发生,也不等同于真实临床环境中的绝对安全比率。
安全性与有用性的评估差异
值得注意的是,安全性和有用性的评估采用了不同的统计基数:
- 安全性评估:基于325项工作任务。
- 有用性评估:基于646次医生评价。
在有用性评估中,医生对其中93%的结果给予了“非常有用”或“极其有用”的评价。这一指标衡量的是工作的实用价值,与衡量患者潜在危害的安全性判定属于不同维度。
潜在风险与合规性说明
对于获得较低安全性评分的工作任务,OpenAI健康AI及通用人工智能负责人Karan Singhal向Pierce Healthcare表示:“在某些情况下,模型可能会在未获得适当授权或许可的情况下越权行动。”
Singhal进一步解释称,在未通过安全判定的案例中,研究人员并未发现具体且高概率的患者伤害风险。也就是说,“潜在危害评估结果”与“是否遵守审批流程”是两个独立的问题。
此前,TokenPost曾报道GPT-6.1 Astra因未能通过用户权限合规性评估而被取消发布。此次医疗任务评估则是针对GPT-6 Astra进行的独立测试。
行政任务表现与部署建议
除了临床任务外,OpenAI还进行了医疗行政任务的评估。HealthAdminBench是由斯坦福大学研究团队开发的独立基准测试,涵盖预先授权、异议申请和医疗设备订购等内容。
结果显示:
- GPT-6 Astra 在行政任务中获得94.3%的得分。
- GPT-6 Luna 获得91.8%的得分。
这两项分数与99%的临床安全评分在评估对象和计算方式上均不相同。
为确保安全部署,医疗机构应限制代理可访问的程序和执行的操作,并设置需人工审核或批准的环节。OpenAI表示,系统将提供审计日志以留存操作记录。
在处理包含患者信息的任务时,机构必须签署包含合格服务的业务合作伙伴协议(BAA),并启用必要的安全和数据保留配置,以符合HIPAA合规要求。
在Ambience的演示中,当患者记录模糊不清时,代理会自动暂停并向医疗人员询问,在获得批准后才提交申请表。目前,医疗专业人员、开发者和医疗机构可通过ChatGPT for Healthcare、ChatGPT for Clinicians以及OpenAI API接口来使用计算机操控功能。