数码影音频道 频道

ChatGPT Health向所有用户开放:每周3亿人问健康问题,但致命医疗建议诉讼同期而至

“AI摘要”

OpenAI于上周四正式向公众开放ChatGPT Health,允许用户连接Apple Health和医疗记录,查看健康趋势。OpenAI称其最新模型诊断能力已超越医生,但与此同时,佛罗里达州牧师Scott Winters起诉旧版ChatGPT给出不准确医疗建议,几乎导致其死亡。专家警告AI健康工具需独立评估,研究发现ChatGPT Health在某些情况下可能不建议患者去急诊。研究人员建议用户每次新建对话、用具体描述代替情绪化表述,并质疑AI的回答以确保安全使用。

在面向特定测试用户首次亮相数月后,OpenAI于上周四宣布ChatGPT Health正式向公众开放。该产品允许用户将Apple Health和符合条件的医疗记录连接到ChatGPT,用户可以查看近期健康趋势、浏览记录并尝试推荐的提示词。OpenAI表示,每周有超过3亿人向ChatGPT提出健康相关问题,大约三分之一的美国成年人在过去一年中曾使用聊天机器人获取健康信息。

OpenAI称最新模型诊断能力已超越医生

OpenAI在媒体简报会上表示,其最新模型回答健康提示的准确性已显著提高,在某些情况下甚至优于医生。今年春季发表在《Science》上的一项研究发现,OpenAI的推理模型o1在诊断真实医疗场景方面的表现与医生相当甚至更好。OpenAI健康产品副总裁Ashley Alexander将扩大ChatGPT Health的访问权限描述为紧迫事项——因为许多人无法及时获得高质量的医疗服务。"每个人都应该有权利获得这种健康支持,"Alexander说。

佛罗里达牧师起诉:ChatGPT给出近乎致命的医疗建议

然而,就在ChatGPT Health全面开放的几乎同一时间,一起诉讼向OpenAI投下了阴影。周三,佛罗里达州55岁牧师Scott Winters提起诉讼,要求法院颁布禁令,强制该公司暂停运营包括ChatGPT Health在内的面向消费者的医疗产品。Winters指控旧版ChatGPT模型(4o)给了他"个性化但不准确"的医疗建议,几乎导致他在2025年死于肺栓塞。Winters最早在2024年开始向ChatGPT咨询健康问题。在经历了两年多的健康问题并感到被医生忽视后,他开始向聊天机器人询问关于健康和检测结果的深层个人问题。诉讼称ChatGPT"完全进入了医疗从业者的角色,开始提供具体的护理指令,却没有包含咨询医疗服务提供者的免责声明"。

专家警告:AI健康工具需要独立评估

UCSF医学系主任Robert Wachter博士告诉Mashable,很难判断这起诉讼的性质,并指出它涉及的是已过时的ChatGPT版本。他将当前GPT模型描述为比旧版本更可信。西奈山医疗系统的研究人员则发现,当用户在提示中加入"我可能反应过度了"或"我妻子说没事"等表述时,ChatGPT Health有11倍的可能性不建议患者去急诊——即使症状提示存在危及生命的状况。两位研究者呼吁OpenAI开放产品以供独立评估:"我们不是健康AI的批评者,我们在试图测量它。如果这些系统真的像声明中说的那么好,独立测量是证明这一点最快的方式。"

安全使用建议:每次新建对话、敢于质疑AI

研究人员建议:为每个新健康问题开启全新对话(研究发现长对话中回复会偏离医护分诊标准);用具体描述代替情绪化表述;以及最重要的是——质疑AI的回答,追问"你确定正确吗?""什么情况会变成紧急情况?""最危险的可能性是什么?""医生会想知道哪些我没提到的事情?"

0
相关文章