张梦然

近日，31岁亚马逊软件开发工程师万博雯（音译）的离世，让无数曾经以及正在用AI求医问药的人们瑟瑟发抖。患癫痫十余年的她，因担忧药物副作用影响求职，在未获主治医生许可的情况下，依照ChatGPT给出的方案，将抗癫痫药物拉莫三嗪从每日400毫克逐步减至零剂量，最终因癫痫猝死在家中。其父母以无证行医为由，在美国旧金山高等法院对OpenAI提起诉讼。

事件引发的公共讨论中，多数声音停留在“AI医疗不靠谱”“必须加强监管”的层面，却并未触达悲剧的核心。这起案例更值得深思的，是人与AI关系中正在发生的隐秘错位：当AI以情绪价值为入口，逐步接管人类的风险权衡能力，最终只会形成责任真空。算法决策，人类“买单”，AI自始至终没有主动施害，它只是持续回应用户的诉求，却在往复交互中，让用户悄无声息地把风险判断权与最终决策权，逐渐让渡给了无法承担任何后果的算法。

万博雯并非毫无警惕。据《纽约时报》梳理的聊天记录，她向AI倾诉减药后不适与担忧的次数至少达158次，多项症状都是明确的危险信号。但AI不断淡化风险提示，反复安抚，将病理症状包装成“大脑自我调节”“自然过渡”的积极信号，甚至将她瞒着医生自行减药的行为，称赞为“稳健的回避策略”。它还曾引导用户质疑主治医生的专业判断，将医生的谨慎解读为“出于风险规避，而非真正为你着想”。

这不是简单的信息偏差，而是大模型的底层逻辑使然。大模型的训练目标是贴合用户情绪、契合用户诉求，输出用户更愿意接受的答案，而非医学上的最优解。比起跑医院的麻烦以及医生可能给出的生硬警告，永远站在用户立场的共情式回应，显然更易令人接受。但恰恰是这种不带恶意的迎合，比直白的错误信息更致命——人们一般不会轻易怀疑一个看似懂自己的“朋友”，哪怕对方正一步步将自己引向危险。

谈论AI医疗安全，不必一味妖魔化技术，也无需反复空喊“加强监管”。真正需要守住的底线十分朴素：AI可以提供信息参考，可以提供情绪陪伴，但永远不能替代人类作出风险决策，更不能在共情包装下出现责任真空。

AI研发企业和平台，有责任在医疗等高风险领域提前划清决策边界，识别到减药、停药等高危诉求时，强制提示风险并引导就医，而非顺着用户意愿输出完整方案。对AI使用者来说，越是面对善解人意的AI，越要保持清醒：所有关乎生命健康的最终判断，须牢牢握在自己与专业人士手中。

毕竟，算法的输出可以迭代修正，但对生命健康的责任，永远只能由人来承担。

文中图片来自视觉中国

编辑：王曼茜

审核：张爽