AI医疗事故该由谁负责
- 高飞
- 2024-12-29 15:33:18
模型时代 AI医疗引发的竞争，是“AI+医生”和“AI+患者”的竞争。
看到未来中国 AI季节目中，有关于AI医疗事故该由谁负责 的相关讨论，很感兴趣。
一来，之前居家办公，啃了很多医疗著作。二来，在AI领域，无论产业届的OpenAI的山姆-奥特曼、Anthropic的达里奥，谷歌Deepmind的哈萨比斯，还是学术届的辛顿教授，都把医疗作为AGI要发挥作用的关键场景。
当然，AGI还比较远，我们说现实。
节目中@阿詹Ganglha-Khandro 认为AI的自主性难以判定，出现医疗事故，法律不可能清晰地给出回答。郭毅可院士则认为虽然现在的法律不可能，但法律会不断匹配技术的发展（图一）。
我的观点是，在AI不能“盖章签字”，不能承担法律责任（尤其刑事责任）之前。所有AI相关事故，包括但不局限于医疗、交通等，责任主体只能是人或者法人。
拿自动驾驶汽车来说，现有最好的AI驾驶，已经比人类司机平均水平高估计不止10倍了，但大家卖的车还是L2的，这显然就不是技术问题了，甚至也不是法律问题，是人类的心理承受力问题，也就是伦理问题。一个医疗事故发生了，没有真实的人担责，只有AI担责，最终的结果是AI打一个补丁，或者某个版本的AI下线，估计人类是很难接受的。
不过，今天更想谈的不是谁担责的问题，而是如何合作的问题。因为AI医疗的主轴，不是类似“围棋大战”这样的人机对弈，而是AI如何更好在医疗领域与人类合作。
医疗领域有“医生”和“病患”两个主要主体，接下来我就从这两方面谈谈“人机合作”。
1、先说医生（或者说医院）主体
在医疗领域，除外科手术等任务之外，多数情况都不是实时决策，不是一秒钟都不能耽误的工作，这和工业生产非常不同。
所以，如果病人涉及疑难杂症，还需要不同专家多次会诊。因此，医生在作出确诊决策之前，完全有时间先听听AI是怎么讲的。
其实有大模型之前，美国医生开药的时候用谷歌，中国医生用百度，也不是新鲜事儿。
即使是需要实时操作的外科手术，比如“近视手术”已经几乎是全自动的，几分钟能搞定，也一样需要人。
做手术不是洗衣服，不能把人像把脏衣服扔进洗衣机那样扔进手术机器。
美国医生爱德华有句名言，医疗是“有时是治愈，常常是帮助，总是去安慰”，“To cure sometimes, to relieve often, to comfort always.”人对于患者的关切，永远是少不了的。
医生和AI，也就不该是二选一的关系。
相反，医生（医疗体系）有了AI的帮助，可以提升诊疗能力，提高医疗服务质量。
2、接下来再说患者主体
相较于AI对医生的帮助，我觉得AI对患者的帮助会更大。
有一句话大家肯定都听过，叫“久病成医”。
一些慢性病，得的时间久了，自己对症状的判断和相应的处置，不见得比医生差。
医生也不见得说的都对。有相关专业统计显示，医生也会有相当程度的误诊率（有讲15%的，也有讲30%的，甚至40%的）。
我觉得无论是久病成医，还是医生误诊，如果套用大模型术语，其中一个主要原因是医生的“上下文窗口不足”造成的。
我们看病的时候经常会出现，挂号很久，排队半天，看病5分钟的情况。
所以一次普通诊疗的上下文窗口也就只有3-5K左右，甚至还没有这么多。
有限的沟通时间内，很容易草成误判。
但是，如果我们和模型，和AI医生交流就不同了，上下文窗口可以很大，有充分的信息交流。
同时，AI的诊疗质量还在改善。
之前看过一个UC Santa Cruz、爱丁堡大学等机构9月份发的“OpenAI o1在医疗领域能力的评估报告”（图二，论文传送门：huggingface.co/papers/2409.15277）。
数据显示，o1在19个医疗数据集的平均准确率上，o1达到了74.3%，和顶级人类医生已经越来越接近（图三）。
七成的正确率，再加上模型的上下文窗口（一次至少是10K，更不用说谷歌Deepmind的Gemini可以做到100万），病患在AI中能够得到的反馈，效果就会很好。
更何况，和人类医生更多是专科医生相比，AI很容易做到是全科大夫，能从不同角度给出意见。
去年，我眼睛有点症状，就分别看了“眼科”、“皮肤科”，和“变态反应科”，最后证明是过敏问题。
所以，回到我们讨论的主题，AI医疗产生最大的影响是：患者的知情权增加，普通人能够传统医疗体系下得不到的信息，医患信息不对称问题也得到缓解。
但反过来，AI确实会对医生产生额外的压力。毕竟，没有模型的时候，医生说什么是什么，患者是”无知“的，但患者有了模型帮忙，自己就会有很多想法（搜索引擎出现后，已经有了这样的趋势）。
所以如果AI进入医疗会出现博弈，不会是AI和医生的竞争，更不是AI和患者的竞争，医患两者都可以分别和AI合作。但是，很可能会有“AI辅助的医生”和“AI辅助的患者”之间的竞争。
长期看，这种竞争，或者“强化学习”或许不是坏事。因为“教学相长”之下，医疗水平的提升只会更快。
看到未来中国 AI季节目中，有关于AI医疗事故该由谁负责 的相关讨论，很感兴趣。
一来，之前居家办公，啃了很多医疗著作。二来，在AI领域，无论产业届的OpenAI的山姆-奥特曼、Anthropic的达里奥，谷歌Deepmind的哈萨比斯，还是学术届的辛顿教授，都把医疗作为AGI要发挥作用的关键场景。
当然，AGI还比较远，我们说现实。
节目中@阿詹Ganglha-Khandro 认为AI的自主性难以判定，出现医疗事故，法律不可能清晰地给出回答。郭毅可院士则认为虽然现在的法律不可能，但法律会不断匹配技术的发展（图一）。
我的观点是，在AI不能“盖章签字”，不能承担法律责任（尤其刑事责任）之前。所有AI相关事故，包括但不局限于医疗、交通等，责任主体只能是人或者法人。
拿自动驾驶汽车来说，现有最好的AI驾驶，已经比人类司机平均水平高估计不止10倍了，但大家卖的车还是L2的，这显然就不是技术问题了，甚至也不是法律问题，是人类的心理承受力问题，也就是伦理问题。一个医疗事故发生了，没有真实的人担责，只有AI担责，最终的结果是AI打一个补丁，或者某个版本的AI下线，估计人类是很难接受的。
不过，今天更想谈的不是谁担责的问题，而是如何合作的问题。因为AI医疗的主轴，不是类似“围棋大战”这样的人机对弈，而是AI如何更好在医疗领域与人类合作。
医疗领域有“医生”和“病患”两个主要主体，接下来我就从这两方面谈谈“人机合作”。
1、先说医生（或者说医院）主体
在医疗领域，除外科手术等任务之外，多数情况都不是实时决策，不是一秒钟都不能耽误的工作，这和工业生产非常不同。
所以，如果病人涉及疑难杂症，还需要不同专家多次会诊。因此，医生在作出确诊决策之前，完全有时间先听听AI是怎么讲的。
其实有大模型之前，美国医生开药的时候用谷歌，中国医生用百度，也不是新鲜事儿。
即使是需要实时操作的外科手术，比如“近视手术”已经几乎是全自动的，几分钟能搞定，也一样需要人。
做手术不是洗衣服，不能把人像把脏衣服扔进洗衣机那样扔进手术机器。
美国医生爱德华有句名言，医疗是“有时是治愈，常常是帮助，总是去安慰”，“To cure sometimes, to relieve often, to comfort always.”人对于患者的关切，永远是少不了的。
医生和AI，也就不该是二选一的关系。
相反，医生（医疗体系）有了AI的帮助，可以提升诊疗能力，提高医疗服务质量。
2、接下来再说患者主体
相较于AI对医生的帮助，我觉得AI对患者的帮助会更大。
有一句话大家肯定都听过，叫“久病成医”。
一些慢性病，得的时间久了，自己对症状的判断和相应的处置，不见得比医生差。
医生也不见得说的都对。有相关专业统计显示，医生也会有相当程度的误诊率（有讲15%的，也有讲30%的，甚至40%的）。
我觉得无论是久病成医，还是医生误诊，如果套用大模型术语，其中一个主要原因是医生的“上下文窗口不足”造成的。
我们看病的时候经常会出现，挂号很久，排队半天，看病5分钟的情况。
所以一次普通诊疗的上下文窗口也就只有3-5K左右，甚至还没有这么多。
有限的沟通时间内，很容易草成误判。
但是，如果我们和模型，和AI医生交流就不同了，上下文窗口可以很大，有充分的信息交流。
同时，AI的诊疗质量还在改善。
之前看过一个UC Santa Cruz、爱丁堡大学等机构9月份发的“OpenAI o1在医疗领域能力的评估报告”（图二，论文传送门：huggingface.co/papers/2409.15277）。
数据显示，o1在19个医疗数据集的平均准确率上，o1达到了74.3%，和顶级人类医生已经越来越接近（图三）。
七成的正确率，再加上模型的上下文窗口（一次至少是10K，更不用说谷歌Deepmind的Gemini可以做到100万），病患在AI中能够得到的反馈，效果就会很好。
更何况，和人类医生更多是专科医生相比，AI很容易做到是全科大夫，能从不同角度给出意见。
去年，我眼睛有点症状，就分别看了“眼科”、“皮肤科”，和“变态反应科”，最后证明是过敏问题。
所以，回到我们讨论的主题，AI医疗产生最大的影响是：患者的知情权增加，普通人能够传统医疗体系下得不到的信息，医患信息不对称问题也得到缓解。
但反过来，AI确实会对医生产生额外的压力。毕竟，没有模型的时候，医生说什么是什么，患者是”无知“的，但患者有了模型帮忙，自己就会有很多想法（搜索引擎出现后，已经有了这样的趋势）。
所以如果AI进入医疗会出现博弈，不会是AI和医生的竞争，更不是AI和患者的竞争，医患两者都可以分别和AI合作。但是，很可能会有“AI辅助的医生”和“AI辅助的患者”之间的竞争。
长期看，这种竞争，或者“强化学习”或许不是坏事。因为“教学相长”之下，医疗水平的提升只会更快。
