开错药！IBM“Watson医生”屡犯致命错误 AI机器人开药你真的放心吗？

最新，IBM“Watson开错药”的消息在各大科技媒体不胫而走，会开错致命药的医疗AI，成为让人担忧的一大话题。

（图源：IBM）

根据Stat审查的文件，IBM的Watson超级计算机为癌症患者提供了不安全的建议。

IBM Watson一度被宣传为癌症研究未来的“救星”。但现在曝光这样的重大错误，就像给人们的预期猛浇了一盆冷水。

2012年，Memorial Sloan Kettering癌症中心的医生与IBM合作，培训Watson诊断和治疗患者。但根据去年夏天发布的IBM文件，这台超级计算机经常给出不好的建议，比如它建议给患有严重出血的癌症患者提供可能导致出血恶化的药物。

当然，很多时候这些建议都只是在测试时候给出的，没有用到真正的病人身上。

据该文件称，佛罗里达州朱庇特医院的一位医生告诉IBM高管，“在大多数情况下我们不能使用它。”

这些文件来自IBM Watson前副卫生主任Andrew Norden在他离开公司之前的演讲，一般只有IBM的管理层有权限查看。Norden在2017年6、7月间给出的报告显示，正在使用Watson for Oncology（Watson肿瘤解决方案）的医生们纷纷指出，Watson经常提出不准确的医疗建议。

除了展示客户不满意外，他们还揭示了方法、过程和底层技术上的问题：Watson for Oncology应该综合大量数据并提出新颖的见解。但事实上，提供给它的大多数数据都是假设的，而不是真实的患者数据。这意味着Watson提出的建议仅仅基于提供数据的少数医生，们的治疗偏好，而不是从分析真实案例中获得的实际见解。

一位IBM发言人曾表示，Watson for Oncology“支持超过84,000名患者的护理”并且仍在学习。但很显然，它学的或者并不是基于真实的情况。据媒体报道，有这一系统的230家医院中，至少包含了67家中国医院。

Watson最早进入公众视野是在2011年，它当时在电视智力节目《危险边缘》中击败了人类。这套系统具备强大的自然语言处理和数据库扫描能力，因而可以理解现场的复杂问题，快速给出答案。

外界对Watson这台智能超算的有效性，已经进一步产生了质疑。IBM向Watson业务投入数十亿美元，但“Watson医生”尚未给医疗行业带来革命，而且该部门对IBM仍然很难实现盈利。