标题：迷失在AI“神话”的医疗保健乌托邦：Babylon Health的崛起与挑战
导读：Babylon Health，这款应用让英国患者快速与医生进行视频会诊，大大缩短了等待时间。而其创始人Ali Parsa的雄心壮志并不仅限于此，他希望通过引入人工智能聊天机器人进一步提高效率和降低成本。随着新技术的应用，挑战也随之而来。
在2017年一个周五的晚上，Babylon Health的创始人Ali Parsa与他的团队进行了一次深入交流。这家医疗应用开发商已经凭借高评分应用为Babylon融资了8500万美元。而Parsa的视野更为远大，他希望引入人工智能聊天机器人，为常见疾病提供诊断建议，进一步提高效率和降低成本。根据医生的反馈，这款机器人的建议经常出错。
医生们表达了对匆忙部署未经仔细审查的软件的担忧，并质疑其效果的夸大。电子邮件显示，一家英国广告监管机构曾要求Babylon删除其关于分流功能能够100%给出安全建议的声明。事实上，根据Babylon自己的研究论文，这一声明源于一次内部测试，测试中雇佣了专业演员模拟病人流程。
六个月后，Parsa在伦敦皇家医学院的一场盛大直播活动中宣布了Babylon的新软件——人工智能驱动的聊天机器人已经达到了“全球医疗第一”的水平。这一声明遭到了质疑。布朗大学生物医药信息学教授Hamish Fraser指出，Babylon的软件在测试中并未展现出超越人类医生的实力。他指出测试中的问题范围和答案的设定可能导致了结果的偏差。
尽管人工智能尚未发展到可以替代或可靠地协助人类医生的程度，但Babylon仍与英国国家医疗服务机构（NHS）签订了合同。NHS是世界上最大的国有医疗系统之一，它正面临着控制成本和提高福利的双重压力。减少不必要的急诊就诊似乎是一个合理的解决方案，因为每次就诊的成本都很高。而Babylon的聊天机器人如果表现良好，将有助于节省大量成本。
医生们对人工智能在医疗领域的应用持谨慎态度。他们担心技术的不成熟可能导致严重后果。尽管人工智能在某些任务上的表现令人印象深刻，但它仍然无法替代医生的专业知识和经验。人工智能的诊断建议可能引发问题，如责任归属等。
Babylon Health通过引入人工智能聊天机器人提高了医疗保健的效率和便利性。随着新技术的发展和应用，也面临着诸多挑战。医生们对技术的担忧、广告的夸大宣传以及如何在国有医疗系统中合理应用新技术等问题都需要得到解决。未来，Babylon和NHS需要更加谨慎地推进这一技术的应用，确保患者的安全和福利。Babylon软件的有效性始终受到人们的质疑。据Babylon的一名工作人员透露，早期版本的聊天机器人在大约30%的情况下建议用户前往急诊室，相比之下，拨打国家健康咨询热线111的用户中，只有大约20%的情况需要紧急就医。尚不清楚有多少病人接受了聊天机器人的建议，Babylon公司并未对这些数据进行跟踪。
尽管在诊断建议聊天机器人在经过修复后，于2018年1月向Babylon私人应用用户发布，但一些Babylon医生仍对开发过程中缺乏更严格的改革表示担忧。外部发现的问题数量也在不断增加。今年六月，一位正在Babylon应用上测试新诊断聊天机器人的英国医生发现了一个严重错误：该机器人忽略了一个肺栓塞的症状。他不仅在Twitter上发布了相关视频，还向医疗监管机构MHRA进行了投诉。据Babylon内部消息，一些被MHRA记录为事故的错误，直到去年十一月，仍然存在于内置的聊天机器人中。MHRA以保密为由，未对此事进行公开评论。
Babylon表示，虽然MHRA要求他们调查这些投诉，但并未基于安全理由展开正式调查。当被问及MHRA记录的错误时，Babylon坚称任何临床概率分析都不可能总是完全准确，并且即使是非常有经验的医生也会有时做出错误的诊断。
在这个过程中，Babylon将自己塑造成医疗系统过度扩张的数字解决方案。英国卫生部长Matt Hancock更是成为该公司的忠实粉丝之一。他在一份由Babylon赞助的报纸副刊中宣称，他因使用GP at Hand应用而受益匪浅。Babylon应用的海报甚至经常出现在伦敦地铁上。据一些前工作人员透露，Babylon软件的最大缺陷之一是缺乏真实的临床评估和跟踪。目前尚没有系统能够回答这个问题：使用聊天机器人的人是否真的去过急诊室？如果他们看了医生，那么诊断结果是什么？
软件的开发过程是通过不断迭代进行的。开发人员构建一个应用并在实时用户群体上进行测试，然后在前进的过程中不断修改。这种硅谷式的快速迭代和试错心态，曾经被马克·扎克伯格概括为“行动迅速，打破现状”。开发新药或医疗器械需要更为慎重的方法，因为患者的生命安危是无可替代的。Babylon尚未在同行评审的医学杂志上发表任何研究成果，而这一过程往往需要大量的时间。
该公司的首席医疗官Mobasher Butt坚称，Babylon在部署市场前已经经过了临床医生的严格测试。该公司承认没有进行医学研究，并表示未来进行医院研究时，会在医学杂志上发布。
对Babylon人工智能的担忧反映了医疗系统与科技初创公司合作时可能遇到的困难。虽然Babylon将自己定位为一家医疗保健公司，但其运营方式更像硅谷的初创公司。一些工作人员表示，公司的重点是快速构建并推出新产品，并补充说，公司创始人Parsa喜欢和员工谈论“逃逸速度”。尽管一些医生对Parsa的坚韧不拔精神和宏伟愿景表示钦佩，并将他视为将方便和负担得起的医疗服务带给全球每个人的企业家，但人们对Babylon的担忧仍然存在。特别是在公司内部，医生在解决安全问题时很难发表意见，而数据科学家却被视为明星。过去12个月情况已经开始好转。
Babylon否认了这些指责，并指出其举报政策和专用电子邮件地址是其“安全第一文化”的关键。它宣称员工有义务将任何问题正式提交给当局。一些现任和前任员工表示，他们并不知情有举报电子邮件系统。尽管如此，Parsa因其坚韧不拔的精神和宏伟的愿景仍受到伦敦科技界的推崇。他的故事令人鼓舞——从伊朗难民身份开始，通过自学英语进入英国最顶尖的学府并发表工程物理学博士论文。虽然他的职业生涯建立在投资银行业，但他的心始终关注社会正义和大局使命。在社会乌托邦与商业交汇点的征途上，Parsa的历程充满挑战与波折。早在2003年，他便携手共创了名为Circle Health的社会企业，涉足医疗保健领域。而后在2011年，他更是创造了历史，成为首家接管国有医院的私营公司，接手管理剑桥郡的Hinchingbrooke Hospital。他的目标宏大且深远，期望在十年合作期间为NHS节省超过4.95亿美元的成本。Circle的征途并非一帆风顺，Parsa在2012年退出时，公司仍背负债务。四年后，Circle虽然保释了合同，但审计人员指出其出价过于乐观。
Parsa并未因此止步，他创立了Babylon，继续深耕医疗保健领域，并很快再次与NHS签订了重要合同。为了强化与NHS的合作关系，并为未来的技术拓展奠定基石，Parsa正在积极招募软件工程师，并投资1亿美元用于人工智能的进一步研发。
为医疗保健打造人工智能并非易事，Babylon的技术设计方式可能需要深入反思。其核心诊断引擎基于一套复杂的规则，这些规则由临床医生根据一系列症状概率输入电脑。随着规则数量的增加，软件的决策路径变得越来越复杂和难以改变。那么，如何使这样的聊天机器人变得更智能呢？
提高诊断引擎的语言能力和优化其技术设计是两条可行的路径。Action.AI首席执行官John Taylor表示，如果Babylon能够获取医疗记录，其诊断准确性将大大提升。但目前Babylon尚未向监管机构请求访问医疗记录。为了更好地诊断病情，我们需要训练软件深入了解反馈回路，包括患者描述症状、就医、接受检查和治疗的全过程。
Babylon若想实现用更智能的技术提高医疗保健效率的愿景，就必须在更多的患者记录上训练算法。为此，它需要赢得监管者和医学界的信任。这是一个漫长而复杂的过程，但Parsa和他的团队显然对此充满信心，他们将继续前行，在医疗保健的乌托邦之路上不断尝试与创新。深陷在AI的“迷信”中的他们，期待用智能技术为更多的患者带来更好的医疗服务。
