编者按：2021年1月18日，英国国会科技办公室发布了一篇名为《人工智能与医疗保健》（AI and Healthcare）的研究简报，作者是约翰·斯米顿（John Smeaton）、洛娜·克里斯蒂（Lorna Christie），该简报介绍了人工智能在医疗保健领域所具有的价值和广泛应用前景，论述了人工智能的应用对医疗行业的服务质量、成本和从业人员造成的潜在影响，并针对人工智能技术广泛应用于医疗保健行业可能面临的安全和法律等诸多方面的问题进行了讨论。本文对该简报的主要内容进行摘编。

一、背景

关于人工智能（AI）系统的定义，目前尚未形成定论，一般指的是可以执行需要人类智慧才能完成任务的智能系统。人工智能系统由算法支撑，可以对一系列的数据进行分析并得出符合要求的结果。近年来，由于机器学习模拟算法、深度学习等技术的发展和所训练数据的质量和体量的提高，使得人工智能系统的性能得到了突飞猛进的发展。

目前，学术界、医疗行业专业人士和决策者对医疗保健领域人工智能技术的应用充满期待和兴趣。研究显示，人工智能可以提高医疗服务的质量、降低医疗成本并且减少员工在行政事务上的时间消耗。人工智能技术已经应用在医疗保健领域的诸多方面，包括辅助诊断、健康监测、可穿戴设备和智能医疗。东米德兰成像网络（East Midlands Imaging Network）及其合作伙伴正在测试一种分析乳房X光影像的人工智能工具，该工具可以对乳腺癌的发病症状进行筛查并对各类扫描的图片进行管理。尽管目前市场上已经有一些人工智能系统，但英国国家医疗体系（NHS）内却没有大规模使用人工智能技术。在英国国家医疗体系内，大多数用于医疗保健的人工智能产品仍处于研究或开发阶段，其中一些产品目前进入了试用或评估阶段。

尽管人工智能并没有在英国国家医疗体系内广泛使用，但是英国政府对人工智能在医疗领域的应用前景充满信心。在2017年的产业战略中，英国政府表示将利用大数据和人工智能实现“转变医疗系统疾病预防方式”的目标，到2030年实现慢性病的预防、早期诊断和治疗。2018年，英国斥资5000万英镑投资了5个新的国家医疗与护理卓越中心用于研究如何利用人工智能来改善医疗病理诊断影像；同年，英国政府颁发了数据驱动医疗和护理技术的行为守则，旨在推动本国医疗系统使用人工智能和数字技术。2019年英国政府成立了国家医疗系统数字化中心（NHSX），专门负责制定在医疗保健领域推广人工智能技术的相关政策并指导其实践，并斥资2.5亿英镑用于支持人工智能实验室的建设以及人工智能技术在英国国家医疗体系中的研发应用。2020年，英国政府继续拨款5000万英镑支持国家医疗与护理卓越中心开展利用人工智能更好应对新型冠状病毒（COVID-19）扩散的研究。此外，改进和提高医疗保健领域的人工智能和数字技术被确定为英国国家医疗系统数字化中心2019年的优先事项。

二、人工智能在医疗保健中的应用

01 医学影像

在医疗领域有大量医疗影像需要进行专业分析。通过对结构化数据集和标准图像格式的深度学习，可以训练人工智能系统对各类医疗影像进行识别与解读。目前人工智能技术应用于医疗影像的领域包括:

放射科：人工智能系统不仅可以用来检测X光图像中的骨折和肿瘤，还可以对患者头部CT扫描结果进行描述和检测，从而判定患者是否患有中风、创伤性脑损伤和痴呆等病症。

病理与内镜：人工智能系统可以对显微镜下的病变组织样本进行分析来区分良性及恶性肿瘤。不仅如此，人工智能系统还可以辅助医生识别实时结肠镜检查视频中的癌变组织和癌前息肉。

眼科：通过对视网膜照片进行诊断和监测，人工智能可以识别青光眼、糖尿病等疾病引发的视网膜病变和老年性黄斑变性。

02 日常事务管理

在日常工作中，医务人员花费大量时间在行政管理和临床事物上。英国国家医疗体系（NHS）的一项调查表明，人工智能技术可以帮助医务人员提高处理医院日常管理事物的效率和办公的自动化水平。例如：语音识别技术可以转录病人口述的病历和病史，并向错过预约的病人发送提醒消息。对于复杂的物流和仓储问题，像物资管理和时间列表这类的问题也可以使用人工智能技术来处理以提高效率。

03 治疗计划和患者监测

决策支持系统是基于软件的人工智能工具，可以为临床医生医疗决策提供数据支持和建议。人工智能系统可以协助医生开具处方、辅助诊断和识别病人各类并发症的风险。决策支持系统起源于20世纪70年代基于临床知识与临床操作指南的预先编程规则。目前，这种预先编程规则已经被广泛使用了。当前对决策支持系统的研发重点在利用机器学习的深度学习能力来提高该系统学习患者数据和临床文献的能力，这样一来，人工智能系统就能够直接监控患者的健康状况。在英国的各大医院，使用摄像头和可穿戴传感器对压疮、精神错乱、循环衰竭等症状进行预警的研究已经展开；身处医院以外的高危病人也可以通过远程设备进行监控和观察，避免不必要的住院就诊。

04 其他面向患者的应用

一些语音助手和基于文本的聊天机器人可以直接帮助患者自己检查身体状况并获得治疗。手机应用程序配合可穿戴传感器和其他设备也可以帮助病人自我管理病情诸如呼吸系统、糖尿病或癫痫等疾病。人工智能可以嵌入这些系统来帮助医生对病人的病情进行实时追踪并提供量身定制的医疗保健指导。类似的人工智能系统还可以帮助病人自己管理心电图(ECGs)和进行尿检。

三、人工智能对医疗保健行业的影响

01 对医疗成本的影响

利用人工智能实现日常事务管理和临床任务的自动化可以减少医疗开支并提高医疗服务的效率。尽管在各个环节人工智能能够节约的医疗成本各不相同，但是根据2018年公共政策研究所的一项调查，人工智能和自动化能够通过缩短员工工作时间为英国国家医疗体系（NHS）节约125亿英镑的开支。

一些研究也报告了人工智能系统可以和临床医生一样甚至超过临床医生完成类似于皮肤癌、糖尿病、视网膜病变等诊断任务。这意味着疾病可以得到更早、更准确的诊断，并且未来的治疗费用会大大降低。然而，一些研究人员也对人工智能的学习能力表示担忧，因为目前很少有研究去检查人工智能系统在实际临床环境中的表现。为了解决这一问题，对临床行为进行研究和评价的新报告标准已经出台，以便于更好地评价人工智能在实际临床条件下的表现。

02 对患者的影响

人工智能技术的应用可以让疾病得到更早更准确的诊断，患者也能够在出现并发症前就接受治疗，从而改善患者的健康。还有一些证据表明，安装在家庭中的监控设备和应用程序能够使患者更主动地参与制订自身治疗方案，从而让患者在医疗中变得更加主动和积极，提高长期自我管理健康、治愈疾病的能力。然而，一些利益相关者担忧人工智能的应用可能会使医疗系统缺乏人性化。民意研究表明，人们相信人类同理心是医疗保健的重要组成部分，但是人工智能系统的应用不仅不会损害医患关系，还能让医生和患者有更多沟通与交流的机会和渠道。尽管一些人认为医生在诊断和治疗疾病方面比人工智能所做出的判断更加全面和系统，但是一些利益相关人士则建议在处理常规事物时更多地使用自动化和人工智能设备，让医疗机构的员工有更多时间能够花在患者身上来提高患者体验。并且人工智能可以针对不同患者的病情制订和实施定制化的护理方案。

03 对医疗保健工作的影响

为了更好地使用人工智能技术，医疗保健人员需要新的知识和技能培训。例如：医护人员需要学习新的知识和技术来操作人工智能系统并且理解其运行的原理和系统本身的局限性。在医疗行业内提高数字化水平将有助于人工智能技术的发展和普及。不仅如此，医疗行业还需要大量精通数据编程和信息化管理的岗位和角色。普华永道（PwC）的一项预测表明，随着人工智能系统在医疗行业应用的增长，英国的医疗行业将增加22%的工作岗位。专门负责医疗保健人员培训事物的英国健康教育署（HEE）已经启动了一项专门对医疗系统领导层和临床医生进行数字化技能培训的计划，计划包括了英国国家医疗体系内数字化学院的建立和“托波尔数字奖学金”的设立。临床信息学协会和信息学专业联合会这样的机构正在致力于开展专业化的培训以提高医疗工作人员使用信息和数字技术的能力。

04 人工智能的应用对社会道德、法律造成的挑战

2020年，咨询公司牛津洞察(Oxford Insights)的一项排名显示，英国在人工智能方面所进行的准备排名全球第二，仅次于美国。但是，也有一些利益相关人士强调英国国家医疗体系（NHS）长期在创新发展方面存在诸多困难，例如：缺乏专项资金和组织分散等问题。并且，在英国国家医疗体系（NHS）内也存在一些与人工智能应用有关的技术和伦理问题。

05 人工智能应用于医疗保健行业的安全性和有效性问题

在人工智能系统在改善患者体验和提高医疗服务质量方面表现出巨大潜力的同时，我们也应该认识到，如果人工智能系统在设计上存在缺陷或者使用不当也会造成巨大的安全风险。在遇见始料未及、训练数据未涉及的情况时，人工智能系统可能给出危险的建议和指令。例如：有报道称，一些人工智能机器人出现了丧失模拟心脏颤动的功能、在测试期间对儿童实施性虐待等问题。如果一个系统的对照参数被设定为过于敏感，可能会导致对患者的过度诊断甚至是危险的临床干预，并且医疗费用也会增加。

也许人工智能系统在开发和测试过程中表现十分良好，但是应用到医疗实践中依然有各种难题与挑战需要解决，这无疑妨碍了人工智能系统的推广与应用。例如：谷歌的视网膜人工智能检测系统在研发过程中表现良好甚至超过了人类专业的眼科医生，但是在泰国几家医院的医疗实践中表现让人失望。主要原因是相比人工智能系统训练时候的扫描图像，实际操作过程中视网膜扫描成像结果的质量差得多，当然也存在诸如人和人工智能系统互动的其他问题。一些医务人员的某些专业偏见可能会导致他们信任系统的自动化决策，但也可能不信任。

国家医疗系统数字化中心（NHSX）与国家医疗与护理卓越中心的研究所已经与其他相关机构进行合作并发布了数字化医疗技术的评估标准，这些标准列举了安全性、医疗效率、可用性和成本效益等要求，使医疗服务提供商在购买人工智能系统前就可以要求开发者满足这类条件。

06 关于隐私保护和数据共享

由于使用患者数据将要受到很多现有法律和法规的监管，利用大量数据来开发人工智能系统将引发一系列的隐私问题。例如：2017年咨询专员办公室（ICO）发现皇家自由医院（Royal Free Hospital）未能遵守数据保护法的规定，向医疗巨头深度思维公司（Deep Mind）泄露了可识别的患者数据用于肾损伤诊断系统的开发。有证据表明公众对医疗机构如何共享患者数据这类事件缺乏认识，同时也对患者数据的共享持怀疑态度，特别是那些医疗机构间的数据共享。2018年的一项调查显示，2080名英国成年人中50.3%的成年人愿意共享匿名的个人健康数据；12.2%的人愿意把个人健康信息分享给用于改善医疗服务用途的研究。

英国国家医疗体系（NHS）不同机构之间的数据共享协议和数据格式存在重大的差异。一些利益相关人士担心NHS系统的领导缺乏对数据共享协议达成一致的专业知识，从而使被NHS系统掌控的患者数据的价值无法得以充分发挥。2020年，英国政府成立了国家医疗系统数字化中心（NHSX）来提高数据的流动性和共享性。这一机构的设立旨在确保医疗体系内数据共享合作伙伴关系能够维持，并使整个国家医疗服务系统从数据共享中受益。

07 数据质量

人工智能系统需要海量并且高质量的训练数据集来产生准确的输出。不准确或不完整的数据会使人工智能系统输出结果严重偏离预期效果。训练数据通常需要以结构化的数字格式进行储存以便数据更容易被机器学习算法识别。但是英国国家医疗系统内不同组织的数据质量和格式存在很大差异，这取决于数据的电子化和标准程度。例如：尽管2017年54%的英国国家医疗体系（NHS）信托机构报告医疗机构人员可以依靠数字技术将他们所需的所有信息电子化记录，但是英国国家医疗体系（NHS）内的二级医疗保健单位仍然大量使用纸质手段进行记录。此外英国国家医疗体系（NHS）使用的许多IT系统无法做到与其他系统进行通信和互操作，这使得数据的收集工作变得更加困难。对此，英国国家医疗体系（NHS）的长期发展规划把实现系统的连通性和互操作性作为优先目标，从而实现数据的采集和共享。在这一规划下，预计在2024年英国国家医疗体系（NHS）内的所有医疗单位都将实现“信息数字化”。

08 安全性

评论人士对医疗保健行业内人工智能技术和其他技术的广泛使用可能造成医疗系统遭受网络攻击的潜在风险表示担忧。在人工智能开发期间，医疗系统内部与外部开发人员共享大型数据集的情况将使得数据泄露的风险大大增加，黑客及其他势力可能会通过对人工智能系统进行操控从而篡改输出结果进而干扰医疗系统或者进行医疗欺诈，甚至是盗取研发过程中患者提供的个人数据。

09 问责机制和法律责任

调查显示，由于担心人工智能的应用会导致医疗责任的模糊化和主管医生推卸对病人的责任，公众对人工智能或其他自动化决策系统持不同的信任态度。2016年，普华永道（PWC）针对12个国家12003名成年人的调查显示，39%的英国籍调查对象表示他们愿意通过人工智能系统进行诊断或治疗以及获得医疗保健方面的建议；50%的英国籍调查对象则表示不愿意这样做。目前，几乎所有的人工智能系统在实际应用中都向临床医生提供建议，然后再由医生根据他们的知识、经验作出最终的医疗决策。一个包含53名患者和社会公众人士参与的医疗科学研讨会表示，人工智能应该辅助临床医生做决策，而不是主导医疗决策。

从法律角度看，如果一个临床医生因采纳了人工智能系统的建议对病人造成了伤害，那么临床医生、系统研发人员和医疗服务提供商都将面临刑事起诉及民事索赔，临床医生也将面临医疗协会的纪律处分，然而如何处理这类事件还缺乏先例。目前还没有专业的监管机构制定指南或者法规来规范和指导人工智能的使用。像英国皇家医学学院这样的专业学术机构担心人工智能的应用难以明确法律责任和进行问责。随着“黑箱”技术的应用，决策的责任更加难以明确，在人工智能普遍应用的情况下，医疗决策的过程将变得十分复杂，这使得人们难以全面地理解一个医疗决策产生的过程。一些利益相关人士表示，未来社会需要全新的针对人工智能的法律体系来指导和规范人工智能的应用和发展。

10 医疗不公平现象

如何开发和使用人工智能系统决定了今后医疗不公平现象是增加还是减少。人工智能系统可以根据最新的医疗数据和执行标准对不同的症状进行诊断并提供无差别和标准化的医疗保健建议，从而减少不同医疗机构之间服务质量的差别并提高患者体验。但是，人工智能系统仍然存在算法上的缺陷，会提供与数据集相冲突的建议，这种情况可能是由于系统在研发期间使用的样本总量不能覆盖所有现实情况的训练数据导致的。例如：一个常见的皮肤癌研究数据库主要包含了白人患者皮肤影像的数据，而缺少其他肤色患者的皮肤影像数据。专家认为，机器学习系统使用这些数据进行训练会导致系统无法对黑色皮肤的患者进行诊断。《数据保护法》要求在使用个人数据进行研发和治疗的过程中避免歧视行为，《2010年平等法案》也禁止根据固有特征对不同群体进行区分和歧视。

11 人工智能的监管问题

直接用于医疗目的的人工智能系统将被纳入医疗器械、体外诊断设备或可移动植入设备的管理范畴。在英国，这类物品受药品和保健产品监管局（MHRA）的监管。根据2018年英国退欧法案，在英国脱欧过渡时期将保留欧盟相关法律，此期间《欧盟器械管理条例》继续生效。除了上述法规，英国政府针对本国市场流通的医疗器械也于2021年1月出台了规范指引。除了北爱尔兰地区，未来英国的相关法律将根据《2019-2021年度药品和医疗设备法案》来制定。英国政府表示，新的法规将注重医疗器械和药品的安全性并更好地促进包括人工智能在内的新技术在医疗行业的应用与推广。

人工智能领域对个人数据的使用行为将受到信息专员办公室（ICO）的监管，然而在英国国家医疗体系（NHS）内部对数据的使用有更严格的安全标准，并且对人工智能的研发将被认定为医疗研发，需要得到医疗研发管理部门的许可。英国医疗质量委员会已经申明，任何在没有人工干预下人工智能系统对患者的诊断和治疗都需要进行注册。医疗行业的相关人士认为现有的英国医疗研发监管体系涉及众多部门且流程繁琐，难以推动医疗创新的发展并且已经成为创新的一种障碍。英国国家医疗体系（NHS）的人工智能实验室正在资助简化监管程序的项目，包括创建一个多机构联合办公的咨询服务体系，期望能够为寻求指导的AI研发者提供更加便捷的一站式联系渠道。

在英国现有的监管和法律体系下，机器学习算法系统的研发与应用困难重重，尽管该系统能够在获得新的数据时继续学习，优化算法和输出结果，但是想要确保实现系统安全和高效的运行还是存在很多困难。美国食品和药品管理局已经出台了允许研发人员预先设计一系列针对未来AI系统改变的安全程序的法规，但在英国这方面做的还不够。作为美国的合作伙伴，国标准协会已经考虑如何制定国际化的医疗器械管理标准来应对和解决英国人工智能发展可能面临的各种情况与挑战。