初级保健中的人工智能


位置

人工智能(AI)为全科医生和病人带来了希望,但必须谨慎地降低它带来的风险。RACGP:

  • 认为全球定位系统必须参与初级保健中基于人工智能的解决方案的开发和集成,以确保解决方案符合目的
  • 鼓励努力确保对该部门进行适当监管
  • 致力于支持全科医生根据需要发展与人工智能合作所需的技能。

1.定义

人工智能(AI)描述了人类认知能力的机器模拟,如学习、推理或解决问题以及自我纠正。1它包括一系列技术,如机器学习、深度学习、自然语言处理、机器人、聊天机器人、图像识别和机器视觉以及语音识别。2、3

在人工智能领域,有狭义(或“弱”)人工智能的区别,狭义(或“弱”)人工智能能够完成特定任务;和一般(“强”)人工智能,后者能够处理更高层次的认知任务,如决策、规划和情境感知。3.狭义人工智能目前被广泛应用于医学和其他领域,但模仿人类智能的通用人工智能目前仅在理论上可行。

虽然人工智能的概念已经存在了大约70年,但它的早期版本涉及“以规则为中心”的方法,即程序员明确地开发机器遵循的逻辑。随着时间的推移,人工智能的发展已经转向了“以数据为中心”的方法,在这种方法中,机器能够使用以前收集的数据进行学习。4这也被称为机器学习。人工智能目前的基础是算法、大量“训练”数据以实现学习,以及强大的计算机处理功能,允许在短时间内处理大量数据。3.

2.人工智能的承诺

在初级保健中使用人工智能有一系列潜在好处:

  • 减少日常管理和临床任务的负担或提高效率,使全科医生专注于为病人提供护理3.
  • 填补医疗专业人员短缺地区的服务缺口,如发展中国家或偏远地区2
  • 增加患者在就诊期间以其首选语言获得护理的机会1
  • 减少与疲劳和其他人类弱点(如认知偏差)相关的患者安全风险5
  • 提高诊断准确性和效率,特别是在罕见疾病的情况下6
  • 跨医疗机构标准化护理1
  • 个性化治疗。7

人工智能被吹捧为影响深远的解决方案,有可能在患者管理中发挥重要作用。这还没有实现。然而,据预测,人工智能各个领域的重大进步将在未来20年内极大地扰乱医疗服务的提供,包括语音识别和自然语言处理(NLP)、自动图像解读和使用人工智能的预测分析。7

3.潜在问题和不想要的结果

3.1.安全和法规问题

患者安全风险是人工智能在医疗领域广泛应用的最大障碍。人工智能工具可能会提供不安全的建议,因为它的编程能力差,使用的数据不充分或不具代表性(有偏见),或者容易受到黑客攻击。1人工智能工具在不恰当的环境中使用也存在风险,随着时间的推移,这可能会影响设备的决策能力。3.

人工智能技术在澳大利亚和世界各地仍处于监管之下。希望在澳大利亚初级保健环境中实施人工智能解决方案的研究人员对人工智能工具的安全性和有效性评估缺乏严谨性提出了质疑,这与应用于新治疗和程序的人工智能工具形成了对比。8

在监管滞后于技术进步的地方,商业开发商可能会在没有足够的测试或证据来保护公众的情况下匆忙将产品推向市场。

在调节人工智能产品方面,需要考虑具体的挑战。根据定义,机器学习涉及到计算机从经验中学习的能力的进化,因此使用这种技术的设备可能在某一天符合标准,但在下一天则不符合。1人工智能可能还能识别匿名数据。9另一个主要问题是“黑匣子”现象。在机器学习系统中进行的复杂决策很难让人理清和理解,在某些情况下,这个过程将是开发者或技术公司的专利产品。这就给评估系统的可靠性和确定是否存在偏见影响了决策带来了问题。

与监管问题密切相关的是责任问题。如果临床医生忽略AI的建议,或遵循AI的建议,但结果不好,那么故障的发现可能会变得复杂。8有许多这种性质的伦理问题需要深入思考。例如,全科医生是否有权推翻机器的诊断或决定?反过来适用吗?如果适用,适用到什么程度?1

3.2.加剧了健康不平等

人们有理由担心,人工智能可能会传播和放大卫生公平方面的现有问题。人工智能产品可能会“植入”偏见。他们可能使用不具代表性的数据集进行训练,或者他们的目标可能选择不当。1例如,一个问题是使用历史培训数据,其中没有妇女和少数民族代表。

3.3.劳动力问题

虽然许多人已经设想了人工智能将完全涵盖人类任务的未来,但医生的复杂工作不太可能由独立运行的机器来完成。人工智能无法复制医生的价值判断和同理心,但随着时间的推移,它将补充人类的技能。5、10全科医生将继续为诊断和治疗决策提供社会、临床和个人背景。11

然而,人工智能可能会如何影响初级保健的提供,存在合理的担忧。如果人工智能在患者互动和决策中扮演重要角色,这种转变可能会影响行医的意义。1正如人工智能有可能减轻管理负担一样,它也可能通过剥离一般实践的社会因素和刺激诊断中的问题解决来降低工作满意度。

重要的是,有必要确保人工智能不会为全科医生和普通医生创造不必要和低价值的工作。开发人员有可能创造出旨在提高效率和有效性的产品,但最终只是通过任务替代为临床医生产生额外的工作,例如审查和编辑由数字抄写员自动准备的临床笔记。12

对宏观服务提供的影响也可能即将出现。例如,如果患者在人工智能工具的指导下自行转诊,对全科医生服务的需求可能会增加。1人工智能可以将低成本、低风险的患者从常规医疗中转移出去,并将那些需要更多临床医生时间和资源的患者抛在脑后。这有可能给已经资源不足的部门带来负担,并导致全科医生精疲力竭。12

3.4.信任和认可

在初级保健中采用人工智能的一个主要障碍可能是对该技术缺乏信任。人工智能是否有能力提供考虑患者偏好、需求和价值观的医疗服务,人们对此表示怀疑。许多全科医生认为,患者和医生之间的互动是医疗信息收集的一个组成部分,并相信患者不会接受技术替代面对面的人类护理。13

来自医学和人工智能领域的专业人士之间缺乏合作,导致了这种信任的缺乏,并阻碍了他们的理解。14如果没有临床医生参与人工智能技术的设计、实施和监管,医疗体系可能会继承一些产品,这些产品不仅无法解决现有问题,而且还会产生新的、不可预见的问题。

全科医生和初级保健研究人员需要与人工智能开发人员合作。GPs必须在指导和监督人工智能作为这些技术的最终用户的整合方面有发言权。

不参与这一进程可能会产生深远的后果。这可能会导致系统或产品对临床医生或患者都没有好处。12,14对技术公司股东的价值可能优先于患者的结果。15

需要建立由人工智能专家、初级保健研究人员和一线临床医生组成的研究团队,并培养这两个学科之间的合作。4研究人员应该在初级保健环境中进行评估研究,全科医生应该在制定研究问题方面发挥积极作用,以便研究结论具有实际应用价值。15

RACGP还在弥合行业和政府机构之间的差距,促进人工智能知识共享方面发挥作用。

4.政策回应

4.1. 统治

立法者、监管者和专业机构必须跟上人工智能的发展步伐,以确保其安全实施,特别是在风险较高的医疗环境中。

澳大利亚皇家人工智能协会渴望与所有利益攸关方合作,解决如何最好地监管人工智能的难题,使这些技术能够使澳大利亚患者受益。

我们认识到需要在监管和创新之间取得平衡,以促进患者的利益。在这项技术被广泛应用之前,充分而坦率地考虑各种伦理和法律问题可能是成功开发新技术的关键,就像体外受精(IVF)一样。1在这一领域的缓慢工作或过度监管可能会阻止潜在的救命技术的发展。9

产品放行后,必须有保护病人的措施。上市后的监测将是至关重要的,因为不断从以前收集的数据中学习的系统必须随着时间的推移,以动态的方式进行评估,以确保它们仍然适合于目的。

澳大利亚可能需要建立一个新的监管机构,以填补现有政府部门和立法工具的空白。16

4.2.188bet手机版下载苹果教育

在职业周期的各个阶段,全科医生都需要掌握与人工智能合作的新技能,并跟上该领域的快速发展。17一些人认为需要对医学教育进行全面改革,因为人工智能带来的变化将对医学实践产生深远影响。188bet手机版下载苹果18可以肯定的是,未来的医学生将需要了解医学信息学、数学概念、数据科学和人工智能的伦理。7他们需要评估新人工智能技术安全性和有效性的工具。19在研究生阶段,还应该关注人工智能在临床实践中的相关应用。20.

充分利用人工智能技术为他们的病人,医生也需要维护和建立独立的技能从机器的能力展示同情心,看到病人和疾病之间的关系,并考虑病人的情绪状态。19、20沟通、决策、领导和团队工作技能将继续对未来的全科医生至关重要。

RACGP致力于支持全球定位系统根据需要发展与AI合作所需的技能。

  1. 皇家医学院学院。医疗保健领域的人工智能。伦敦:AORMC;2019.
  2. 林西,马奥尼先生,加利福尼亚州辛斯基。人工智能将改变初级保健的十种方式。国际医学杂志。2019;34(8):1626-30.
  3. 皇家全科医师学院。人工智能和初级保健。伦敦:RCGP;2018
  4. Kueper JK,Terry AL,Zwarenstein M,Lizotte DJ。人工智能和初级保健研究:范围界定综述。安·法姆医学院。2020;18(3):250-8.
  5. 一般实践中的人工智能和诊断。中国人民大学学报。2019;69(684):324-5。
  6. Buch VH,Ahmed I,Maruthappu M.医学中的人工智能:当前趋势和未来可能性。Br J根实践。2018;68(668):143-4.
  7. Topol E.《Topol review:为医疗工作者提供数字化未来的准备》。英国伦敦:国民保健服务;2019
  8. Pearce C,McLeod A,Rinehart N,等。人工智能与临床世界:前线的观点。奥斯特医学院。2019;210(6):S38-40。
  9. 王志强,王志强,王志强,等。人工智能:澳大利亚的伦理框架。新南威尔士州悉尼:CSIRO Data61;2019.
  10. Powell J.相信我,我是一个聊天机器人:医疗保健领域的人工智能如何无法通过图灵测试。中华医学网络杂志2019;21(10):e16222。
  11. 维尔盖塞州,新罕布什尔州,哈灵顿州。这台计算机需要的是一位医生:人文主义和人工智能。美国医学会杂志。2018;319(1):19-20.
  12. Coiera E.人工智能的代价。2019;28(1):14。
  13. 请C, Kaptchuk TJ, Bernstein MH,等。人工智能和初级保健的未来:英国全科医生观点的探索性定性研究。中华医学杂志2019;21(3):e12802。
  14. Liaw W, Kakadiaris IA。初级保健人工智能:一个隐藏在公众视线中的分支。Ann Fam Med. 2020;18(3):194。
  15. Liaw W,Kakadiaris I.人工智能和家庭医学:更好地结合在一起。家庭医学。2020;52(1):8-10.
  16. 澳大利亚人权委员会和世界经济论坛。人工智能:治理和领导力——白皮书。新南威尔士州悉尼:AHRC;2019
  17. 马志强,王志强,王志强,等。关于人工智能,医科学生实际上需要知道什么?中华医学杂志。2020;3(1):1-3。
  18. 《人工智能时代医学教育的重构》,Wartman SA, Combs CD。188bet手机版下载苹果美国医学伦理杂志。2019;21(2):146-52。
  19. Rampton V,Mittelman M,Goldhahn J.人工智能对医学教育的影响。柳叶刀手指健康。2020;2(3):e111-e2。188bet手机版下载苹果
  20. Paranjape K,Schinkel M,Nannan Panday R,Car J,Nanayakkara P.在医学教育中引入人工智能培训。JMIR医学教育。2019;5(2):e16048。188bet手机版下载苹果

下载此立场声明

初级保健中的人工智能(PDF 151 KB)

广告

广告