智能医疗机器人,无论多么先进,其研发与应用都与人类行为分不开,虽然智能医疗机器人在医疗决策方面具有一定的自主性,但在人工智能医疗技术的研发与应用中人类的过失行为依然是医疗事故的风险来源之一。从上文的分析可知,在智能医疗机器人的研发与应用中,人为因素下的医疗风险主要来源于两个方面,一是智能医疗机器人的研发者与生产者在研发与生产过程中导致的产品缺陷的情形下引发医疗事故的风险;二是智能医疗机人的使用者——医务人员在人机合作过程中因自身失误引发医疗事故的风险。下文将分析在人工智能因素的介入下,人工智能医疗行为中,智能医疗机器人的研发者、生产者以及使用者过失引发医疗事故后刑事责任的承担问题。
(一)研发者、生产者对人工智能医疗事故的刑事责任
研发者与生产者在设计与生产时为智能医疗机器人设计算法、编制程序以及提供相关数据信息,使智能医疗机器人能够完成相应的医疗任务。因此,研发者与生产者往往被认为是智能医疗机器人医疗事故风险的源头。在智能医疗机器人的研发与生产过程中,若研发者与生产者因过失使所研发或生产的智能医疗机器人存在产品缺陷,进而造成重大医疗损害的,应当承担相应的刑事责任。智能医疗机器人与普通医疗器械产品不同,其包含很多复杂的算法和程序,使得研发者与生产者对智能医疗机器人的风险预见性和可控性较低。面对这种情形,为确保智能医疗机器人的产品安全,对研发者与生产者在研发和生产过程中的注意义务要求也应有所不同。研发者与生产者是否承担过失责任取决于其在研发与生产中是否履行相应的注意义务,因此明确研发者与生产者的注意义务内容是认定其过失责任的关键。注意义务的来源主要有三个方面:一是法律法规的规定;二是相关的行业规范;三是生产者关于产品的承诺。由于智能医疗机器人还处于研发与生产的起步阶段,目前无论是相应的法律法规还是行业规范都没有关于智能医疗机器人产品安全标准的规定。要合理地追究研发者与生产者的产品责任,有必要根据智能医疗机器人的产品特性以及其发展现状合理地规定智能医疗机器人研发者与生产者的注意义务内容。注意义务的内容包括结果预见义务和结果避免义务,结果预见义务是指行为人在行为过程中要保持注意力集中、意识紧张,对可能发生的危害结果的认识义务。结果避免义务则指行为人在行为过程中要保持注意力集中、意识紧张,采取适当措施防止危害结果发生的义务。医疗行为本身是一种具有复杂性和专业性的行为,再加上人工智能技术的应用,使其复杂性与专业性更加突出,因此在智能医疗机器人的研发与使用中,不论是对危害结果的认识还是在危害结果的避免上,研发者与生产者都应当保持专业化的谨慎态度。
首先,从预见义务出发,研发者与生产者在产品的研发与生产过程中对智能医疗机器人可能存在的风险应当规定比其他产品更为严格的预见义务。理由在于,智能医疗机器人作为一种正处于探索阶段的新兴产品,研发者与生产者对技术与产品的安全性还未有十足的把握,对于智能医疗机器人的应用风险预见较为有限。因此,对于研发者与生产者而言,在研发与生产阶段应当承担对智能医疗机器人进行充分测试的义务,通过充分的测试来实现对风险的充分认识,进而实现对风险的控制。此外,除了在研发与生产过程中规定对产品的充分测试义务外,还应当要求研发者与生产者在智能医疗机器人投入使用后对其危险性予以持续关注的义务。由于智能医疗机器人在现阶段的应用经验较为缺乏,人工智能技术的深度学习能力使其随时可能产生研发者在研发阶段没有预料的风险,因此,作为技术掌控者的研发者与生产者在智能医疗机器人投入市场后应当对其应用风险予以持续关注,密切跟踪智能医疗机器人的使用效果与数据,并对智能医疗机器人使用中的不良数据进行采集与分析,以实现对医疗隐患的预见,进而避免发生医疗损害。
其次,从结果避免义务出发,智能医疗机器人的研发者、生产者同其他产品的研发者、生产者一样,在对危害结果有所预见的情形下,致力于避免危害结果的发生,从结果避免义务出发,研发者与使用者主要包括产品设计、产品生产,以及产品说明与警示方面的注意义务内容。对于研发者而言,应承担合理设计的义务,即通过合理的设计消除所能预见的所有现实危险,确保所设计智能医疗机器人的安全性。对于生产者而言,其注意义务在于保证智能医疗机器人所整合的所有零部件以及整合后的智能医疗机器人在功能上不存在缺陷。所谓说明与警示义务是指研发者与生产者在智能医疗机器人投入市场时,应明确告知使用者关于智能医疗机器人的正确操作方法,并且充分披露产品所存在的风险。此外,正如上文所述智能医疗机器人的研发与应用还处于起步与探索阶段,因此研发者、生产者应当承担产品的市场跟踪义务,及时采集使用过程中出现的不良数据并进行分析与风险预测。与此相对应,一旦研发者与生产者发现已投入使用的智能医疗机器人存在安全隐患,则应当立即召回,以避免发生医疗损害,这是研发者、生产者的不良产品召回义务。