首页 >  重点推荐 >  

21年6期,苏炜杰:人工智能养老服务侵权问题探析
2023-04-28   来源:苏炜杰   

  摘要:人工智能在养老服务领域的应用引发了诸多侵害老人权利的现象。智能养老机器法律地位不明确、侵权行为主体复杂、侵害客体多变等原因,使得该领域侵权责任认定陷入了困境,且人工智能居家、机构与医养结合养老服务模式下难以单独适用过错责任、无过错责任归责原则。应在明确人工智能养老服务机器法律客体地位基础上,适用产品责任和医疗损害责任完成人工智能养老服务侵权行为的责任承担。而赋予老人新兴权利、对制造者责任进行适当限制、引入强制责任保险也是规制人工智能养老服务侵权的有效措施。

  关键词:人工智能;养老服务;侵权责任;老人权利;产品责任;医疗损害责任

  中图分类号:C913.6    文献标识码:A

  文章编号:1005-3492(2021)04-0194-15

  以智能家居、智能城市、智慧社区以及智能医疗为支撑的人工智能养老模式,在提升老人的获得感、安全感和幸福感的同时也带来了诸多新风险,如服务提供者由于故意或重大过失等原因不当操作智能养老机器造成老人的人身、财产权益遭受侵害,抑或是国务院办公厅《关于切实解决老年人运用智能技术困难实施方案的通知》(2020)中指出的,老人由于数据鸿沟问题导致其在智能化时代的多种新型权利遭受到侵害。科技创新催生经济发展新动能,伴随着智能养老机器在养老服务活动中的广泛应用,我国养老工作领域逐渐迈进了人工智能时代,受其影响我国养老服务侵权法律制度也经历着深刻的变革。养老服务领域有效适用侵权责任法律制度能有效防止侵权行为的发生和确保老人权益的实现。但人工智能时代以5G、大数据、物联网为代表的智能技术在养老服务领域的广泛应用,使得传统侵权责任法律制度在养老服务领域的适用面临着严峻的挑战。

  一、文献综述

  域外立法机关多采取积极行动来应对人工智能养老服务过程中可能存在的各种风险,如在国际老龄联合会(IFA)发布的《老年人信息通信技术的社会伦理和隐私需求:对话路线图》、欧洲立法机构发布的《欧洲机器人技术路线图》和《欧盟机器人民事法律规则》等文件中,都着重强调了智能养老领域研究人员的法律责任、保障老人权利实现的路径以及智能养老服务产业发展的具体指导意见。我国政府也相继出台了《智慧健康养老产业发展行动计划(2017-2020年)》《关于推进养老服务发展的意见》和《关于促进“互联网+医疗健康”发展的意见》等政策文件,在政府政策激励下我国人工智能养老服务业也迎来了重大发展机遇。

  智能养老服务过程中出现的侵权风险和归责难题逐渐受到了学界的关注。一是国内学者的研究,主要集中在智能养老机器法律地位以及侵权责任承担主体等领域。学者们对于人工智能产品是否具有独立的人格地位存在较大分歧,有学者认为特定情况下可赋予人工智能机器法律主体地位,此种观点下智能养老机器可能被认定为侵权法中的法律主体进而需要独立承担民事责任。这种认识也引发了社会法学者的共鸣,如有学者认为若不赋予家居机器人主体地位可能会导致在适用现行侵权法律制度时会面临较大困难。但也有学者认为智能机器不具有规范性认知能力所以不应赋予其法律主体地位,发生侵权行为后需由人类承担相应责任,这种观点下智能养老机器侵权所产生的风险最终需要由养老服务提供者承担。但算法技术的发展使得智慧养老服务机器可通过自动决策为老人提供服务,此时让无辜的智能养老机器使用者单独承担侵权责任明显不公平。所以有学者认为,即使算法决策技术因具有不可解释性特征而可以逃避法律责任,基于公共利益考量也应该让智能机器的研发者、制造者、使用者共同承担相应责任。考虑到我国已经连续4年展开了智慧健康养老产品与服务推广目录申报以及智慧健康应用试点工作,可以预见在未来的智能养老服务过程中,健康检测、康复训练和中医疗养等智能养老服务机器会被大量应用。所以明晰智能养老机器使用者、研发者以及生产者等相关主体的责任,对规制智能养老机器侵权现象尤为必要。二是国外学者的研究,主要集中在应用智能养老机器带来的不利影响以及侵害老人身体健康权利时所能采取的保护措施。虽然智能机器有利于提高老人的护理质量,但其难以像人类那样有效维护老人的尊严,智能护理机器代替护理人员使得老人与人类的接触活动减少,这可能会导致老人正常的人际关系受到影响,所以护理人员在养老服务过程中仍占据着重要地位,毕竟人际关系在社会关怀中占据首要位置,自主权和维护人际关系权也是体面对待老年人的重要组成部分。另外,智能养老机器会对老人的隐私权、自主权造成威胁,所以需形成由智能护理机器供应商、制造商、政府等组成的协同监管框架。虽然智能机器已经逐渐融入了人类的道德决策过程中,但机器伦理不同于人类伦理且两者并不能相互替代,所以也需对智能机器伦理进行规制以确保其符合人类期望。

  相较于传统侵权行为,人工智能引发的侵权行为具有复杂性和不可预见性,且养老服务领域的侵权问题也与老人慢性病治疗以及康复护理等知识紧密结合,具有很强的专业性且对技术条件要求较高,这些因素导致智能养老服务领域的侵权问题复杂性特征显著。但纵观现阶段关于该领域的研究,一方面,国内多数研究仍聚焦于智能养老服务面临的安全风险、伦理风险、法律公平性风险等传统领域,对于智能养老机器侵权的损害事实认定、归责原则确定、责任承担方式以及损害赔偿等具体规则的探讨则较为匮乏;另一方面,相比于人工智能在自动驾驶汽车、著作权保护等领域侵权问题的研究,人工智能养老服务侵权领域的研究明显不足。基于此,笔者尝试在厘清智能养老机器法律地位的基础上,对智能养老机器在不同养老服务模式中应如何适用侵权制度进行剖析,以期为解决人工智能养老服务侵权困局提供可行的建议。

  二、人工智能养老服务应用现状以及相关侵权案例

  伴随着人工智能技术在养老服务领域的应用,我国养老服务智能化水平进展顺利。我国现阶段形成了四种典型的人工智能养老服务模式,即智能居家养老服务模式、智能机构养老服务模式、智能医疗与养老服务模式(医养结合模式)、智能城市养老服务模式,且前三种模式在实务活动中的效果更为显著。

  (一)人工智能养老服务应用现状

  1.智能居家养老服务模式

  人工智能技术提升了居家养老服务工作效率且利于老人差异化养老需求的实现。美国的Senior home care(老年家庭护理)、Assisted-Living(辅助生活)服务遵循以人为本理念,在熟悉的家庭环境为老人提供照护服务的同时也提升了老人的社交活动能力。美国考克斯通信公司(Cox Communications)发起的智能家居(家庭自动化)项目也广受欢迎,其通过Wi-Fi控制养老、医疗设备的形式确保老人在家里就能获得高质量的养老和医疗服务。考虑到美国老人习惯在家就地养老(Aging In Place),美国住房和城市发展部(HUD)自2015年启动了无障碍住房技术研究与示范补助计划,注重利用技术手段改进房屋条件来满足行动不便人员的居家养老需求。我国江苏等地形成的“平台+服务+老人+终端”智能居家养老服务模式,能够为老人提供信息化、人性化、精准化的智能养老服务。我国智能居家养老服务体系是围绕着社会亲老化、适老化需求所进行的社会变革,逐渐形成了一项由技术、理念、法治等为基础的系统性工程。

  2.智能机构养老服务模式

  人工智能技术和机构养老的结合能够将分散的养老服务资源进行集中然后进行精准供给。人工智能技术有效解决了养老机构存在的服务人员缺少、运营成本高的困境,智能设备还可以将机构养老与居家养老进行有序对接,以养老院为中心将优质养老资源适当延伸到居家养老服务过程中,实现拓宽养老院经营范围和提高其市场竞争力的目标。如新疆生产建设兵团第六师五家渠市吾家乐宝养老总院就将养老资源进行了整合,以养老总院为平台逐渐将养老资源向社区和居家养老服务延伸,构建了“机构定标准,优质服务进家庭、进社区”的专业化服务机制。国务院办公厅《关于推进养老服务发展的意见》中提出了建设“智慧养老院”和促进“互联网+养老院”模式发展,各地也通过养老机构的虚拟化、网络适老化改造工程打造了一批真正意义上没有围墙的养老院。

  3.智能医养结合服务模式

  随着人口老龄化发展趋势加快以及慢性病患者增加,医疗护理业务在智能养老服务中的重要性显著提升。国外普遍重视将智能养老服务与医疗服务进行有效结合,如美国研究机构research and markets发布的《全球医疗保健人工智能报告2020-2027》显示,随着老龄人口数量以及患慢性病、传染病人数的攀升,到2027年全球智能医疗保健市场会达到 353.235 亿美元,将逐渐从量型医疗保健过渡到基于价值的医疗保健。智能医养结合服务本质上以智能养老服务平台为核心、以医疗服务为重点,为老人提供医疗康复、生活照顾等全方位、一体化服务。我国多地积极开展医养结合服务,如湖北省宜昌市社会福利院突出慢病康复、长期照护特色,通过医保全覆盖来为患病、临终老人提供“医、养、康、护、慰”一体化医养结合服务;广州市老人院则建立了医养康养相结合、居家社区机构相协调的全生命周期老年健康服务体系和养老服务体系,这些医养结合服务实践过程中也普遍重视利用智能技术促进服务质量的提升。

  (二)人工智能养老服务领域的侵权案例

  人工智能养老服务过程中由于不当使用智能机器而导致老人权利受侵害的现象广泛存在,主要包括:其一,老人的隐私和个人信息遭到不当泄露。在对老人进行全方位照护服务过程中所收集的隐私信息可能会因为技术漏洞而遭到泄露,如Cybernews 团队研究发现国内部分智慧养老服务平台中包含大量老人健康隐私信息的数据库能被外部访问。而在疫情防护过程中,养老服务机构出于安全因素考虑往往会在服务场所安装智能监控或采取健康二维码等无接触防控措施,这些服务过程中可能存在侵犯老人隐私权和知情权的现象。其二,老人身体健康权受侵害且面临严重的安全问题。现阶段医养结合服务中普遍重视老人的医疗与康复护理,随着智能医疗手段在临床治疗中的广泛应用,多数智慧医疗、健康护理项目中出现了由于不当利用医疗人工智能技术而导致老人身体健康权受侵害的现象。智能养老机器工作一旦出现错误会严重侵害老人身体健康甚至生命,如美国老人卢安-达根由于智能呼叫机器Alexa未能及时帮助她报警而失去了生命。其三,老人在数字时代产生的新型权利受到了侵害。部分老人群体受到学习能力、经济条件以及社会结构变革等因素影响,对智能养老设施的理解、接受与运用能力均处于劣势,智能养老服务的快速开展导致这些老人难以共享发展成果,这在事实上使得他们也成为了数字弱势群体,他们的基本生存能力与权益保障均受到了侵害。如现代社会中出现的“94岁老人被抱起做人脸识别”“老人无健康码遭地铁拒载”等现象,其实是智能养老服务时代老人数字新型权利受侵害的例证。伴随着数据挖掘、智能化决策技术的使用,老人的免受算法自动化决策权、个人信息被遗忘权等新型权利逐渐兴起,而智能养老服务平台在数据处理过程中对老人信息的过度支配和控制,容易引发侵害老人上述新型权利行为的发生。

  另外,笔者以“人工智能”“养老”“侵权”“老人”为关键词,以近五年(2016-2020)为区间,在中国裁判文书网共检索到56件判决书,且大体呈现出连年增加的趋势(分别为5件、12件、14件、17件、8件)。这些侵权案件类型丰富,包括人工智能技术应用于养老服务活动中出现的机构侵权、服务人员侵权、服务设施与产品侵权等。考虑到人工智能技术的快速发展以及侵权案件具有的隐蔽性、复杂性特征,社会中实际侵犯老人权利的案件数量估计会更多。由此可知,智能养老服务领域的侵权现象逐渐成为了涉人工智能领域的热点。正如国务院办公厅《关于建立健全养老服务综合监管制度促进养老服务高质量发展的意见》(国办发〔2020〕48号)文件中指出,需立足长期安全运营和落实安全责任,主动防范和消除食品、医疗卫生等方面的隐患,加强对居家养老服务内设医疗机构执业、医疗器械与药品的监督管理。有效落实这些规定对于解决智能养老时代侵害老人权利的现象十分重要。

  三、人工智能养老服务侵权的特点

  (一)侵权行为类型复杂

  我国正处于构建居家社区机构相协调、医养康养相结合养老服务体系的关键时期,居家养老、机构养老、医养结合等模式中均注重引入人工智能技术,但不同模式中智能机器侵犯老人权利的行为类型、责任承担方式却有较大差别。首先是智能机构养老服务,该模式中不当利用智能机器引发的侵权行为,主要包括养老机构未尽到安全保护义务、养老机构工作人员存在职务不当行为、智能养老机器本身存在缺陷等,需要适用侵权责任法律中的安全保障注意义务条款、用人单位替代责任条款进行规制。其次是智能居家养老服务中,该模式具有服务供给主体多元化、服务内容多样化特征,这导致发生侵权行为后难以查明具体的责任承担主体,且不同主体间可能构成共同侵权、无意思联络分别侵权等多种侵权类型。最后是智能医养结合服务,在医疗、助餐、精神慰藉等服务过程中发生的侵权行为,若是由于养老组织提供的服务造成侵权需适用过错责任;而若由于医疗组织提供的服务造成侵权,则需要适用过错推定责任、无过错责任等归责原则。

  (二)侵权事实认定困难

  人工智能养老服务侵权行为的事实认定往往较为困难。人工智能养老机器具有较强的自主性,如我国智能养老机器设备在搭载AI模块后可通过决策系统和深度学习技术实现各种复杂的智能化操作,以及提供更好的环境感知能力和人机互动体验,这使得人类并不能完全控制人工智能养老机器的具体运行过程。智能机器可能会打破人类预先设定的服务规则进而进行自主决策,这种由于智能机器程序的自由运行导致的事故其原因一般较为复杂,而人工智能机器研发设计中的漏洞和运行程序的不合理也加剧了侵权事故认定上的难度。另外,智能养老机器侵权呈现出极强的隐蔽性和不可预见性特征,应用于养老服务领域的人工智能机器可通过算法技术进行独立判断,人类因此难以探究智能养老机器是否具有主观过错,这导致在高度自主化环境下探究客观事实以便于解决举证难的问题愈发困难。这些因素共同导致了老人受到智能机器侵害后对具体事实的调查存在巨大困难。

  (三)老人救济能力较弱

  老人在智能养老服务中受到侵害后往往难以获得有效救济。首先是老人对智能产品侵权的认知水平有限。根据第《46次中国互联网络发展状况统计报告》显示,我国60岁以上网民占比约为10.3%且多数老人使用的仍是功能单一的智能设备,老人多习惯于传统的人工服务而对智能化服务、智能养老技术均缺乏足够了解,这导致老人对于智能养老服务中可能会出现的侵权行为缺乏足够的应对能力,在使用过程中也缺乏证据固定和证据保全意识。其次是受侵害老人不具有识别人工智能侵权的专业知识。人工智能养老机器中涉及到大量专业知识,智能机器研发和生产机构以知识产权保护为由不公开相关技术规则也是符合规定的,即使受害者通过法律途径获得了相关信息,普通用户、律师和裁判人员尚且难以有效辨识这些信息,对于缺乏专业知识且对新技术理解能力较低的老人来说会更困难。

  四、人工智能养老服务侵权法律适用困境

  (一)智能养老机器法律地位不明

  解决人工智能养老服务侵权问题的首要步骤是明晰谁是责任承担主体。首先,从人工智能养老服务实务视角看。技术的发展趋势似乎倾向于赋予部分智能养老服务机器人适当的法律人格,如在第四届国际养老健康产业博览会上所展示的智慧机器人temi,对于老人和护理人员来说更像是一款有温度、可触摸的人工智能产品。所以针对介于人类与工具之间的新型实体,有学者提出有必要赋予智能机器人独立的法律主体资格。其次,从学术研究视角看。学者们对于是否赋予人工智能机器法律人格的争论可归纳为主体说(包括代理人格说、人格减等说)、拟制说、客体说(包括类人说、工具说)。但这些学说存在的问题是:一、主体说认为可以赋予智能养老机器法律主体资格,但是这种从权利角度出发认为人工智能具有权利能力进而需要赋予其主体资格的做法,忽略了权利仅是权利能力的部分构成要素,还包括承担义务和负担责任等内容。二、人格减等说源于罗马法且主要指罗马公民自由、市民资格、家族权的丧失或变更,而这种针对自然人法律人格地位变化的说法难以直接用来解释于人与人工智能机器之间的关系。三、拟制说认为法律人格是立法者简化法律部关系的一种手段,但是否具有法律人格需关注其能否独立做出意思表示、独立主张法律权利与承担法律责任,显然人工智能不具有这两方面的能力。可见,现阶段对是否赋予智能养老机器独立法律地位仍存在争议。

  (二)侵权法律关系主体难以认定

  传统养老服务过程中的侵权法律关系较为简单,如养老机构与入住老人之间、居家养老服务提供商与接受服务老人之间一般都订立了服务合同,在提供养老服务过程中存在侵权行为时,老人及其监护人可依据合同之债确定具体的责任承担主体。

  但智能养老服务侵权主体却呈现出复杂性,原因是人工智能养老服务网络需要个人、家庭、社会组织、医疗机构、养老服务提供者和政府等多元主体共同参与,这导致人工智能养老服务过程中发生的侵权行为属于典型的多数人侵权。仅凭智能养老设施或产品本身或许并不会对老人构成侵权,还需要智能养老服务信息平台、养老服务提供商及其服务人员等提供的后续服务才有可能产生损害事实,这使得具体侵权行为的产生原因极为复杂。另外,智能养老服务信息平台的开发者,智能养老产品的研发者、生产者、销售者、使用者,甚至其他第三方民事主体均有可能成为侵权行为主体。我国《民法典》第1169条至第1172条对多数人侵权制度做出了具体规定,多数人侵权类型较为复杂且在责任构成上包括共同加害、无意思联络多数人侵权、共同危险,在责任效果上包括连带责任、不真正连带责任、按份责任等。可见,智能养老服务过程中引发的侵权行为在具体侵权主体认定以及法律适用上均面临较为复杂的情况。

  (三)侵害客体多样增加了保护难度

  人工智能养老服务模式注重对老人日常生活、医疗保障、人格尊严与自我实现等多元化需求的满足,在此过程中可能侵害老人的隐私权、个人信息利益以及其他新型权利。人工智能技术服务于老人过程中,一方面需广泛收集诸如身体健康状况、实时定位数据等诸多隐私信息,这些兼具人格属性与财产属性的信息被不当利用后,可能会导致老人财产权、隐私权、生命健康权等多项权利受到侵害。另一方面,老人科技知识水平与经济条件的提升促进了老人群体权利意识的勃兴,人工智能时代逐渐衍生出老人自决权、免受算法自动化决策权和个人信息被遗忘权等新型权利。自决权指的是老人在智能养老过程中可自主决定接受由谁以何种方式提供的服务,如国外的“以人为本护理计划”(Person-directed care planning),其目的就在于确保养老服务提供者尊重老人自主决定权,由老人根据自身需求与偏好来选择服务,而非在他们没参与的情况下为其制定护理方案。被遗忘权指的是老人可要求智能养老服务提供主体对与自身相关的信息履行删除和保密义务,由于智慧养老服务企业可通过大数据技术掌握老人的需求定位与消费偏好,若其存在《关于平台经济领域的反垄断指南(征求意见稿)》文件中所禁止的大数据杀熟行为,风险意识较差的老人其权益很容易遭受侵害。而赋予老人数据信息被遗忘权则有助于及时消除与老人密切关联的信息,进而从源头上遏制侵害权益行为的发生。这些新型权利的形成对老人权利受到侵害时如何有效利用现行法律进行救济提出了新的要求。

  (四)侵权责任归责原则适用困难

  首先,过错责任难以直接适用。智能养老服务机器在现行立法中的法律地位尚不明晰,在未将其纳入侵权责任主体范畴的状况下,若直接适用过错责任原则会与该原则需以行为人主观上具有过错这一要件发生冲突。其次,无过错责任亦难以直接适用。无过错责任原则是特殊的归责原则且严格限制在法律特别规定的情形中,在我国侵权责任立法中未明确智能养老产品侵权可适用该规则,且立法机关也未出台其他特殊规定的情况下,是难以在智能养老服务侵权领域直接适用该归责原则的。再次,产品责任也存在适用困境。人工智能养老服务中难以直接适用该规则,原因在于适用产品责任需要证明产品存在缺陷且与损害事实之间具有因果关系,而我国现阶段缺乏关于智能养老产品国家、行业层面统一的认定标准或体系,而且社会中也缺乏专门的智能养老机器司法鉴定机关对此进行认定。从次,替代责任也难以直接适用。替代责任适用于雇主对雇员、父母对未成年子女的责任承担,适用的前提是双方之间存在雇佣关系、监护与被监护关系,但现阶段却难以认定智能养老机器与养老服务企业之间存在雇佣关系。雇主替代责任也仅以雇员从事雇佣活动造成的损害危险为限,不对雇员职务行为以外的损害担责,而智能养老机器具有的自主决策能力导致难以认定哪些行为属于其正确履行职务的行为。最后,医疗损害责任的适用困境。养老服务机构内设的医疗服务组织能否认定为侵权法上的医疗机构,进而承担医疗损害责任尚无政策文件予以明确,且现行立法中关于医疗机构、养老机构侵权分别采取不同的归责原则也导致该问题更加棘手。能否将智能医养结合服务中的智能机器等同于医务工作人员,进而适用医疗损害责任追究其法律责任也存在争议。

  五、人工智能养老服务侵权的法律对策

  (一)明确人工智能养老服务机器的法律客体地位

  人工智能养老服务机器不应具有法律主体地位。人工智能技术需遵循由弱到强的渐进性、阶段性特征,现阶段养老人工智能仍处于资源整合、辅助养老服务实现的发展阶段,相关的法律与政策供给也应该符合这一现实情况。

  智能养老服务机器虽然具有一定的深度学习与独立思考能力,但并不具有人类独有的自我表示与情感表达能力,仍需要在人类控制下运作和提供服务,这决定了现阶段智能养老机器在民事法律关系中仍处于客体地位。具体来说:第一,养老服务法律的核心理念是保障老人权利实现,但赋予智能养老机器法律主体地位并不必然有助于老人权利保障目标的实现。即使赋予人工智能法律主体地位也不能为法律问题之解决带来突破性意义,且对于人工智能侵权责任承担问题也缺乏有效的解决措施。第二,智能养老机器在研发时应遵循功能适度原则-易用性原则-延续性原则-人文关怀原则,制造出的智能养老产品需贴合老人的生理、心理特征,可见设计者、制造者也多是将智能养老机器定位为保护老人权利实现的辅助者。所以现阶段人工智能养老服务机器仍属于辅助人类在养老服务过程中提供具体服务的养老设施、产品或软件系统,其在具体的民事法律关系中也只能处于客体地位,在现行法律制度框架内尚不能独立承担侵权损害赔偿责任。

  (二)不同智能养老服务模式下责任承担主体的认定

  1.智能居家养老服务模式下侵权责任承担主体的认定

  此种情况下智能养老服务侵权责任承担主体的认定须遵循以下路径:第一步,确定提供具体服务的责任主体。根据智能养老服务侵权行为产生的原因,利用智能养老机器提供养老服务的企业、个人(助残、助浴、助行、托养、心理疏导等服务提供者)可能成为直接的侵权责任主体,此外智能养老机器的研发者、制造商、销售者以及第三人等民事主体也可能成为侵权责任主体。第二步,确定承担管理职责的责任主体。考虑到智能居家养老服务过程中需要由智慧养老信息平台、社区管理服务中心整合老人的各项需求,进行精准匹配后再分派具体的服务供给者为老人提供上门服务,这一过程中智慧养老服务平台、管理中心对智能养老服务提供者是否具有资质以及提供的服务是否安全均担负一定的管理、监督职责,所以其也有可能会成为具体侵权行为的责任承担主体。第三步,在已经明确智能养老服务提供主体和养老服务监督管理主体后,由其共同向受侵害的服务接受对象(老人及其家属)承担损害赔偿责任。

  2.智能机构养老服务模式下侵权责任承担主体的认定

  智能机构养老服务有助于发挥养老机构专业化、集中化的优势。养老机构也可充分利用其经济基础雄厚、服务经验丰富以及服务人员专业化程度高的优势,利用智能技术打通社区、家庭与机构养老间的隔阂进而提供开放式陪护服务。智能机构养老服务模式下侵害老人权利的责任承担主体认定路径如下:第一步,与老人签订养老服务协议的养老机构及其管理者,若存在违反安全管理保障义务、未按照协议提供法定或约定的服务、未尽合理注意义务,以及养老机构设施存在隐患导致老人权利受侵害的,其均需要对老人承担侵权责任。第二步,养老机构的工作人员职务侵权造成老人人身、财产和精神利益受损害的,工作人员存在主观故意或者重大过失的也应该承担侵权责任;智能养老机器的研发人员、生产者与销售者、第三人或其他民事主体,由于智能养老设施存在缺陷导致养老机构在在提供服务活动过程中侵害老人权利的,其也需要承担相应的侵权责任。第三步,已经明确的上述多方侵权主体,对受侵害老人共同承担侵权损害赔偿责任。

  3.智能医养结合服务模式下侵权责任承担主体的认定

  现阶段较为成熟的智能医养结合服务多是由养老机构与医疗机构提供的,双方之间通过医疗机构设立养护病房、养老机构内设医疗服务中心、养老机构与医疗机构签署合作协议等形式开展具体业务。在智能医养结合服务过程中产生侵权,可以分三个步骤认定侵权责任承担主体:第一步,确定提供具体服务的责任主体。医疗机构、养老机构往往依据自身的专业能力直接提供医养结合服务,特别是医养结合服务过程中往往需要两者协同合作,所以其本身是可以成为侵权责任主体的,此外医养结合机构工作人员也可能会成为责任主体。第二步,确定智能医疗设备相关责任主体。智能医养结合服务的核心功能在于利用智能医疗设备为老人提供疾病治疗、康复护理以及健康咨询服务,而智能医疗设备在这一过程中处于核心地位且也是风险的最大来源,智能医疗设备的研发者、生产者、销售者又是从源头防范风险的最有利控制者,所以这些主体也可能成为侵权责任承担主体。第三步,医疗服务机构、养老服务机构和智能设备提供主体,需共同对受侵害的老人承担损害赔偿责任,这些主体可以按照实际情况相互分配责任比例且在内部进行追偿。

  (三)加强对老人新型权利的保护

  侵权责任立法保护的各项民事权益处于不断扩充过程中,即不仅各种民事权利而且权利以外的其它利益也均在受保护之列。

  1.加强智能养老服务过程中老人隐私和个人信息的保护首先,增强老人隐私保护素养的培育。家庭和社会应该帮助老人积极接触智能养老服务产品,在此过程中培育老人对个人隐私信息的保护意识,不随意泄露给第三者且不点击非法收集个人信息的网站与链接。其次,赋予老人数据被遗忘权。针对服务供应商、养老机构、医疗机构等主体在智能养老服务过程中获得的老人身体健康、消费偏好、活动轨迹等隐私信息,老人可以要求他们履行严格的保密义务以及在可能发生侵权行为时及时进行删除,确保自身隐私数据安全且不被非法利用。最后,完善智能养老服务中的隐私保护机制。在智能养老服务设施中践行事先积极预防的隐私设计理念(Privacy by Design),将隐私保护需求在设计阶段就嵌入智能养老机器系统中,使其成为服务过程中各方遵循的规则。在智能养老设备中也应该引入老人隐私保护增强技术,利用匿名、加密、防火墙等技术手段加强对老人隐私安全的保护力度。

  2.赋予老人新型数据权利一方面,赋予老人免受智能算法自动决策的权利。智能养老机器受到算法研发者偏见、企业利益诉求、算法决策失误等因素影响,可能会引发弱势群体歧视、年龄歧视和消费歧视现象,赋予老人免受算法自动决策的权利则可以确保老人自主决定是否接受以及通过何种形式接受智能养老服务,这有利于摆脱传统意义上将老人视为没有相应行动能力、只能被动接受服务且需要被监控的弱势群体,进而转向以尊重老人自主选择权、人格尊严权得到有效实现的智慧养老服务模式。另一方面,赋予老人智能算法决策解释权。赋予老人合理的算法决策解释权,要求智能养老机器研发者和使用者对机器自主决策和预设程序之外的行为进行合理解释,该种权利可以倒逼智能养老设施提供者积极引入算法影响评估、事先告知措施,积极主动将潜在的风险进行有效规避,提升算法的透明度以及老人对人工智能养老设备的信任度,确保老人权利不因智能设备本身存在的不当因素而受到侵害。

  (四)智能养老服务侵权归责原则的确定

  在厘清智能机器法律客体地位以及侵权责任承担主体基础上,应以医疗损害责任和产品责任作为智能养老服务领域侵权问题的归责原则。

  1.产品责任的承担

  考虑到制造主体全面掌握了关于智能养老机器的各项数据和技术细则,其在人工智能机器侵权事故原因的查明中处于优势地位,且制造主体对于事故预防、技术的控制与改进也占据绝对优势,所以应该由智能养老机器的制造者承担侵权事故主要责任,而销售者、使用者在有过错时才需承担相应的侵权责任。

  首先,确定智能养老机器制造主体的范围。考虑到现阶段人工智能养老服务仍处于初始发展阶段,为加强对受侵害老人的保护力度宜适当扩大制造主体的范围,应包括智能养老机器的设计者、生产者、进口商以及商标许可人等。将进口商和商标许可人纳入产品责任承担主体范畴,主要是考虑到现阶段我国用于养老服务的智能养老机器存在相当数量的进口或者商标许可生产现象,若让受到侵害的老人去追究海外生产者或者实际制造者的责任,无疑会增加受害老人搜集证据的困难以及加重受害者获得救济的难度。

  其次,明确智能养老机器产品缺陷的分类及其归责原则。我国侵权立法中并未对产品缺陷进行细分,但是学界通说认为可以将其分为制造、设计和警示缺陷。制造缺陷主要指智能养老机器的实际生产过程与预计的设计规格、设计意图相偏离的物理状况,通常按照客观设计标准即可直接认定,依据我国《民法典》第1202条之规定,智能养老机器由于制造缺陷导致侵权的应适用无过错责任归责原则。设计缺陷和警示缺陷更多的表现为生产者的过失意识形态,此类缺陷的认定则需要按照当时的技术水平条件,由生产者在设计过程中合理关注使用人员的安全。结合智能养老机器的发展前景,设计缺陷适用无过错责任归责原则更为合适,一方面,设计缺陷意味着整条智能养老机器生产线存在安全风险,其导致的侵权损害后果往往更为严重,且这种设计决策阶段的错误只能依靠专业机构或专业人员才能发现,而适用无过错责任原则可以减轻权利受到侵害老人的举证责任;另一方面,对设计缺陷适用无过错责任归责原则,可以督促设计者履行更严格的注意义务,以及在智能养老机器的研发领域更加审慎。而警示缺陷适用过错责任较为合适,其主要针对的是智能养老机器的生产者是否及时、有效地向使用人发出了警示行为,是对生产者行为的评判而非针对产品本身,关注点在于生产者的警示内容本身是否充分合理,所以采用过错责任原则较为合适。

  2.医疗损害责任的承担

  首先,医养结合机构应适用医疗损害责任。实务中智能医养结合模式涉及医疗服务机构、养老服务机构两类主体,但这两类主体在现行法律中适用的侵权责任归责原则并不相同。结合智能医养结合服务发展前景,由于智能机器用于医养结合服务而引发的侵权行为宜按照医疗损害责任进行归责,原因在于:其一,医养结合机构提供的医疗与养老护理服务往往难以区分,统一按照医疗机构的归责原则利于受害人权利的保护;其二,对医养结合机构适用过错责任和过错推定责任相结合的医疗损害责任承担模式,有利于促进医养结合机构履行更高水平的注意义务,在使用智能机器提供服务的过程中更加谨慎。其三,我国现阶段医养结合机构的服务质量仍存在一些不足,适用医疗损害责任模式虽然会让医养结合机构承担较多举证责任,但并不必然会阻碍医养结合机构使用新技术的动力,反而有利于倒逼医养结合服务机构规范自身内部的医疗服务行为,以及积极落实《医养结合机构服务指南(试行)》等文件中的具体内容。

  其次,组织过错责任理论的适用。组织过错责任理论认为现代医疗体系不再是某个医生单独的诊疗行为,而是整个医疗系统的系统性、组织性活动,正确设计的系统能够避免因个人过错而引发的医疗过失。根据组织过错责任理论,智能医养结合服务过程中发生的侵权行为,可能是由于工作人员操作不当、智能机器本身运行失误、医养结合服务机构使用的智能机器本身不合格等多种原因造成的,此时受侵害的老人无需证明侵权行为是由医养结合机构工作人员存在过失、智能机器故障、机构管理部门失职中的何种具体原因引起的,只需要证明自身所遭受的损害是由于医养结合机构提供的具体服务没有达到客观上应该具有的诊疗水平即可,这有利于减轻受侵害老人的证明负担。

  (五)智能养老服务侵权几项特别应对措施

  1.明确人工智能养老机器产品缺陷的认定标准适用产品责任的前提是合理界定产品缺陷。智能养老机器具有的自主性、不可控制性和交互性特征使得其缺陷认定更为复杂,而且普通养老产品的缺陷多体现为物理硬件层面,而智能养老产品多属于软件与硬件载体的结合或者纯粹由软件设施组成。我国目前已有《养老服务智能化系统技术标准(JGJ/T484—2019)》《基于人工智能语音交互的养老服务平台要求》(T/CESA 1127—2020)等行业或团体标准,但都缺乏对智能养老产品标准的直接界定且这些文件的法律效力也较低,所以我国亟须制定国家、行业层面统一的智能养老产品标准体系,以及建立人工智能养老服务产品缺陷的认定办法。

  2.人工智能养老机器制造者的责任限制让制造者承担智能机器不可预见的产品责任会打击其研发和制造新产品的动力,以及引发破产或背负沉重经济负担。所以有必要在制造者承担严格产品责任的基础上,采取责任限制措施来缓和其负担。一是引入人工智能养老机器侵权免责事由。考虑到老人身体体质相对较差且患有的慢性病一般难以及时查明,养服务领域的侵权有时并非属于智能养老机器行为本身,此时赋予智能养老机器适当的免责事由尤为必要。二是设置损害赔偿责任限额。智能科技的进步往往伴随着极大的风险,设置适当的损害赔偿责任限额有利于生产者和受侵害老人间利益的平衡,可借鉴海商和航空立法中将责任人对各项损失的赔偿总额限制在一定限额内的做法,这有利于体现公平原则以及促进制造者积极投身智能养老产品研发活动。

  3.引入智能养老机器强制责任保险在将智能养老机器用于养老服务前,可责令智能养老产品的生产者或所有者购买强制责任保险,由保险公司适当分担部分产品责任风险。这主要基于人工智能养老技术的风险普遍较高,发生事故时往往会导致难以控制的损害结果,而单个生产者的经济实力又难以承担严格产品责任带来的巨额损害赔偿,可能会导致无辜的受害人难以得到有效的赔偿。而市场主导的强制责任保险机制,可以将民事责任风险在社会中进行合理分散,从而在社会中建立一项有效分担民事责任的补充性机制。

  六、结语

  人工智能养老服务包含着诸多具体类型,且每种服务类型中的侵权行为在侵权主体、责任承担方式、归责原则等方面均存在差异。而法律制度必须对现有社会问题做出回应,适当对法律制度进行改造以实现对智能养老服务侵权行为的合理规制是不容回避的。现阶段智能养老服务领域使用的智能设备仍处于人类控制之下的弱人工智能发展阶段,现行侵权立法中的相关制度仍具有适用的可能。随着智能养老科技的进步,未来强人工智能阶段社会中极有可能出现人机共存的社会状态,通过服务资格准入确保智能养老机器符合智能养老设备指标,且保证其提供的服务安全可靠,在立法上赋予其法律主体地位也是可行的,彼时的侵权法律制度可能需要继续进行更深刻的变革。但以人为本以及保障老人权利实现的原则依然会处于核心地位,通过人工智能养老服务为老人谋求福祉也会是侵权法律制度的追求目标。

相关热词搜索:

上一篇:16年6期,张建云:互联网与农业生产方式大变革
下一篇:21年6期,范柏乃 张莹:区域协调发展的理念认知、驱动机制与政策设计:文献综述

期刊简介

主办单位:兰州市社会科学院
刊期:月刊
主编:曾月梅
副主编:王望
编辑部地址:兰州市金昌北路75号
通讯(投稿)地址:兰州市中央广场邮局《兰州学刊》信箱
电话:8801976
邮编:730030
Email信箱:LZXK@chinajournal.net.cn
Email信箱:LZXK@vip.163.com

最新公告
×
近期有作者来电反映, 有人借我刊名义从事征稿活动并非法收取审稿及版面费用, 扰乱了杂志社正常的工作秩序, 影响了《兰州学刊》杂志社的声誉。《兰州学刊》杂志社在此郑重声明:本刊从未与任何公司或个人签订组稿合作协议,凡以冒用我刊名义征稿的中介机构均未获得我刊的任何许可,其工作人员均非我刊的工作人员,与之相关的经济与法律关系...

查看详细》