[摘要]因智能技术革命而产生的新型社会风险部分属于合法风险,不具有法律和道德上的可责难性。人工智能时代法律规则的设计重心发生由责任承担向损失分配的转向,法律责任制度的功能部分转移至责任保险制度。人工智能技术应用推动责任保险制度从“单一承保模型”向“双轨制承保模式”转变,可以构建“双层保险框架”。为平衡受害人权利救济与智能产业创新,需要建立限额赔偿制度。
[关键词]人工智能;法律责任制度;责任保险;承保模型;双层保险框架
[中图分类号]F840.69
[文献标识码]A
[文章编号]1008-8628(2020)06-0038-05
智能技术深度影响社会生活,“人工智能”+“保险”呈现出多样化态势。一方面,人工智能的出现对传统保险行业造成冲击,改造或重塑保险行业。例如,将人工智能技术应用于风险预测与防范、数据管理、费率厘定、核保理赔、监管领域。另一方面,保险作为一种分散风险和损失补偿的工具对人工智能时代新型的民商事法律责任制度产生影响。其中,后者属于保险与法律的交叉领域,容易落入研究盲点。有必要将保险作为分散人工智能机器或设备造成损失的工具,研究保险与法律责任制度的互动关系,进而实现在智能科技领域通过保险分散风险的社会功能,保障行业的创新能力。
一、人工智能时代责任制度向保险制度部分转移(一)风险分配和责任承担的视角
风险分为合法风险和非法风险,因智能技术创新而产生的风险通常属于合法风险。人工智能时代
风险的这一特殊性为法律领域责任制度设计部分转向保险制度设计提供了基础。人工智能技术研发与应用在推动社会进步和经济繁荣方面起到了重要作用,在此过程中发生的部分事故并非人为原因导致,不受到人的意志控制,参与人工智能技术研发和应用的主体并无道德上的可责难性。将损害转嫁给道德上并无可责难性的参与主体并不能对参与主体产生威慑作用,也不会使得参与主体更加注意而提升技术安全水平。相反,让无道德可责难性的参与主体承担损害结果会限制技术创新。
人工智能时代民事法律责任规则设计的重心部分从责任承担转向损害分配。民事法律责任制度分散损失的功能强化,而惩戒功能弱化。自主智能机器人致害的法律责任中追责的意义减弱,而救济成为核心和关键。人工智能时代,责任规则发生嬗变,责任制度的部分功能转移至责任保险和赔偿基金等制度。
(二)权利救济视角
人工智能时代智能机器或智能机器人的决策和行为具有技术性、隐秘性等特征。证明缺陷、致害原因以及因果关系困难使得责任配置陷入困境。在鼓励人工智能技术研发与应用的同时,需要防范处于技术优势地位的一方当事人逃避责任,保障受害人获得充分救济,有必要发挥保险的风险转移功能。
欧洲《机器人民事法律规则》议案对强制责任保险计划进行了设计,目的在于解决智能机器(人)致损的损失分担问题。在美国的部分州,投保责任保险是路测的基本条件,如内华达州2011年通过的“511
[收稿日期]2020-10-12
[基金项目]2018年教育部人文社科基金青年项目“人工智能时代新型民事法律责任规则研究”(项目编号:18YJC820014)。
[作者简介]董彪(1978—),男,湖北荆门人,北京工商大学法学院副教授,对外经济贸易大学保险学院博士后,研究方向:人工智能法律与政策、保险学与保险法。
人工智能时代责任保险制度探讨
董彪
(北京工商大学法学院,北京102488)
第35卷第6期2020年11月
Vol.35.No.6Nov.2020时代汽车
广西政法管理干部学院学报
JOURNAL OF GUANGXI ADMINISTRATIVE CADRE INSTITUTE OF POLITICS AND LAW
38
法案”(Assembly Bill NO.511-Committee on Transportation)。日本的《公路测试无人驾驶车辆规则》规定,无人驾驶车辆测试人员对交通事故承担法律责任,但是该责任被纳入汽车保险的赔付范围[1]。英国的《自动与电动汽车法案》(Automated and Electric Vehecles Bill)第一部分针对智能驾驶汽车的保险与责任进行规定。其中,机动车强制责任保险条款被修改,智能驾驶汽车也可以投保。
在智能投资顾问领域,因技术创新导致的部分损害不能苛责智能投资顾问运营者承担,但由金融消费者承担也不具有合理性。倘若金融消费者遭受的损失无法获得有效填补,其对智能投资顾问机构和人员的信任度会降低,体性“用脚投票”可能影响智能投资顾问市场的稳定性。这就需要通过强制保险的方式,将智能技术创新与发展过程中的部分风险分散出去。
(三)责任制度与保险制度的关系
传统理论认为侵权责任法具有填补损害、教育、惩戒以及平衡社会利益的功能[2]。我国《侵权责任法》第一条将该法的功能明确定位为权利救济、预防和制裁侵权行为。人工智能时代需要重新思考侵
权责任制度的功能定位。侵权责任的预防和警示功能在人工智能时代出现弱化趋势,而作为一种管控方法的功能需求增强[3]。
《侵权责任法》等责任制度产生时还不存在现代保险制度,但保险制度的出现对责任制度关于损失分配的设计造成了极大冲击,责任制度因保险制度的出现和发展需要进行调整[4]。人工智能时代权利救济的有效性与充分性需要配套制度建设,如强制责任保险和共同赔偿基金等制度,它们将在人工智能时代民事法律责任分散中起到越来越重要的作用,保障人工智能行业健康发展以及社会秩序稳定。责任保险的存在增强了人工智能产品生产者的赔付能力,生产商能够运用价格机制分摊成本,在责任保险的保障下主动承担企业社会责任,扩大损失赔偿的范围。
但是,责任保险制度不会弱化或取代民事责任制度。责任保险的保险标的为责任,而这一责任恰恰需要通过民事责任制度来确定,责任保险为民事责任的分配和承担提供了新的思路和解决方案。换言之,民事责任制度具有行为指引和损害转移的功能,而责任保险制度关注损害填补和责任转移。民事责任制度是责任保险制度存在的前提,两者相辅相成,并不存在相互替代的关系。责任保险的保险人承担的赔付责任是以致害人责任为前提的,责任保险不过是实现损害赔偿责任转移的责任承担方式[5]。
二、人工智能时代责任保险模型的更新
智能机器或智能机器人责任保险是以智能机器或智能机器人致害需要承担的民事法律责任为标的的保险。智能机器或智能机器人致害,责任保险的保险人首先需要向受害人进行赔偿,然后基于代位求偿权向导致责任产生的第三人进行追偿。
(一)双轨制承保模型下责任保险的形态
1.智能机器事故责任保险
我国机动车交通事故责任保险涵盖了机动车保有人责任保险和使用者责任保险。《中华人民共和国民法典》第一千二百一十三条和《中华人民共和国侵权责任法》第四十九条就机动车交通事故强制责任保险的适用进行了规定。《中华人民共和国道路交通法》第七十六条确立了机动车交通事故强制责任保险优先赔付规则。根据《机动车交通事故责任强制保险条例》第二条第一款的规定,机动车所有人或管理人能够作为交通事故责任的投保主体。
人工智能时代智能机器事故责任保险包括两种类型。第一,以保有人责任为标的的责任保险。智能机器的保有人基于保有智能机器对第三人遭受损害需要承担责任[6]。其在交强险责任限额外需要承担的赔偿责任则需要通过商业保险进行分散。这就有必要为适应人工智能时代的需要而改造传统的机动车责任保险制度,要求智能驾驶汽车的车主强制购买交通事故强制责任保险,并鼓励其购买商业第三者责任险。第二,以使用人责任为标的的责任保险。智能机器的工具属性决定在使用智能机器的过程中
产生的损害由使用人而非智能机器本身承担[7]。使用智能机器的主体需要将该责任风险分散出去就需要投保相应的责任保险。
2.智能机器产品责任保险
人工智能时代,以保有人和使用人责任为基础构建的责任保险制度,难以涵盖智能机器设计者和制造者的责任。以智能驾驶为例,驾驶权从人类转移至智能机器,在人类驾驶员不存在主观过错甚至身份转变为乘客的情况下,从智能驾驶行为的控制和
39
利益的角度考虑,智能机器造成的损失不应归咎于保有人或使用人,机动车交通事故责任的救济机制就会出现缺陷,分散智能汽车设计者或制造者责任的产品责任保险机制应运而生。因人工智能产品缺陷造成损失的受害人不需要向产品生产者索赔,可以直接向保险公司索赔。
(二)从双轨制承保模型到单一承保模型的转变
传统机动车第三者责任保险中的责任指向的对象是对第三者的侵权责任,产品责任不在机动车责任保险范围内。交通事故责任与产品责任截然分离,分别属于不同类型的保险所承保的范围。人工智能时代产品责任保险与机动车第三者责任保险能否以及如何整合成为关注的重心。固守传统的学者认为,
产品责任风险与第三者责任风险属于不同风险类型,在风险预防和定价等方面存在差异,纳入同一保险产品中存在技术困难,
“双轨制保险模型”具有存在的正当性[8]。一方面由智能驾驶汽车生产者为智能驾驶汽车设备投保;另一方面由智能驾驶汽车的保有人对其未尽到审查、维修、养护、接管等义务可能造成交通事故的风险进行投保。
伴随智能技术发展和应用升级,人类驾驶员的角逐渐发生转变,不同类型的保险出现统一化趋势。冯珏博士认为在保险制度的辅助下产品责任和保有人责任存在合并为制造商无过错责任的可能[9]。英国《自动与电动汽车法案》采用了“单一承保模型”(A Single Insurer Model),智能汽车保险涵盖人类驾驶员和智能驾驶系统导致的损失,包括将驾驶控制权转移给智能驾驶系统的司机在内的受害人可以从保险公司获得赔付,依产品责任法或侵权责任法等法律法规负有直接责任的主体可以基于保险机制转移损失。
总而言之,责任保险模式与智能技术研发与应用的程度密切相关。
“单一承保模型”适用于生产者与行为控制者同一或重叠的情形,
“双轨制承保模型”适用于生产者与行为控制者区分的情形。也就是说,智能机器生产与智能服务分离的情形,
“双轨制承保模型”具有优势;相反,在智能机器生产与智能服务合一的情形,
“单一承保模型”具有优势。智能领域智能产品生产与提供智能服务相融合的趋势明显,
“单一承保模型”的社会需求增强。
三、人工智能时代保险制度设计的建议
(一)双层保险制度的设计
“价格—安德森法案”由美国国会于1957年通过,旨在储备充分的责任基金以补偿核能事故中的受害者,该法案设计了“双层保险框架”(Two Tiers Insurance Structure),兼顾受害人和核能运营公司的利益。一方面,
“双层保险框架”简化了受害人的权利救济程序。受害人无需就加害人是否存在过错以及加害行为与损害结果之间是否存在因果关系举证。受害人证明自身存在损害即可获得相应的救济,有利于及时、充分、有效地保护受害人的合法权益。另一方面,
“双层保险框架”限定了核能运营公司的责任范围,并为核能运营公司分散风险提供了可行的路径,有利于促进核能企业持续、健康发展。人工智能风险与核能风险类似,都是科技进步产生的新型社会风险。
一方面,人工智能与核能有利于推动社会发展与进步,具有巨大的正向社会效用;另一方面,人工智能风险与核能风险均具有高度的不确定性,其可能造成的潜在损害影响范围广、后果严重。分散人工智能风险与核能风险的方式存在类似之处,可以类比适用“双层保险框架”。
1.双层保险的框架
“第一层”保险是直接责任主体为分散风险而投保的保险。车主和制造商为分散风险都可以作为投保主体。智能产品制造与服务合一时,责任保险的投保主体由车主转变为制造商。此时,制造商是第一层保险的投保人,负有缴纳责任保险费用的义务[10]76。第二层保险是社会救助方式的变形,以智能机器(人)为联结点,根据受益人共担风险的原则,由智能机器的制造者、设计者、销售者、所有者、使用者等利益相关主体预先缴付设立保险资金池的特定资产,将智能产品设计者、制造者、智能投资顾问运营者等主体的部分盈利转化为共同赔偿基金,用于弥补被侵权主体或金融消费者等遭受的不可归责于其他主体的损失。
2.第一层保险与第二层保险的关系
第一层保险与第二层保险是人工智能时代分散社会风险的两种不同的方式。第一层保险分散的风险具有同质性特征,资金池中的资金来源于需要分散同类风险的主体。人工智能产品的制造商、所有者或使用者就人工智能产品的特定风险投保,因该风
40
险产生的损失由同种类型的投保人分担。第二层保险分散的风险具有跨行业和整体性特征,资金池中的资金来源于参与人工智能产品研发和应用的各类主体。上述主体为了某一共同目的集合在一起,为填补不特定事项的损失提供了财产基础。
第一层保险的保险标的是特定被保险人的责任,被保险人在具体的法律关系中负有法律责任是保险人支付保险金的前提条件。因发展抗辩等免责事由而无法获得救济的受害人无法通过第一层保险获得救济。这就需要以救济而非责任为中心的第二层保险进行补充。换言之,通过第一层保险分散风险或损失的功能是有限的,填补被侵权主体或金融消费者遭受的损失需要辅之以第二层保险。
3.“双层保险框架”下获得赔偿后的诉讼权利限制
有学者认为,受害人在“双层保险框架”下获得赔偿后仍然有权提起产品责任诉讼[10]77。这一观点值得商榷,需要区分具体情境进行分析。事故责任保险与产品责任保险分离的情境下,以事故责任保险为中心的“双层保险框架”设计分散的是保有人或使用人的民事法律责任。受害人在“双层保险框架”下未获得充分救济,有权基于产品责任法律关系继续主张权利。但是,在事故责任保险与产品责任保险一体化的情境下,
“双层保险框架”所分散的风险已经覆盖了事故责任和产品责任,受害人以“双层保险框架”下未获得充分救济再向产品制造者等主体主张权利缺乏正当性。
(二)保险人限额赔偿规则设计
判断智能机器的设计者、生产者或使用者在设计、制造和使用智能产品的过程中是否存在主观过错以及行为与结果之间的因果关系等因智能技术的专业性、复杂性变得异常困难,遭受损失的主体往往会陷入因难于举证而无法获得救济的尴尬境地。弱化遭受损失的主体的义务和责任体现了法律对弱势体利益的关照,具有正当性。保险制度的出现使得智能机器应用领域的归责原则发生从过错责任原则向无过错责任原则的转变,强化了对受害人的救济。但是,救济受害人不能成为阻碍智能产业创新的障碍,需要通过配套制度予以平衡和协调。
在智能驾驶领域,部分国家或地区已经开始采用限额赔偿制度。在英国,保险人就智能驾驶事故责任承担损失的数额限于《1988年道路交通法》第一
百四十五条第四款(b)项所规定的数额[11]。保险公司承担赔付责任的数额限定在100万英镑范围内。德国《道路交通法》将智能驾驶汽车造成人身伤亡和财产损失的赔偿限额分别提高到了1000万欧元和200万欧元。我国需要在数据统计和分析的基础上,确定适当的赔偿限额,在受害人权利救济与智能产业创新和持续健康发展之间寻求平衡。
受害人使用智能产品时故意或过失违反安全注意义务,保险人的限额赔付责任全部或部分免除。第一,共同过失。被保险人或第三人因主观过错而在不适当的情况下使用智能产品或智能功能导致损失。第二,篡改智能软件。被保险人或第三人擅自对智能软件进行更改,进而导致事故发生。第三,未更新智能软件。被保险人或第三人未按照保险条款的约定更新与安全密切相关的智能软件,进而导致事故发生的。
三、结论
智能主体多元化的风险社会中部分行为的可责难性弱化,法律规则的设计重心由风险和责任承担转向损失分配,民事法律责任制度的部分功能转移至责任保险制度和赔偿基金制度。虽然责任制度因保险制度的出现需要进行调整,但责任保险制度不会弱化或取代民事责任制度。智能机器生产与智能服务分离的情形,
“双轨制承保模型”具有优势。反之,智能机器生产与智能服务合一的情形,
“单一承保模型”具有优势。人工智能风险与核能风险类似,都是科技进步而产生的新型社会风险,可以借鉴核能领域的“双层保险”规则。双层保险中“第一层”保险是直接责任主体为分散风险而投保的保险,第二层保险是社会救助方式的变形。救济受害人不能成为阻止智能产业创新的障碍,需要通过限额赔偿等配套制度予以平衡、协调,在受害人权利救济与智能产业创新和持续健康发展之间寻求平衡。
[参考文献]
[1]张玉洁.论无人驾驶汽车的行政法规制[J].行政法学研究,2018(1):68-77.
[2]张新宝.侵权责任法原理[M].北京:中国人民大学出版社,2005:11.
[3]杨立新.民事责任在人工智能发展风险管控中的作用[J].法学杂志,2019(2):25-35.
[4]王卫国.过错责任原则:第三次勃兴[M].北京:中国法制出版社,2000:231.
41
[Abstract]The new social risks caused by the revolution of intelligent technology are not legally and morally accountable.In the era of artificial intelligence,the focus of legal rules design has shifted from liability to loss distribution,and the function of legal liability system has partially shifted to liability insurance system.The application of artificial intelligence technology promotes the change of liability insurance system from "single underwriting model"to "double track underwriting model",which leads to the construction of "two-tier insurance framework".It is necessary to establish a limited compensation system in order to balance the relationship between the relief of victim's right and the innovation of intelligent industry.
[Keywords]artificial intelligence;legal liability system;liability insurance;underwriting model;two-tier insurance framework
On Liability Insurance System in the Era of Artificial Intelligence
DONG Biao
(School of Law,Beijing Business University,Beijing 102488,China)
[5]张俊岩.风险社会与侵权损害救济途径多元化[J ].法学家,2011(2):91-102.
[6]许中缘.论智能机器人的工具性人格[J ].法学评论,2018(5):153-164.
[7]韦弗.人工智能机器人的法律责任[J ].郑志峰,译.财经法学,2019(1):140-160.
[8]侯郭垒.自动驾驶汽车风险的立法规制研究[J ].法学论坛,2018(5):153-160.
[9]冯珏.自动驾驶汽车致损的民事侵权责任[J ].中国法
学,2018(6):109-132.
[10]付新华.自动驾驶汽车事故:责任归属、法律适用与“双层保险框架”的构建[J ].华东政法大学学报,2018(4):65-80.
[11]曹建峰,张嫣红.《英国自动与电动汽车法案》评述:自动驾驶汽车保险和责任规则的革新[J ].信息安全与通讯保密,2018(10):66-73.
[责任编辑唐德才]
42