“法律+标准”模式,厘清自动驾驶汽车责任边界

  2021年3月8日,谷歌旗下的无人驾驶公司Waymo发布报告表示,该公司的无人驾驶技术能在82%的场景中避免撞击,在其它10%的场景中缓解事故严重性。

  承载着变革出行方式、降低道路交通风险的愿景,自动驾驶汽车技术蓬勃发展。然而,自动驾驶的伦理准则、责任边界等问题影响其商业化进程。日本虽然已于2020年4月1日起允许L3级智能网联汽车上路,但事故难以举证、责任规则不明制约其商业部署规模。

  突发情况下自动驾驶技术的保护优先级如何制定?以及在事故发生后,车企、技术服务提供商、车主、驾乘人员多方的责任归属如何设定?自动驾驶的安全、公正、自主、隐私、信任的伦理规则如何展开?自动驾驶汽车的发展已步入新阶段,而与之配套的法律制度尚待完善,人类社会对自动驾驶技术的伦理准则需先行达成共识。

  2020年,中国国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部五部门联合印发《国家新一代人工智能标准体系建设指南》,明确设立“H安全/伦理”类,下设安全与隐私保护、伦理、其它三个分支,意在规范人工智能服务对传统道德伦理和法律秩序产生的冲击,为人工智能建立合规体系。

  2020年11月,2020世界智能网联汽车大会(WICV2020)上,中国电子信息产业发展研究院政策法规研究所副主任陈全思在发布《2020智能网联汽车政策法律研究报告》(以下简称《报告》)时提出:自动驾驶伦理并非两难问题,智能汽车的设计必须建立在事故的预防之上,系统不能通过完全标准化的形式来替代或者优先于一位拥有伦理意识,负责任的驾驶员所作出的决定。《报告》认为,传统侵权责任的划分方式和归责原则在智能互联汽车上都显示出了局限性,应当提供“法律+标准”的模式,为自动驾驶汽车框定一个兼顾保护人身和财产安全与车辆成本市场接受度的安全能力边界,在边界以外的极端情况可以减免法律责任;同时通过风险基金、惩罚性赔偿和保险机制等方式建立风险共担机制,两全产业发展和社会福祉。

  官方意见:生命安全和信息安全双管齐下

  作为社会规则的制定和执行者,各国的官方机构也陆续出台了针对自动驾驶汽车道德伦理的指导性文件,他们又是如何界定这一问题的呢?

  美国的自动驾驶技术成熟,政策规制相对完善且具开创性。早在2011年,内华达州就通过了全美首部自动驾驶法案,率先规定允许自动驾驶道路测试、设立自动驾驶汽车操作员的驾照许可和定义“自动驾驶汽车”等内容。2016-2020年,美国制定了四部自动驾驶政策,明确了联邦政府在发展自动驾驶的定位:不干预自动驾驶的技术路径选择,将关注点置于确保产业安全发展和消除既有制度对创新的障碍上;推动监管措施改革,使之适应产业发展;加大推广力度,提升公众对智能网联汽车的认知和信任。

  欧洲在自动驾驶产业发展上已经占据领先地位。 2017年,德国自动化和联网驾驶道德委员会(German Ethics Commission on Automated and Connected Driving)提出了一套伦理规则:在危险情况下,保护人的生命必须始终处于最高优先级;在事故不可避免时,自动驾驶系统基于个人特征(如年龄、性别、身体素质或心理素质等)来区分众人以作出选择是不允许的;车辆行驶过程中需明确记录驾驶主体是人还是计算机;驾驶员拥有车辆的数据主权等20条准则。作为第一个尝试为自动驾驶车辆的伦理选择提供官方指导的方针,该准则为厘清自动驾驶伦理和责任边界做出了试探性的阐释,为自动驾驶系统设计、伦理道德研究提供支撑。

  英国政府则与行业共同成立了国家级合作平台Zenzic,后者于2019年发布了《英国智能网联汽车发展路线图2030》,并在2020年将原有500多项规则里程碑减少至104项。该路线图从人与社会、基础设施、汽车和服务四个角度展开,明确法规、标准和立法是开发、试验和部署自动驾驶技术和服务的最关键推动因素。这些因素包括:为自动驾驶车辆的审批和许可建立统一框架、各方均认可的安全标准,以及创建数字化“高速公路规范”。

  与之类似,2020年,韩国国土交通部发布自动驾驶车辆安全运行准则,将伦理准则纳入其中。具体而言,伦理准则以确保生命安全为核心,要求自动驾驶车辆在设计和生产时遵循“生命重于财产”“无法避免事故时应尽量减轻人员伤亡”等原则,还包括“不侵害他人的自由和权利”“实施安全驾驶培训”等内容。而在此之前,2019年4月韩国众议院交通委员会(Transportation Committee)曾提交法案,将L3自动驾驶汽车发生事故的责任归咎于驾驶员,并要求购买自动驾驶汽车的车主必须购买一份汽车保险,在发生事故时首先由保险公司为车主赔偿受害者,然后检查自动驾驶汽车是否有缺陷,以确定汽车制造商是否该为此事故负责。

  “谁死谁生”之外,或许可将视点集中在日常驾驶情景的选择上

  学界对“安全和信息保护”的伦理议题抱以极大的关注。在极端交通状况下研究自动驾驶汽车基于算法做出的道德决策能否在现行道德价值体系下降低交通事故所造成的损失,这往往被具象为“谁生谁死”的两难选择。

  自动驾驶技术伦理研究的“电车难题”是伦理学领域最为知名的思想实验之一。

  一辆失控的电车在铁轨上飞驰,即将撞上被绑在轨道上的5个人,你可以选择扳动铁轨拉杆,但列车会撞上另一车道的1个人。这时候你该如何选择?

  麻省理工学院(MIT)于2016年搭建了“道德机器实验”(Moral Machine Experiment)在线实验平台,将“电车难题”引入自动驾驶领域,旨在探索自动驾驶汽车在紧急状况下面临的道德困境。调查共收集了来自233个国家和地区的230万人用10种语言做出的4000万项决定。实验结果显示,在道德机器实验中,呈现出三种十分强烈的偏好,分别为:保护人类而不是保护动物,保护更多的生命,保护年轻的生命。在该文研究者看来,这三个偏好应该为政策制定者着重考虑。并非所有的焦点都集中在这一困境上。2018年发表于《伦理理论与道德实践》(Ethical Theory and Moral Practice)的《电车问题不重要:寻常场景中的自动驾驶汽车伦理》作者Johannes Himmelreich从连贯性(Consistency)、设计局限(Limitations of Design)、道德和政治问题(Moral and Political Problems)、不确定性和证据价值(Uncertainty and Evidential Value)4个层面对自动驾驶伦理研究领域过多关注“电车问题”的现象进行了驳斥,并提出自动驾驶技术亟待关注的是更加日常的驾驶情景。Himmelreich认为,人类驾驶员的驾驶风格多样、决策直观,例如前车车速缓慢,选择跟行还是超车;绿灯切换为红灯时,选择加速通过还是停车等待;通过拥堵路段时,选择变道以提升通行速度还是保持车道……诸如此类的特异性(specificity)和规模性(scale)驾驶场景,司机能凭借自己的本能和直觉做出选择,或法律未明令禁止,或违规行为难以认定,但在自动驾驶情境下则需要统一,这才是推广应用自动驾驶汽车所面临的关键道德抉择。

  被忽视的企业意见

  来自荷兰代尔夫特理工大学的Andreia Martinho、Nils Herber、Maarten Kroesen和Caspar Chorus在期刊《交通评论》(Transport Reviews)上发表题为《自动驾驶汽车产业聚焦的伦理问题》的论文,旨在挖掘行业内私人企业对自动驾驶汽车伦理道德的站位。参考Hagendorff(2020)整理的22份人工智能伦理准则,文章提炼学界和业界叙述的道德倾向和关注焦点,反映两者在自动驾驶汽车伦理问题上的分歧。

  Martinho等人提出,道德决策与法律问责的联结和边界也是学界和业界关注的重点。现有研究提出,要制定至少一个能够承担自动驾驶汽车行为后果的人类代理人,可能是车辆设计人员或远程操作员。但硅谷法律集团的Stephen S. Wu提出,在设计碰撞躲避算法时,自动驾驶汽车的既定道德选择往往产生高法律责任的诉讼结果,自动驾驶汽车的责任困境亦不容忽视。对于企业而言,决策者更倾向于投资一种最低责任风险的设计策略,该策略依赖于规章制度、推进调查和撞车/碰撞规避算法。

  Martinho等人的研究发现“安全和信息保护”是较多公司重视的道德问题;其次是共同利益、可持续性和福祉,人为监督、控制和审计,以及与科学政策间的联系;相较之下,诸如隐性成本、公平公正和非歧视、负责任的研究资助等问题在这些报告中均未提及。

  与学界不同,企业的态度更加务实,更加注重现行法规下的最低责任风险和消费者信任危机的平衡。“谁生谁死”的道德困境依然存在。业界最关注的是,如何通过技术手段,利用更强大的人工智能算法、更精准的传感和定位设备、更完善的智能基础设施建设,来尽可能规避上路时的风险。

  该文以戴姆勒发布的2018年度可持续报告和《重塑安全:自动驾驶系统的联合方案》(Reinventing safety:a joint approach to automated driving systems)为例,阐述车企对智能汽车的安全提升和信息保护倾向:为使自动驾驶汽车更好地适应日常交通状况,戴姆勒联合博世开发了基于传感器、执行器和计算资源的检测响应系统(OEDR),通过分析车辆在行驶过程中遇到的各类场景来提升自动驾驶车辆的OEDR能力,包括环境感知、场景建模、仿真模型、行为规划、人机交互、应急和最小风险预案等,以确保在个别零部件出现故障时车辆仍能做出适当反应;建立在“汽车用户隐私准则”的基础上,梅赛德斯-奔驰正视数据隐私的重要性,并在法律框架下开发实用的数据保护解决方案,为个人识别信息建立保护措施。

  自动驾驶作为人工智能在交通运输领域的深度应用,具有改变未来出行和运输模式的潜力。自动驾驶汽车技术已经步入新的阶段,一些车辆已经实现了L3级(请确认)有条件自动驾驶并在一些道路上开始巡航测试,这要求人类社会就引导机器行为的伦理原则形成共识。

记者:张轶帆

责任编辑:刘海龙

审核:张宇

图片版权归原作者所有,如有侵权请联系我们,我们立刻删除。
黑龙江网报料热线:15603667008 微信同号。

相关文章

你可能会喜欢

推荐阅读