图片：萝卜快跑叫车服务步骤（来源：百度Apollo网站）

近日，武汉的百度“萝卜快跑”无人驾驶出租车在社交网络上大火，无论是400多辆还是网传的1000辆，总之，武汉目前已经拥有世界上最大的自动驾驶汽车车队。

这引发网友关注和讨论：一方面，无人驾驶是否抢了出租车和网约车司机的饭碗，另一方面，“萝卜快跑”无人驾驶出租车撞上闯红灯行人，也引发了自动驾驶安全性问题的讨论。

2024年6月4日，中国工信部发放了9份许可证，允许在道路上测试更先进的自动驾驶技术；7月3日，工信部、公安部、自然资源部、住房和城乡建设部、交通运输部等五部门发布智能网联汽车“车路云一体化”20个应用试点城市名单，包括北京、上海、深圳、广州、武汉、重庆、南京、苏州、成都、杭州等。近日，北京市经信局就《北京市自动驾驶汽车条例（征求意见稿）》对外征求意见，拟支持自动驾驶汽车用于城市公共电汽车客运、网约车、汽车租赁等城市出行服务。

很明显，我国自动驾驶正在全面加速落地，政府和相关企业都在推动尽快将自动驾驶汽车变成现实。因此，我们每个人无论作为乘客还是行人，无疑都将进入这个“无人驾驶”的大型测试场中。借用央视新闻提出的问题：自动驾驶来了，我们究竟是该“怕”，还是“盼”呢？

图片：央视新闻频道新闻1+1节目（来源：电视截图）

传统汽车对于谁在控制车辆方面没有含糊之处，但自动驾驶汽车技术却模糊了这条界限，使法律和保险问题变得尤其复杂。自动驾驶汽车的生产商和使用者因过失而引发交通事故时，责任应如何在不同主体之间进行分配？

自动驾驶的风险关联者众多，包括汽车生产者、自动驾驶系统开发者、基础设施提供方、远程驾驶人和安全员等，多个主体间如何实现风险的管辖和分配，目前出台的政策并未明确给出确定的指引。法学理论界也对此处于探索阶段，对于法律设计与适用如何能科学且针对性地解决社会问题，并没有定论：

一方面，以交通事故目前的归责原则，对于完全处于自动驾驶系统控制车辆的阶段的事故来说，其中既无“人”也无“过错”，因而无法适用。然而，对于目前强制要求配备的驾驶员或远程驾驶员，如何界定其“警觉义务”范围，对哪些情况下发生的交通事故负有责任，仍需进一步探索。

另一方面，在自动驾驶系统控制车辆的过程发生交通事故，原则上可按照“产品质量责任”的角度，将损害结果归责于生产商。但是，目前我国的《产品质量法》，还无法涵盖人工智能系统设计缺陷的认定，因为人工智能目前本身也缺乏统一标准。

在一个武汉的真实案例中，一个没有安全驾驶员的自动驾驶出租车，行驶在高速公路上，当它试图从中间车道移到右车道时，右车道上一辆普通汽车的司机开始减速，示意让这辆自动驾驶汽车先行。但是，这辆自动驾驶汽车同时也“选择”减速让路。两辆车都一直在减速互让，以至于在快速行驶的车流中几乎停下来。乘客事后问起制造商原因，得到的答复是：武汉的司机很少愿意让路，因此其自动驾驶算法更倾向于避让；但公司将研究这一案例，考虑是否调整控制其无人驾驶汽车的算法。

如果这次“避让”事件引发了一场交通事故，停滞状态的自动驾驶汽车被疾驰而来的汽车撞到，那么，我们如何判断，以“武汉的司机很少愿意让路”为前提的算法是否属于产品缺陷呢？

在传统道路交通事故纠纷中，原告的赔偿金额可能会因案件、代理权和被告的财富而有很大差异。但一般来说，这仍然是个人之间的纠纷，双方的社会经济地位和法律资源不会相差得过于悬殊，判决结果受法律限制。

（图片来源：unsplash）

但是在无人驾驶的纠纷中，被告可能是个大型的科技公司——汽车制造商、软件公司，甚至是网络运营商。他们对人工智能的设计、算法选择等都具备高出一般人的专业知识，因此科技公司在纠纷审理的过程中无疑将具有更大的话语权。因为人工智能系统复杂的技术水平超出一般经验认知，法官很难根据原告经验性的陈述进行判断。

但如果事故责任通常需要复杂的调查，以及专家证人的鉴定意见，那么鉴定的经济成本很可能会高于事故的赔偿金额，是原告无法承受的证明成本。

此外，如果这类不确定性的案件增多，保险公司可能会通过提高保费来转移风险。这也是传统司机可能要受到的自动驾驶汽车落地所带来的社会经济影响。

当事故不可避免的情况下，自动驾驶汽车如何对不同群体的生命做出生死的决定，就出现了“算法”的伦理困境。

自动驾驶汽车如果无法避免碰撞，它应该选择去撞到一个人，还是一群人?是一个老年人，还是一个儿童？

图片：哪些道德因素应该影响自动驾驶汽车的决策（图片来源：Istock）

不得不承认，对这些问题我们人类社会并没有统一的答案，法律也并不苛责一个人在压力巨大的情况下所作出的本能反应、瞬间选择，必须符合某些理性和逻辑要求。

但是，当这些选择被预先置于编程和算法当中时，性质就变了。算法将放大并固定“某一种”伦理选择，即科技公司为我们创设了一种伦理，规制我们的良心，代替个体的选择。

当然，国家也可以为算法的决策设置边界，将决策标准写入法律，使道德选择明确且透明。德国通过了一项法律，要求自动驾驶优先拯救人类的生命而不是动物。但法律是否还能更进一步做出要求，在不同的人类之间做出优先排序，这值得怀疑。如果法律不予规制，算法又如何自证其合理性？

（图片来源：pixabay）

中国于2013年开始商业无人驾驶汽车开发，比美国晚了大约五年。但美国在无人驾驶方面的进展已经显示出放缓之态——美国监管者选择审慎对待，美国自动驾驶的投资资金也在减少。谷歌于2009年开始在旧金山测试无人驾驶汽车，然而，15年后，这项技术的未来仍然不确定，Waymo正式投放市场的时间一再被延迟；通用汽车旗下的Cruise在去年发生严重安全事故后，仍在恢复中。

根据贝恩公司的数据，截至2023年9月，中国无人驾驶汽车累计行驶里程已达7000万公里，与美国持平。近期一些数据显示，中国在自动驾驶方面的人工智能研究和技术可用性上，已经脱颖而出，开始成为全球领先。

领先，也意味着无经验可循。无论在解决防止人工智能致害的法律责任问题上，还是在千万司机面临失业的社会经济问题上，我们都应当做足创新和多路径、多维度的准备，避免将人和技术、劳动与资本对立起来，产生更多矛盾。