算法相对论｜求解自动驾驶伦理困境：转化道德规范为数学方程

一辆失控的列车在铁轨上行驶，在它行进的轨道上，有五个人被绑起来，列车即将要碾压过他们。此时，你站在改变列车轨道的操纵杆旁。如果拉动此杆，则列车将切换到另一条轨道上。但是，另一条轨道上也有一个人被绑着。面对以下仅有两种选择，你会如何做？
1.什么也不做，让列车按照正常路线碾压过这五个人。
2.拉下操纵杆，改变为另一条轨道，使列车压过另一条轨道上的那个人。

文章图片
对于最终在公共道路上引入自动驾驶汽车，技术角度只是一个方面。另一个非常重要的难题是，在一些情景下自动驾驶汽车将不得不做出对人类来说也非常困难的道德抉择。
在不可避免的汽车碰撞中，自动驾驶汽车该如何选择前进方向或碰撞的目标？
当前关于自动驾驶伦理已经有了很多理论研究，但是将这些伦理问题整合起来并实际应用于自动驾驶轨迹规划中的研究却少之又少。近日，来自德国慕尼黑工业大学的MaximilianGeisslinger、FranziskaPoszler等研究团队在《哲学与技术》（Philosophy&Technology）上发表了一篇标题为《自动驾驶伦理：从电车问题到风险伦理》（AutonomousDrivingEthics:fromTrolleyProblemtoEthicsofRisk）的研究报告，将道德规范转化为数学方程，提出了一个用于轨迹规划的风险成本函数，综合考虑了整体风险的最小化、最坏情况的优先级和人类的平等性。
论文从电车难题引入，进行伦理准则方面的讨论。电车难题代表一种困境：两个维度创造出一个道题冲突。第一个维度是，五个人的生命是否比一个人的更有价值？第二个维度涉及干预的程度，没有做出努力避免让一个人死亡与主动杀死一个人区别很大，这不仅仅是法律意义上的。从道德角度来看，需要的干预越强，人们越难积极做出有利于挽救更多生命的决定。
与电车不同的是，自动驾驶汽车的轨迹规划没有任何初始设置，但算法会计算出所有的轨迹。对自动驾驶来说，算法可以在一秒内计算并做出决定，而人类在这种情境下会惊慌而按照本能行动。

文章图片
现有的伦理原则：功利主义、美德伦理与风险伦理
为了构造一个令人满意的伦理结果，作者介绍了应用于自动驾驶算法中处理道德困境的原则：现实代表性、技术可行性、通用性、社会接受性、可解释性和透明性。
功利主义道德原则由英国哲学家杰里米·边沁（JeremyBentham）提出，强调整体收益最大化。功利主义允许并提倡牺牲一个人以拯救更多人来做决策，因此可以通过设计成本函数来让决策算法计算可能选项的成本，并从而选择成本最低的一种，如可以选择最大限度地减少车祸受害人的策略等。
然而这里的核心问题是，为了让整个社会获得更大效用，抑制个人的效用是否正确和被允许。想象一下，一个人是否愿意选择一辆自己会在危险情况下为了保护其他人而牺牲自己的自动驾驶汽车？
这背后还有一个根本性的问题，是应该由实施自动驾驶汽车通用行业标准的制造商对整个社会实施强制性的道德设置，还是每个驾驶员都应该选择自己个人的道德设置？
【算法相对论｜求解自动驾驶伦理困境：转化道德规范为数学方程】而在功利主义之外，具有浪漫主义特征的美德伦理则是倾向于强调美德是一种个人的特质。谨慎、勇气、节制和正义均为人类的基本美德，因此在如今的人工智能伦理发展中，相关理论认为：认知机器应该类比地展现这些优点。