算法相对论｜求解自动驾驶伦理困境：转化道德规范为数学方程( 二 )

但是，机器内的美德没法进行有解释性地预先编程，这是其相对于功利主义的一个不足。现在的自动驾驶算法往往基于机器学习算法，可能产生不同的模式。开发者可以通过在训练模型的过程中将美德作为一种积极的奖励信号加入，最终算法应该可以识别需要进行道德行动的情况，并且采取相应的行动。
由此，这样基于美德伦理学的策略也可以具有很好的通用性，但问题在于训练数据是无法很好表示极端情况的正确决策，同时，可解释性和归责也很难实现。
作者接着论述了第三种选择：风险伦理（处理在风险情况下的道德正确行为）。风险伦理有三种既定的决策参考：贝叶斯规则、最大化原则以及预防原则。
贝叶斯决策标准要求，当面对不同的行动选择时，选择产生最大预期效用的特定行动。该预期效用由不同事件的发生概率和这些后果的指数/评级组成。
最大化原则可以被理解为，在无法获得有关每种后果发生概率的信息的情况下避免最大损害。因此，决策者会选择在最坏的预期情况下产生最少坏结果的替代行动。
预防原则遵循“安全总比后悔好”的座右铭，提倡谨慎和规避风险，通过制定特定的法律来主动防止潜在的未来损害。
风险伦理具有高透明度（在更可预测的意义上）、通用性（对风险的考虑与具体情况无关）、现实代表性（充分考虑不确定性），因此具有比较高的社会接受度。
然后，作者提出，据他所知，在轨迹规划中还没有实施了风险伦理的技术方法。然后，理论上，策略结果的积累风险可以很容易地计算和比较，从而反映在可被编程实现的数学表达中。
风险伦理如何形成和实现？
为了对于风险伦理框架的理解，可以想象一个具体情景：一辆自动驾驶汽车在自行车和卡车之间行驶，他的位置决定了其带来的风险，减少与自行车之间的距离，会将风险转移到骑车人身上，因为在与汽车发生碰撞的情况下，骑车人的后果被认为要大得多，减少与卡车的距离则会导致风险向自动驾驶汽车转移。总的来说，最大限度降低自动驾驶汽车乘员的风险是以牺牲弱势道路使用者为代价的，例如骑自行车的人或行人。

文章图片
当考虑对风险的计算和建模时，一般来说，其被定义为发生概率和估计后果的乘积。借助于这种定量的计算和对于策略后果的估计，前人已经提出了相关的具体算法实验，其中Leben强调了对于参与者生存几率的估计和最大化，本文的作者提出的方法强调了概率和相关后果的风险性的叠加。

文章图片
而危害的估计则更加的困难了，主要挑战的便是对于“危害”这个抽象的数量的量化。从伦理的角度来看，尚不清楚应如何量化不同类型的伤害并相互权衡。尤其是涉及到可能造成致命后果的极端事故时，这给我们带来了巨大的困难。例如，我们无法权衡终身残疾的严重伤害与死亡之间的关系。从道德的角度来看，将财产损失与人身伤害进行比较就更加困难了。而使用经济后果（如货币价值）对伤害进行量化的方法则需要准确了解事故后果。事实上，在实践中，事故的严重程度只能在一定程度上预测。但是这种危害量化预测的困难就带来了对整个风险道德模型的实现的困境。
基于这种困难，本文的作者出于对碰撞产生危害的物理性质的思考，提出了参考物体动能和物体运动状态的风险分布。这种分布的考察对于驾驶车辆和其他的道路参与者进行了分别考虑，使得后续的策略制定可以实行不同的风险偏好。