算法相对论|求解自动驾驶伦理困境:转化道德规范为数学方程( 三 )


“三原则”在风险估计中的运用
根据贝叶斯原理的要求 , 总的社会效益应当被尽量最大化 , 并且满足功利考虑的需求 。 这意味需要寻找一个对于所有的参与者的收益期望最高的策略 。 但是另一方便 , 这种方法只追求总体风险的最小化 , 没有提供有关风险关系的任何信息而且也没有考虑公平性 。 出于对这种缺陷的改良 , 作者还加入了“平等原则”(Equalityprinciple)的约束 , 要求通过最小化所考虑风险的差异来平等分配风险 。
而这种平等原则在不加额外限制的情况下 , 可能会带来人们预期之外的结果 , 比如在只有两个参与者的情况下 , 单纯地强调平等原则 , 可能会让决策策略比起“一个人受轻伤另外一个不受伤”更喜欢两个人均死亡 。
算法相对论|求解自动驾驶伦理困境:转化道德规范为数学方程
文章图片