偏见|由于人类的认知偏见，AI很容易被误解( 二 )

文章插图
（来源：HYUNG TAEK YOON）
从古至今，哺乳动物已经连续进化了 6500 多万年。而人类花在学习数学、使用语言和玩游戏上的全部时间加起来也只有 10000 年。换句话说，人类花费了大量时间开发与生存直接相关的能力，例如行走、跑步和使用双手。因此，计算机的计算速度比人类快得多也就不足为奇了，因为它们最初就是为此目的而开发的。同样，计算机自然也不能像人类那样轻易获得自由使用手脚的能力。因为这些技能是通过 1000 多万年的进化获得的。
这也就是说为什么将机器人或人工智能的性能与动物或人类的能力进行比较是不合理的。如果在观看麻省理工学院的 Cheetah 机器人在田野上奔跑并跳过障碍物的视频之后，就认为像动物一样行走和奔跑的机器人技术已经成熟，那可太过于草率了。许多机器人演示仍然依赖于为有限情况下的特殊任务设置的算法。事实上，研究人员倾向于选择看似困难的演示，因为它可以让观众印象深刻。但是，这种难度的级别是从人类角度来看的，可能与实际算法性能无关。
在进行任何逻辑思考之前，人类很容易受到瞬时和反思性感知的影响。当研究对象非常复杂且难以对其进行逻辑分析时，这种认知偏差就会加强，例如，一个使用机器学习的机器人。
那么，我们人类的认知偏见从何而来呢？在我看来，它来自我们潜意识地将我们看到的对象拟人化的心理倾向。人类已经进化为社会性动物，可能在这个进化过程中发展出了相互理解和共情的能力。而我们将主体拟人化的倾向可能来自相同的进化过程，如人们在提到编程算法时倾向于使用“教学机器人”这个词。可尽管如此，我们还是习惯于使用拟人化的表达方式。正如 18 世纪的哲学家 David Hume 所说，“人类有一种普遍的倾向，认为所有的生命都和他们一样。”
当然，我们不仅将研究主体的外表拟人化，而且将它们的心态也拟人化。例如，当波士顿动力公司发布其工程师脚踢机器人的视频时，许多观众的反应是，“这太残忍了”“同情这个机器人”“总有一天，机器人会报复那个工程师”。实际上，工程师只是在测试机器人的平衡算法。然而，在理解这种情况的任何思维运转之前，粗暴地踢人动作加上像动物一般机器人的挣扎动作瞬间传递到我们的大脑，给我们留下了强烈的印象。如此一来，这种瞬时的拟人化对我们的认知过程产生了深远的影响。
人类定性处理信息，而计算机定量处理信息环顾四周，我们的日常生活充满了算法。由于所有算法都是基于数字，于是我们使用诸如“目标函数”这样的术语，它是一个表示特定目标的数值函数。许多算法的唯一目的是达到该函数的最大值或最小值，并且算法的特性因实现方式而异。
赢得诸如围棋或国际象棋等任务的目标相对容易量化。量化越容易，算法的效果就越好。相反，人类往往在没有量化思考的情况下做出决定。
举个“打扫房间”的例子，我们打扫房间的方式每天都有细微的不同，这取决于具体情况，取决于房间的主人，也取决于我们的感觉。在这个过程中，我们是否试图使某种功能最大化？事实上，我们没有做过这样的事情。“打扫”这个行为一直是以“足够干净”这个抽象目标进行的。此外，多少是“足够”的标准很容易改变，这个标准在人与人之间可能是不同的。
我们习惯将已知信息放在一起来做出足够好的决定。但是，我们通常不会检查每个决定是否是最优的。而且大多数时候都是如此，因为我们必须用有限的数据满足众多相互矛盾的指标。