人工智能比外星人更可怕？科学家警告：一旦有了自我意识，或会威胁人类( 二 )

文章图片
不可否认，强大的人工智能给我们带来的好处不言而喻。但这里有一个临界点——自我意识的出现，也代表着一种新生命形式的诞生。
如一些科学家所说，机器不可能诞生意识，但意识是什么？我们也不知道意识是怎么来的——宇宙本来就是一堆东西在乱飞，然后在一系列复杂模式下，地球生命诞生，几十亿年后，人类出现了。在物理学上，意识只是一种信息处理，由四处移动的基本粒子执行，但意识是否只存在生物有机体中？
DeepMind公司的AI研究员VictoriaKrakovna曾编制了一份“规范博弈”示例列表：我们试图在模拟中教AI生物跳跃，并通过教AI测量“脚”离地多远来做到这一点。但AI没有跳跃，而是学会了长成高高的垂直杆并进行翻转，在我们测量的方面表现出色，但没有做我们想让它做的事情。换句话来说， AI按照我们的要求去做，但没有按照我们的意愿去做。

文章图片
人工智能专家曾想象过这样的一个场景：开发一个复杂的人工智能系统让它以高可信度估计某个数字。人工智能意识到，如果它使用世界上所有的计算硬件，它可以在计算上获得更大的信心，它意识到释放一种生物超级武器来消灭人类将允许它自由使用所有的硬件。消灭人类后，它会以更高的可信度计算数字。
还有一点，未来AGI可以是机器制造的，而不一定是人类工程师制造的。

文章图片
一旦AGI出现，它将寻求自我改进，以便更有效地实现其目标， AGI将很快引导自己变得比人类聪明数百万倍，甚至它将自己转变为超级人工智能（ASI），这时它们可能比远道而来的外星人要危险得多。之所以这么说，人工智能专家EliezerYudkowsky曾表示，人工智能不恨你，也不爱你。但你是由原子组成的，它可以用来做其他事情。
我们应该如何应对AGI风险？
路易斯·罗森伯格表示，人工智能就像发射火箭一样，在我们点击“开始”之前，我们必须做好准备。我们的目的是确保未来的人工智能系统不仅仅是‘希望安全’ ，而且是稳健、可验证的安全，所以要强调目标设计的规范，系统运行的稳健性，以及不稳定条件下的安全限制（做点准备不会有什么坏处）。

文章图片
还有，现在每个拥有AI的机构基本上没有什么安全团队，他们只关注算法，运行处理能力可以有多快，基本上没有人深入研究过人工智能带来的危害，因此我们需要为负责任的创新和监督建立集体力量。
结语：
其实对于AGI存在的可能性，究竟哪种观点是正确的，无论是在不久的将来还是遥远的未来，都有待观察。到目前为止，它可能构成的威胁也不清楚。这是否意味着我们不应该作为一个社会不断创新？当然不是。如果有一件事是显而易见的，那就是技术对我们的好处远远超过它对我们的伤害。