为什么人工智能会让我们如此惊恐？

当人们看到像人类一样响应的机器，或者具有模仿人类聪明才智的策略和认知功能的计算机时，他们有时会开玩笑说人类将需要接受机器人的霸主。

但埋在这个笑话中的是一种不安的种子。科幻小说和流行电影，从“2001：太空漫游”(1968)到“复仇者联盟：奥创力时代”(2015)，推测人工智能(AI)超出了其创作者的期望并逃脱了他们的控制最终超越竞争并奴役人类或将其瞄准灭绝。

人类和人工智能之间的冲突是AMC科幻系列剧“人类”的前沿和中心，该系列于周二(6月5日)重返第三季。在新剧集中，有意识的合成人类面对敌对的人，他们怀疑，恐惧和仇恨对待他们。当Synths发现自己不仅为基本权利而且为了生存而战，而不是那些认为他们不如人类和危险威胁的人时，暴力行为就会发生。

即使在现实世界中，并非所有人都愿意张开双臂欢迎AI。近年来，随着计算机科学家们突破了人工智能可以实现的界限，技术和科学方面的领先人物已经警告人工智能可能给人类带来的迫在眉睫的危险，甚至暗示人工智能能力可能会毁灭人类。

但为什么人们对AI的想法如此不安?

一种“存在的威胁”

伊隆·马斯克是具有突出的声音之一提出了红旗关于AI。2017年7月，马斯克在全国州长协会会议上告诉与会者，“我接触到了最前沿的人工智能，我认为人们应该真的关心它。”

“我一直在敲响警钟，”马斯克补充道。“但是直到人们看到机器人走在街上杀人，他们才不知道如何反应，因为它看起来如此空灵。”

早些时候，在2014年，马斯克将AI称为 “我们最大的生存威胁”，并在2017年8月，他宣称人类面临的AI风险比朝鲜更大。

3月14日去世的物理学家斯蒂芬霍金也表达了对恶意AI的担忧，他在2014年告诉英国广播公司，“全人工智能的发展可能意味着人类的终结。”

一些程序员 - 尤其是马萨诸塞州剑桥的麻省理工学院媒体实验室的程序员 - 似乎决定证明人工智能可怕，这也不足以令人放心。

麻省理工学院计算机科学家于2016年推出了 一种名为“ 梦魇机器 ”的神经网络，将普通照片转化为残忍，令人不安的地狱风景。麻省理工学院的一个名为“ 雪莱 ” 的AI 组成了可怕的故事，训练了Reddit用户在论坛上发布的140,000个恐怖故事。/ nosleep。

“我们对AI如何引发情绪感兴趣 - 恐惧，在这种特殊情况下，”麻省理工学院媒体实验室的研究经理Manuel Cebrian在一封关于Shelley可怕故事的电子邮件中告诉Live Science。

恐惧和厌恶

人工智能的负面感觉通常可分为两类：人工智能将变得有意识并试图摧毁我们的观念，以及不道德的人将AI用于邪恶目的的观念，Kilian Weinberger，计算机科学系副教授在康奈尔大学，告诉Live Science。

“人们害怕的一件事是，如果超智能人工智能 - 比我们更聪明 - 变得有意识，它可以像对待我们对待猴子一样对待我们，”他说。“这肯定是不可取的。”

然而，Weinberger指出，人们担心人工智能会提高认识并推翻人类，这是基于对AI的误解。AI在由决定其行为的算法定义的非常具体的限制下运行。某些类型的问题很好地映射到AI的技能组合，使得AI完成某些任务相对容易。“但是大多数事情并没有映射到那个，而且它们不适用，”他说。

这意味着，虽然人工智能可能在精心划定的界限内有令人印象深刻的功绩 - 例如，玩一个大师级的国际象棋游戏或快速识别图像中的物体 - 这就是它的能力结束的地方。

“人工智能达到意识 - 在该领域的研究一直没有进展，”温伯格说。“我不认为这在不久的将来会发生在任何地方。”

Weinberger补充说，另一个令人担忧的想法 - 不幸的是，一个不道德的人会因为有害的原因而利用人工智能 - 更不可能。Weinberger说，几乎任何类型的机器或工具都可以用于好的或坏的目的，这取决于用户的意图，武器利用人工智能的前景肯定是可怕的，并且将受益于严格的政府监管。

Weinberger建议，也许，如果人们可以放下他们对敌对人工智能的恐惧，他们会更加开放地认识到它的好处。例如，增强的图像识别算法可以帮助皮肤科医生识别可能致癌的痣，而自动驾驶汽车有一天可以减少因车祸导致的死亡人数，其中许多是人为错误导致的，他告诉Live Science。

但在自我意识到的Synths的“人类”世界中，人们对有意识的AI的恐惧引发了Synths与人之间的激烈对抗，而人类与AI之间的斗争可能会继续下去并在当前季节升级 - 至少。