麻省理工学院最终给出了所有人工智能恐惧总和的名称

麻省理工学院媒体实验室的研究人员说，社会需要用类似于行为学领域的多学科方法来研究算法，而不是简单地害怕“智能机器”。现在我们知道该怎么称呼，这是一个巨大的令人不安的人工智能问题和我们想象的无数威胁，从机器偏差到丢失的工作，再到类似终结者的机器人：“机器行为”。这就是麻省理工学院媒体实验室的研究人员提出的一种新的跨学科研究领域，以确定人工智能是如何发展的，以及它对人类的意义。(他们使用英国拼写，因为这是一本欧洲期刊。)

赌注很高，因为人类有很多可能通过算法放大，但也有很多危险。

他们写道，评论家和学者们“正在警告人工智能代理人可能表现出行为并产生下游社会影响的广泛而无意的后果 - 无论是积极的还是消极的 - 他们的创造者都没有预料到这种影响。”“人们担心人类可能会失去对智能机器的监督”，“自主武器”的发展意味着“机器可以决定谁在武装冲突中生活和死亡”。

虽然这里没有任何结论，但这是一个很好的，雄心勃勃的努力，为研究AI在社会中的作用提供一些指导，而不仅仅是担心它。

本周发表在“自然”杂志上的论文“机器行为”呼吁“设计和设计人工智能系统的领域以及传统上使用科学方法研究生物制剂行为的领域”的共同努力。具体而言，作者建议不仅要研究机器学习算法的工作原理，还要研究它们如何受其影响的环境的影响和影响。

它“类似于行为学和行为生态学如何通过将生理学和生物化学 - 内在属性 - 与生态学和进化学研究 - 由环境塑造的特性相结合来研究动物行为。”

麻省理工学院的主要作者iyad Rahwan，Manuel Cebrian和Nick Obradovich与来自众多机构的20位其他研究人员合作，包括Facebook AI，微软，斯坦福，耶鲁大学社会学系和柏林马克斯普朗克人类发展研究所等。他们还准备了一篇关于这个主题的博客文章。Rahwan在媒体实验室内设立了一个名为可扩展合作小组的小组，该小组已经开展了许多研究机器和道德问题研究的途径。

作者首先从大部分AI能够发挥作用开始 - 尽管人类不理解它为什么起作用。

“正如他们所描述的那样，它们被输入并产生输出”，但产生这些输出的确切功能过程甚至难以解释为自己生成算法的科学家。

“由于它们的普遍性和复杂性，预测智能算法对人类的影响 - 无论是积极的还是消极的 - 都构成了巨大的挑战，”作者指出。

作者从诺贝尔奖得主尼古拉斯·廷伯根(Nikolaas Tinbergen)那里获得了线索，他是道德学的共同创始人。Tinbergen将道德学描述为“行为的生物学研究”，他提出了构成这样一项研究的四个要素：机制，发展，功能和进化。他们写道，这四个概念可以成为探索机器行为的一种方式。

在这个框架中，他们提出，术语机制涉及AI中已经研究最多的领域，例如神经网络模型，以及提供它们的数据。发展的概念涉及神经网络之类的东西，它们学习新的策略，因为它们与环境的相互作用。“例如，受过最大化长期利润培训的强化学习代理可以根据自己过去的行为和市场反馈来学习特殊的短期交易策略。”

作者将“函数”描述为算法为其人类创造者服务的目的之间的混合，以及算法可能采取的非预期角色，例如导致“过滤泡沫”和虚假新闻的社交媒体算法。作者在这里真正探索机器学习中“目标函数”的问题，即这些算法究竟应该实现什么。

第四个方面，进化，并不像你想象的那样简单：有几个方面，包括神经网络创造者推测某些算法与其他算法的倾向，以及“突变”的前景以意想不到的方式传播。他们观察到，“特定无人驾驶汽车的行为中的单一自适应'突变'可能通过软件更新立即传播到数百万辆其他汽车。”

这四个领域引发了一些关于人工智能的有趣问题，无论是大图还是低级。

例如，对于诸如自动驾驶汽车之类的东西，它们会提出诸如“汽车超越其他车辆的积极程度”这样的问题。并且“汽车如何在乘客和行人之间分配风险?”其他有趣的问题是，会话式机器人最终是否能够将孩子挂在产品上，或者约会网站的匹配算法是否会“改变约会过程的分布结果”。

“机器塑造人类行为”是他们令人不安的观察之一。“重要的是要研究算法中的小错误或他们使用的数据是否会加剧产生整个社会的影响，以及我们学校，医院和护理中心的智能机器人如何改变人类发展和生活质量，并可能影响残疾人。”

这种研究并不容易，不仅因为它涉及到汇集了许多学科。作者指出，如果研究人员想要研究具有版权或专利保护的商业算法，他们将面临挑战。在野外以经验方式尝试和观察算法的选择带来了自己的一套道德问题。

他们承认，即使是他们反复用来指代人工智能创新的术语“代理人”，也会带来人类和动物相似的各种有问题的假设。

“即使借用现有的行为科学方法可以证明对机器的研究有用，机器也可能表现出与生物制剂中所见的那些质量不同的智力和行为形式 - 甚至是外来的 -