Google AI专家：机器学习并不比炼金术好

一位着名的机器学习和人工智能研究人员认为，他的领域已经偏离了科学和工程学的界限而变成了“ 炼金术”。他正在提供一条返回途径。

为谷歌人工智能工作的阿里拉希米说，他认为自己的领域已经取得了惊人的进步，但他们认为它的发展方式有些恶劣。在机器学习中，计算机通过反复试验的过程“学习”。在AI会议上发表的演讲中的问题是，在现场工作的研究人员 - 当计算机由于试验和错误的过程而“学习”时 - 不仅不能准确理解他们的算法如何学习，而且他们不会Rahimi在Matthew Hutson最近为“科学”杂志报道的人工智能会议上发表的演讲中提出了一个很好的理解，他们理解他们用来构建这些算法的技术是如何工作的。

早在2017年，Rahimi在人工智能的神秘方面敲响了警钟：“我们产生了惊人的令人印象深刻的结果，” 他在博客中写道。“自动驾驶汽车似乎即将来临;人工智能标签面临照片，转录语音邮件，翻译文件并为我们提供广告。数十亿美元的公司建立在机器学习的基础上。在很多方面，我们处于更好的位置比起我们10年前的情况。在某些方面，我们的情况更糟糕。“

正如Hutson所报道的那样，Rahimi表明，许多机器学习算法包含基本无用的附加功能，并且当这些功能被剥离时，许多算法的工作效果更好。其他算法从根本上被打破，只是因为在原始程序之上堆积了大量的临时修复程序。

Rahimi在博客中指出，至少在某种程度上，这是一个习惯于一种随机的，反复试验方法的领域的结果。在这个过程中，研究人员完全不了解为什么一个解决问题的尝试有效，另一个尝试失败。人们实施和分享他们不能远程理解的技术。

Hutson在他的文章中指出，关注AI的人可能会被提醒“黑匣子”问题 - 人工智能程序倾向于以人类创造者不理解的方式解决问题。但目前的问题不同：研究人员不仅不了解他们的AI程序的问题解决技术，Rahimi说，但他们也不了解他们用来构建这些程序的技术。换句话说，这个领域更像是炼金术，而不是现代的研究体系，他说。

“有一个炼金术的地方。炼金术工作，”拉希米写道。

“炼金术士发明了冶金学，制药方法，纺织技术和现代玻璃制造工艺。然后，炼金术士也相信他们可以将贱金属转化为金，水蛭是治疗疾病的好方法“。

Rahimi和几位同事在加拿大温哥华举行的学习代表国际会议上 最近的一次演讲(及随附的论文)中提出了一些方法和协议，可以将机器学习推向炼金术世界之外。其中包括：根据组成部分评估新算法，一次删除一部分算法，测试整个程序是否仍然有效，并对算法产生的结果进行基本的“健全性测试”。

这一切都是因为人工智能，拉希米在他2017年的博客中提出的观点，在社会中变得过于重要，无法以这种时尚的方式发展。

“如果你正在建立照片共享服务，炼金术是好的，”他写道。“但我们现在正在构建管理医疗保健和参与民事辩论的系统。我希望生活在一个系统建立在严格，可靠，可验证的知识而不是炼金术上的世界。”