英特尔的神经大师抨击深度学习 它实际上并没有学习

“反向传播与大脑无关，”英特尔神经形态计算部门负责人迈克戴维斯坚持认为，今天流行的AI物种的关键工具之一是深度学习。“出于这个原因，”它确实是一个优化程序，实际上并不是在学习。“

戴维斯周四在旧金山举行的国际固态电路会议上发表了上述评论，这是一个着名的半导体设计师年度聚会。

在本周早些时候，Facebook的Yann LeCun深度学习的主要使徒Yann LeCun在LeCun的会议开幕主题演讲中解散了戴维斯自己的技术后，戴维斯正在回归。

“大脑是我们真正智能计算的一个例子，”戴维斯说。相比之下，在20世纪80年代发明的所谓的反支柱是一种用于优化深度学习计算机程序中人工神经元响应的数学技术。

虽然深度学习已被证明“非常有效”，戴维斯告诉与会者的舞厅，“没有自然的反向支持的例子，”他说，所以它不符合人们认为真正的学习。

然后，戴维斯继续谈论他的团队的神经网络计算机模型“Loihi”，该网络使用所谓的尖峰神经元，只有当他们收到输入样本时才会激活。神经形态计算倡导者的论点是，该方法更接近地模拟大脑功能的实际特征，例如大脑传递信号的巨大经济。

他指责LeCun没有重视这种方法的优势。

“这太讽刺了，”戴维斯说。“Yann砸了尖峰，但后来他说我们需要处理硬件中的稀疏性，这就是尖峰的问题。”

两位研究人员之间的点对点不仅仅是学术上的。英特尔从事芯片业务。LeCun周一在采访中告诉ZDNet，Facebook在开发人工智能芯片方面有自己的“内部活动”。因此，如果公司面临来自那些客户的竞争，那么英特尔与Facebook等大客户的一些芯片业务可能会面临危险。他们有不同的愿景。

这位Facebook人工智能研究员在周一早上的演讲中对广泛的神经元工作提出了批评，并表示该技术尚未产生能够产生实际效果的算法。“Yann说，为什么要为不起作用的算法构建芯片;我认为这些算法确实有效，”戴维斯说。

不过，他承认LeCun的批评至少有一个真实因素。虽然尖峰神经元的硬件“非常充足并且提供了许多工具来映射有趣的算法，”戴维斯说，他的部门有一个“在算法方面取得进展的目标，这就是阻碍该领域的目标。”

但戴维斯斥责他所谓的“这种下意识反应，即尖峰效率低下”。

相反，他提出，“让我们看看数据。”

戴维斯引用安大略省滑铁卢的一个名为Applied Brain Research的组织于12月提出的一份报告，该组织比较了在各种芯片上运行的语音检测算法的性能。该软件经过训练以识别关键字“aloha”，同时也拒绝无意义的短语。该公司在CPU和GPU上运行该模型，并制作了一个在Loihi芯片上运行的版本。

Loihi芯片似乎能够提供更好的能源效率，通过执行任务推断所需的焦耳数量来衡量。(值得注意的是，Loihi芯片实际上提供的精度较低，如应用科学论文的完整版本所述，该论文可在arXiv预打印服务器上获得。)

在另一个例子中，戴维斯指出，Loihi执行的基本分类器任务的速度是传统的基于GPU的深度学习网络的40倍，准确度提高了8%。

戴维斯告诉观众，Loihi的“效率要高得多”，因为它的任务是规模越来越大的网络。他观察到机器人的控制将成为像Loihi这样的神经形态芯片的杀手级应用。“大脑进化到控制四肢”他指出，使机器人控制变得自然。

戴维斯谈到他的谈话时说“在我们能够以适用于广泛问题的商业形式推出之前还有很多工作要做”，但他最后乐观地说，“我们可以得到有效的算法将解决Yann的怀疑态度。“