芯片世界试图掌握AI的承诺和危险

芯片高管聚集在旧金山，讨论如何应对人工智能的深度学习形式的需求爆炸，这种形式正在推动当今芯片的极限。可能性包括模拟计算，光学电路和内存计算，但目前尚不清楚这些是否会阻碍潜在的仓库规模计算瓶颈。计算机行业面临着巨大的变化，因为机器学习的“深度学习”形式的需求迫使对芯片提出新的要求，同时摩尔定律，即芯片业务数十年的进步规则正在崩溃。本周，芯片行业的一些最优秀人才聚集在旧金山，谈论它意味着什么。

应用材料公司是制造晶体管工具的主要制造商，周二赞助了一整天的主题演讲和小组会议，称为“AI设计论坛”，与芯片行业的年度大型贸易展之一Semicon West合作。

演讲和讨论有好消息和坏消息。从好的方面来说，Advanced Micro Devices和Xilinx等公司可以使用许多工具来制作芯片的“异构”排列，以满足深度学习的需求。在不利方面，目前尚不完全清楚他们在他们的工具包中所拥有的东西将减轻数据中心在计算需求增加的压力下的潜在耗尽。

在Semicon展会上没有展示新的芯片，这些展品早已传递到其他贸易展览和会议。但人工智能论坛的讨论很好地说明了芯片行业如何思考机器学习的爆炸性增长及其对计算机的意义。

应用材料公司首席执行官Gary Dickerson。SFFOTO /应用材料

应用材料公司首席执行官加里•迪克森(Gary Dickerson)在发表讲话时指出“摩尔定律显着放缓，引用加州大学伯克利分校教授大卫帕特森和英国航空公司董事长约翰亨尼斯的数据显示，新加工商的性能每年仅提高3.5%。 (这个数字略显过时; Patterson和Hennessy在2月份发表的一篇文章指出，经济增速放缓至每年3%的增长。)

迪克森接着声称，全球数据中心的人工智能工作量在未来十年左右可能占所有计算周期的80%和全球用电量的10%。

Dickerson表示，这意味着该行业需要寻求解决方案的许多途径，包括用于芯片设计和新型存储芯片的“新架构”。他列举了几种类型的存储器，包括“MRAM”，“ReRAM”(电阻式RAM)，“PCRAM”(相变RAM)和“FeRAM”。业界还必须探索模拟芯片设计，将数据作为连续的实值信号而非离散单元处理的芯片，以及超越硅的新型材料。

Advanced Micro Devices的首席执行官Lisa Su和Xilinx的首席执行官Victor Peng都表达了他们各自在制作异类计算方面的作用。

Su谈到了该公司的“Epyc”服务器芯片，该芯片通过将多个硅片(称为“芯片组”)集合到一个封装中，利用连接芯片的高速存储器总线来解决摩尔定律的瓶颈问题。一种芯片，是自己的计算机系统。

许多新的内存类型都是行业需要关注的措施，以应对AI工作负载的急剧上升。应用材料

彭在公司5月在纽约投资日表示，Xilinx的可编程芯片“FPGA”不仅可以处理AI的矩阵乘法，还可以处理机器学习前后需要发生的传统软件执行部分。操作。

谷歌的一位高级工程师Cliff Young详细介绍了谷歌从2013年开始开发的Tensor Processing Unit或“TPU”芯片。他说，这种努力是出现了一种恐慌。该公司发现，随着越来越多的机器学习服务在谷歌运行，“矩阵乘法正在成为车队周期中明显的一小部分”，谷歌数据中心。“如果每个人每天两分钟与他们的手机交谈，或者想要每天分析两分钟的视频片段会怎样，”他使用机器学习，他反问道。“我们没有足够的电脑。”

“成功和灾难都有潜力，”他谈到对人工智能服务的需求激增。“我们开始了为期15个月的碰撞项目，以实现性能提升10倍。”

尽管现在正处于TPU的第三次迭代，但Young暗示危机尚未结束。在谈到矩阵乘法时，计算需求正在“立方”增加。谷歌拥有整个仓库大小的建筑物，里面装满了“豆荚”，这些容器有多个装满TPU的货架。仍然不够。“即使谷歌也将限制我们如何扩展数据中心。”

换句话说，为仓库瓶颈做好准备。

谷歌工程师Cliff Young凯尔西弗洛伊德

Young表示，硬件设计师和软件程序员之间必须进行大量合作，他称之为“共同设计”，但也与材料物理学家共同设计。

“当你进行共同设计时，这是跨学科的工作，你在陌生的土地上是一个陌生人，”他说。“我们必须离开我们的舒适区。”

他想知道，“我们可以使用光学收发器”来操纵神经网络吗?他说，光学计算“在矩阵乘法中非常棒”，但在神经网络的另一个关键部分，即每个人工神经元的非线性激活函数方面，它并不是很好。

“包装是一件事，我们可以用包装和小芯片做些什么呢?”他问。他说，业界需要替代CMOS，这是芯片的基本硅材料，与迪克森相呼应。他说，内存计算也很重要，它具有接近存储单元的计算能力，而不是来回移动，往返于存储器到处理器以及沿着传统的存储器总线返回。

Young提出机器学习可能为模拟计算开辟新的机会。“奇怪的是，我们在实数神经网络和底层模拟设备之间有这个数字层，”他说，在AI和硅的统计或随机性质之间建立了联系。“也许我们并不总是需要一直回到比特，”扬认为。

鉴于所有挑战，“这是一个非常酷的时间来指导

人工智能与商业的未来

机器学习，任务自动化和机器人技术已经广泛应用于商业领域。这些和其他人工智能技术即将繁衍，我们将研究组织如何最好地利用它们。

阅读更多

Young接着是无线芯片巨头高通公司“Chidi”Chidambaram的工艺技术负责人。高通公司表示今年将在芯片中制造芯片进行人工智能计算，但奇丹巴拉姆的重点是机器学习的“推理”阶段，做出预测，明确地在手机等“边缘”设备上。他像迪克森一样，强调了记忆的重要性，并说他称之为“CIM”，或者在记忆中计算，“将在非常接近数据的位置进行计算”，并且它将构成一个“范式在计算中的转变。”

当天结束时，与五位风险资本家就如何为人工智能等前沿领域的新公司提供资金进行了小组讨论。主持人就是这篇文章的作者。

小组成员包括Lux Capital的管理合伙人Shahin Farshchi;Laura Oliphant，Spirit Ventures的普通合伙人;Aymerik Reynard，硬件俱乐部的普通合伙人;Applied Ventures的总经理Rajesh Swaminathan，应用材料公司的风险投资部门;以及英特尔投资部门英特尔投资公司的投资总监詹妮弗阿德。为了开会，我向每位小组成员询问摩尔定律是否已经死亡，是或否。尽管每位专家小组成员都有点歪曲和羞愧，但是当被按下时，五人中有四人表示“是的”，摩尔定律已经死了。最后回答的法尔希奇说“不”。他的解释是，虽然摩尔定律可能不再能够预测晶体管改进物理学方面的半导体进展，

从某种意义上说，这与当天剩下的大部分时间都是一致的，无论它是否准确无误。这将需要整个行业进行调整以满足AI的需求