Nvidia希望将数据科学浪潮推向数据中心

Nvidia希望将数据科学浪潮推向数据中心

随着企业转向分布式计算，Nvidia希望能够进入数据中心。

Nvidia刀片服务器墙

(图片来源：Nvidia)

沉浸在GTC一周的主题之一是相信数据科学是城里最热门的门票，而且很多人参加，Nvidia正在开车。

执行指南

什么是人工智能?关于人工智能需要了解的一切

人工智能指南，从机器学习和一般AI到神经网络。

阅读更多

开始制造图形芯片的公司和不知情的观察者似乎在人工智能领域出现了一个奇怪的偏差，现在将它们重新整合在一起，因为图形和AI合并。

最先进的技术是，公司认为它可以声称可以从草图中创建照片般逼真的图像，除了一些不同元素的边界问题外，它们看起来还不够逼真。

AI的推断也被用于将光线跟踪添加到Quake II中。

Nvidia首席执行官Jensen Huang周二告诉ZDNet，“我们在人工智能推断的图像生成方面做了很多工作。毫无疑问是未来。”

但仅仅关注业务的漂亮消费者方面就是忽视其数据中心的野心，这应该让像英特尔这样的公司高管们出汗。Nvidia认为，数据科学和神经网络的使用需要利用它提供的大规模并行硬件，并且能够摆脱CPU运行的神经网络的时代正在迅速消失。

“我的信念是，很多推论，即使在今天，仍然在CPU上运行 - 我认为在Volta或传统的Pascal上有一些离线批量推断，但我认为绝大多数的推断是在CPU上运行， “Nvidia总经理和加速计算副总裁伊恩巴克周三告诉记者。

可能会使您的公司面临风险的员工习惯

虽然维护安全设备和网络对于组织的网络安全至关重要，但公司应该专注于保护自己免受网络犯罪侵害。在保持组织安全方面，员工......

白皮书由熊猫安全提供

“我们现在看到的是，人们正在部署的网络不再能够在CPU上运行。”

使用语音搜索到搜索引擎的例子，巴克指出了处理该请求的不同网络：降噪器，声学模型和处理输入语音的语言模型;另一个网络，用于扫描和处理返回给用户的网页;第三个返回结果的发声。

“这不可能在CPU上运行 - 它根本不可能。如果你试图实时做到这一点，它将花费几秒钟，如果不是无法使用。他们必须在几毫秒内执行所有这些，”巴克说。 。

“这就是我们所看到的转变，网络无法在CPU上运行以获得准确性或延迟要求。”

另外：Nvidia收购Mellanox引发了英特尔竞争，数据中心的雄心壮志

本周，该公司宣布Tesla T4 GPU将通过思科，戴尔EMC，富士通，HPE和联想的Nvidia认证服务器提供。但对于Buck而言，将GPU添加到标准企业服务器只是进入更大的分布式计算世界的第一步，并且为了让其潜在客户在那里，数据科学家是关键。

“最终，这就是我们需要帮助的人，数据科学家显然面临着巨大的压力，他们正在收集这些数据，并且实际上正在进行业务改进，”巴克告诉ZDNet。

“我认为分布式数据分析和数据科学是企业的下一个重要篇章，一个技术障碍可能会在网络上转折点，我开始看到25G和100G，所以我认为随着人们看到了什么他们可以这样做，我认为它肯定会流行起来并迅速行动起来。“

Nvidia以69亿美元收购Mellanox应该标志着该公司对数据中心的重视程度。它已经有了自己的计算堆栈，如果购买获得批准，将为其包添加网络和互连。

在讨论购买时，Huang指出由于容器和神经网络等技术以及被分析数据的大小，数据中心的东西向交通量增加。

“这两种情况都会导致网络成为瓶颈，两种情况都会发生，而且在摩尔定律放缓的那段时间里，软件堆栈，网络软件堆栈必须尽可能地移到网络上，” Nvidia首席执行官说。

“现在CPU资源太少了，所以你必须卸载任何可以完成的工作，并且Mellanox在CPU卸载方面是世界级的，他们需要整个网络堆栈并在智能网卡上运行它。

“未来，越来越多的事情将会发生，因此网络将变得聪明起来。”

据Huang介绍，计算结构将扩展到节点之外并进入网络。

“整件事情将是一台大型计算机，”他说。

在努力将企业置于市场底层的同时，Nvidia正在推出1,280个GPU RTX服务器盒。正在电信公司投资的那种机器允许他们提供像GeForce Now这样的服务。日本的SoftBank和韩国的LG Uplus已经签约了Pods。