正如微软Azure云计算服务首席技术专家Mark Russinovich上周解释的那样,这种现实正在形成。
Russinovich,曾担任Azure近三年的首席技术官,并且是该软件巨头的13年资深人士,上周在纽约,并花了一些时间与我讨论人工智能的网络和机器学习最终可以通过看起来像VB的东西联系在一起。
Mark Russinovich上周在纽约。Russinovich在微软工作了十三年,是该公司Azure云计算服务的首席技术专家。将云计算和“边缘”设备拼接在一起,可以让公司构建“世界上的计算机”,正如他所描述的那样。
(图片:Tiernan Ray for ZDNet)
谁会点燃一个加油泵旁边的香烟,你可能会想,就像我一样。
“显然他们这样做了,”Russinovich笑着说道。据微软客户称,石油巨头壳牌公司(Shell)在便利店的加油站部署了一款名为Azure Data Box Edge的产品。该产品是一种设备,是微软销售的“1U”机架式计算机。该设备下载在Azure中训练的用于图像识别的机器学习模型,它在Docker容器内运行以对图像进行推理。
另外:
图像数据通过泵从低功耗设备输送到Azure Data Box Edge,泵运行Microsoft的较小运行时软件堆栈,称为“Azure IoT Edge”。Azure Data Box Edge使用其训练有素的图像识别模型进行推理,以监控燃气泵是否有人点亮。
Russinovich说:“他们会自动关闭泵,”如果检测到吸烟者,壳牌公司就是这样做的意图。
壳牌是几家客户之一,他们认为需要利用微软云的计算功能,将其置于数据中心,或者越来越多地放置在工厂车间,石油钻井平台和加油站等偏远地区。星巴克正在安装数以万计的所谓“Azure Sphere”设备,这些设备包含运行嵌入芯片的Microsoft安全代码的微控制器。
星巴克可以使用Sphere对他们的咖啡机进行预测性维护。零售业巨头Kroeger将Azure Data Box Edge放在他们所有的商店中,以控制货架上的LED显示器以显示产品的特殊优惠。该设备还可以对购物者的图像进行推断,以识别出由于隐私原因,Russinovich强调的是哪些东西被保留在商店内,而不是被发送到云端。
另外:
所有这些都相当于Russinovich所说的“建造世界的计算机”。但是将这些结合在一起会是什么?Microsoft将计算中已知的版本称为“无服务器”,其中不必指定基础结构,并且程序员通过简单的函数调用可以毫不费力地调用功能。微软的版本是“Azure Functions”。
功能可用于将计算设备集合拼接在一起,从商店中的简单Raspberry Pi机器到本地配线间中的Box边缘服务器,直至运行培训操作的云实例。
Russinovich解释了他预见的所有这些设备的管道,其功能是一种粘合剂:
如果你看一下我想象的边缘应用程序,它的推理部分将是一回事。将存在响应该ML模型的输出的功能。该功能正在吐出随后流入云中的数据,并且正在创建警报,或者只是触发图像集合以进行存储然后进行聚合。我认为数据周围会有一个管道,并且会对数据做出响应。其中一些将涉及云,其中一些将完全是本地的。
我向Russinovich指出,对我来说,函数的使用使得它似乎可以从一个Visual Basic应用程序中运行所有机器学习。“你提到这一点很有意思,”他回答说,“因为在我们头脑风暴中创建的是什么样的编程模型,一个跨越云端和边缘的模型,我们的心智模型是,让我们追求同样的企业专业开发人员我们用Visual Basic取得了如此成功。“
所有这些云和边缘谈话仍然有一些事情需要落实到位。
随着越来越多的推理在边缘进行,边缘设备需要越来越多的高级硬件,无论是在数据中心,配线间还是在Raspberry Pi上。
目前,Azure Data Box Edge附带了来自英特尔的“Arria”芯片,现场可编程门阵列,其电路可以调整到下载到它的ML模型。微软统称将其在云中的FPGA使用称为“脑波”,使用英特尔的芯片与微软应用于芯片的技术相结合。不过,谷歌和亚马逊已经走自己的路,开发内部定制电路进行推理。
当我问Russinovich微软是否也走这条路时,他回答说:“我认为这是我们一直在关注的问题。”但他很快补充说微软开发了“开放式神经网络交换”或ONNX,这是Facebook和亚马逊的标准,以支持来自许多初创公司的新推理芯片。“这是我们采取的重大举措之一,以确保无论我们是用硬件还是其他人进行创新,我们都已做好准备,”他说。
基于Chromium的Edge:使用微软的新浏览器
微软改进了编程语言PowerShell,因为Windows 10使用的是Linux
MacBooks还有键盘问题吗?我去了两家Apple商店了解一下
在核心技术的推动下,机器人革命正在顺利进行
另一个问题是神经网络的训练。Russinovich表示,尽管由于经济原因,绝大多数神经网络训练仍将继续存在于云中,但也有一些客户可能希望随着时间的推移将一些培训带到边缘。
他说,必须要有新的部件才能做到这一点,他指出,微软的研究团队正致力于开发许多技术,通过“精度降低”算法将AI模型带入优势,同时保持精度不变在云中进行培训时。
Russinovich说:“将会开发更丰富的应用程序和程序模型,我们确保它们尽可能地降低。”
“现在,当你完成4个内存容量时,你的数量非常有限,但很多东西都可以推向Raspberry Pi级设备。”
至于PyTorch,我问Russinovich最近Facebook的负责人Yann LeCun声称Python需要被其他一些编程语言所取代,这些语言更适合人工智能和机器学习。Russinovich立即驳回了这一观点。
“我认为人们可以谈论这个问题,但我们并没有看到它[Python]在任何地方,这就是我们的Azure ML SDK在python中的原因。
“因为数据科学家喜欢这个!”