Qualcomm喜欢AI推理是一个绿色领域市场,专注于支持TensorFlow等AI框架,而不是数据中心CPU必须支持的传统软件。
但是,为什么高通公司应该在英特尔占据主导地位以及Nvidia所具有的巨大影响力?
Amon说,高通公司正在其Snapdragon移动处理器内部使用其“神经处理单元”或NPU,该公司专用的AI处理逻辑,并将其“扩展到云端”。此时缺少技术细节;Qualcomm计划在今年晚些时候举办一次活动,其中将介绍AI 100的技术细节以及相关的性能基准规范。
NPU是图形处理单元或GPU与数字信号处理器或DSP的组合,Amon观察到。Amon没有在这次聊天中详细介绍,但NPU的常见之处在于它将Qualcomm的“Hexagon”DSP与其“Adreno”GPU结合在一起。加载到客户端设备上的神经网络模型根据这三个功能块中的每一个的能力,在DSP,GPU和Snapdragon中的“Kryo”CPU上运行浮点和整数运算的一些组合。
Amon表示,功能块的组合在移动版本中实现了性能和能效之间的平衡,并且是AI 100的一种初始蓝图。
“AI 100的架构100%是基于我们为Snapdragon mobile设计NPU的方式,”他说。“这给了我们一个特定的设计点优势,我们只是复制并粘贴它。”