AlphaIC宣布已完成Gluon边缘推理处理器并开始提供样片

初创公司AlphaIC日前宣布，它已经开始向客户提供用于边缘人工智能推理的Gluon协处理器样品。AlphaIC声称，与Nvidia相比，该芯片在物体检测等视觉工作负载方面具有竞争力的性能。

Gluon基于AlphaIC的专有架构，该架构有一个针对人工智能优化的指令集架构（ISA），并已开发了两年。AlphaIC称其为真正的AI处理器（RAT）架构。AlphaIC还拥有一个支持TensorFlow的SDK。该公司报告说，其他支持的框架正在开发中。

理论上的劣势并没有阻碍Gluon的发展

作为该公司第一款基于RAT架构的芯片，Gluon拥有8个TOPS/s的性能，用于深度学习神经网络。虽然这并不是特别高，而且与其他边缘人工智能和智能手机芯片相当（甚至低于），但AlphaIC声称它有更高的利用率（每TOPS的性能更高），从而带来更高的性能。Gluon支持PCIe和LPDDR4接口。该芯片本身是在台积电的16纳米工艺上制造的，这使得它与其他可能已经转移到7纳米甚至5纳米等更先进节点的芯片相比，在理论上处于不利地位。

尽管如此，AlphaIC提供了一些基准来证明该芯片的能力，因为它声称Gluon的每瓦性能和每TOPS性能都高于Nvidia的边缘芯片。据报道，在Yolo-V2中，Gluon实现了每秒153帧，而功耗略低于5W；在ResNet-50中，在3.5W的情况下实现了每秒308帧。

作为比较，根据Nvidia的说法，Jetson TX2的TDP为7.5W，在Yolo-V3和ResNet-50中都只达到112fps。Jetson Xavier NX的额定功率为10-20W，21TOPS，在ResNet-50中实现了11fps。

作为一个针对边缘领域的协处理器，功耗往往是一个限制因素，Gluon的目标是视觉工作负载，如分类和检测。应用这些功能的领域包括监控、工业、零售和智能城市。

AlphaIC总部位于米尔皮塔斯，一年前筹集了800万美元。该公司由被称为 "奔腾之父 "的前英特尔高管Vinod Dham于2016年创立。