潜在的AI使边缘AI工作负载更高效

Latent AI是从SRI International衍生出来的一家初创公司，通过根据需要动态管理工作负载，可以更轻松地在边缘运行AI工作负载。

利用其专有的压缩和编译过程，Latent AI由于其新的自适应AI技术，该公司承诺将库文件压缩10倍，并以比其他系统低5倍的延迟运行它们，同时使用更低的功耗，该公司将在今天的TechCrunch Disrupt Battlefield竞赛中亮相。

由首席执行官Jags Kandasamy和CTO Sek Chai创立，该公司已经筹集了650万美元的种子轮，由Steve Jurvetson领导由Future Ventures负责，其次是Autotech Ventures。

在启动Latent AI之前，Kandasamy将他之前的初创公司OtoSense出售给了Analog Devices(除了在此之前管理HPE中型市场安全业务)。OtoSense将声音和振动传感器的数据用于预测性维护用例。在出售之前，该公司曾与达美航空和空中客车公司合作。

在某些方面，潜在的AI会接手其中的一些工作，并将其与SRI International的IP结合起来。

“有了OtoSense，我已经做了一些前沿工作，” Kandasamy说。“我们已经将音频识别部分移出了云。我们在云中进行了学习，但是识别是在边缘设备中完成的，因此我们必须快速进行转换并将其删除。前几个月的帐单使我们采取了这种行动。您不能在LTE或3G上流数据太长时间。”

在SRI，Chai参与了一个项目，研究如何最好地管理飞行物体的电力，如果您只有一个电源，系统可以智能地分配资源来为飞行供电或运行机载计算工作负载，主要用于监视，然后根据需要在它们之间切换。大多数时候，在监视用例中，什么都没有发生。在这种情况下，您无需计算看到的每个帧。

Kandasamy解释说：“我们将它用作工具和平台，因此您可以将其应用于各种用例，从语音到视觉到细分再到时间序列。”

这里要注意的重要一点是，该公司提供了称为潜在AI高效推理平台(LEIP)的各种组件，它们是独立模块或完全集成的系统。压缩器和编译器是其中的前两个，公司今天推出的是LEIP Adapt，LEIP Adapt是管理上述动态AI工作负荷Kandasamy的系统的一部分。

实际上，LEIP Adapt的用例是，例如，电池供电的智能门铃可以在低功率模式下长时间运行，以等待发生某些事情。然后，当有人到达您的门时，摄像头将醒来以运行更大的模型(甚至在已接通电源的门铃基站上)以进行图像识别。而且，如果一大群人来到这里(目前不太可能，但是在大流行得到控制之后，可能是明年)，系统可以根据需要将工作负载转移到云中。

坎大萨米告诉我，对该技术的兴趣一直“巨大”。鉴于他先前的经验和SRI International的网络，Latent AI引起了汽车行业的广泛兴趣也许并不奇怪，但Kandasamy还指出，该公司正在与消费类公司合作，包括照相机和助听器制造商。 。

该公司还与一家大型电信公司合作，后者将Latent AI作为其AI编排平台的一部分，并与一家大型CDN提供商合作，以帮助他们在JavaScript后端上运行AI工作负载。