解决将AI添加到家用电器的挑战
2024/6/20 来源:本站原创 浏览次数:次尽管人工智能(AI)今天可以做所有有趣的事情,但由于具有AI功能的芯片的极端复杂性和高成本,其中绝大多数都被困在数据中心提供服务。但是,如果这些功能可以在数据中心之外运行,它们就可以实现任意数量的新产品和功能,就像集中式大型计算机以PC、笔记本电脑和最终的智能手机的形式呈现给大众一样。
例如,家电市场是人工智能的理想选择。为了保持竞争力,家电制造商必须进行创新,而借助人工智能,这意味着要找到新的方法来添加引人注目的人工智能功能,例如电视、暖通空调设备、冰箱、炉灶或洗衣机和烘干机的语音控制和警报,同时满足能源之星和生态设计等能效标准,并以消费者可以承受的价格点。
如果人工智能的部署效率更高、更容易、成本更低,那么人工智能将直接在我们的电器和设备上增加更高水平的便利性和功能。居民可以更换电视频道、开灯和关灯或加热房间,而无需寻找经常放错地方的遥控器。
不确定在洗衣机/烘干机上使用的最佳设置是什么?让AI来弄清楚。不确定用冰箱里的食材准备什么?再次让AI弄清楚。人工智能还可以提高家庭内的安全性,提醒居民他们的吐司正在燃烧,他们的锅正在沸腾,甚至他们的卷心菜即将变质,因此他们在任何人生病之前采取行动。
不幸的是,在大多数大众市场产品中添加设备上的这些AI功能会给制造商带来成本,这些成本会转嫁给消费者。增加5美元的成本来构建产品可能会导致消费者额外增加25美元,从而将许多人排除在市场之外。
让AI高效随着消费者对家用电器增加便利性和智能功能的需求不断增长,制造商认识到需要更具成本效益且更易于部署的人工智能芯片。针对家用电器的新型设备端AI推理处理器与高性能、高能效微控制器(MCU)相结合,就是这样一种解决方案。推理处理器通过利用稀疏数学来剥离AI中不必要的工作并显着提高效率,从而在对能源和成本敏感的电器和设备中实现语音控制和其他AI功能。
稀疏处理意味着激励和利用稀疏性——人工智能算法中的零。删除不必要的联系,只加强重要的联系。也只有在发生有趣的事情时才会生成激活。不要存储零。不要将它们从内存中拉出来。不要对它们进行手术。节省您的硅、金钱和能源。这使得人工智能变得高效。这就是我们用我们的算法所做的事情,也是我们帮助客户用他们的算法所做的事情。目前缺乏的是利用这种稀疏性的硬件。
微型稀疏处理单元(SPU-)可压缩边缘设备上实时应用程序的AI工作负载,使其适合一小块硅片。这节省了空间、时间和能源,并随着AI模型的扩展而增长。(来源:Femtosense)
在孤立的纯硬件和纯软件世界之间存在着先有鸡还是先有蛋的问题。很少有算法开发人员使用稀疏性,因为到目前为止,还没有硬件可以充分利用它。如果你是一个纯粹的硬件开发人员,那么为不存在的工作负载构建硬件是没有意义的。我们通过为客户提供稀疏算法和提供充分利用稀疏性的硬件来同时制造鸡和蛋。
简而言之,该处理器压缩了边缘设备上实时应用程序的AI工作负载,以便它们适合一小块硅片,从而节省空间、时间和能源,并且随着AI模型的扩展而增长。他们肯定在扩大规模。
为了以合理的成本提供这种实时、超低功耗的AI效率,该AI推理处理器必须与高性能、高能效的微控制器(MCU)配合使用。去年,Femtosense与ABOVSemiconductor合作,ABOVSemiconductor是一家为家用电器和工业提供电机控制、传感器、遥控MCU的供应商。当与ABOV的低功耗MCU结合使用时,AI推理处理器现在可以为家用电器制造商提供“永远在线”的功能和领先的技术,而不会影响能源效率。它使这些制造商能够识别特定于应用程序类型的语音界面或AI助手功能。
随着设备和电器制造商添加引人注目的人工智能功能,他们现在可以以消费者可以承受的价格点来做到这一点,同时满足他们的效率标准。大规模解决这个问题是这种稀疏处理AI技术的一大市场,因为它将AI从数据中心带到了现实世界。