STM32峰会AI篇 | 边缘AI是AI未来的价值保障

cathy 发布于：周一, 05/15/2023 - 15:21 ，关键词：

摘要

ST在边缘人工智能领域投入已超过10年，不仅拥有STM32Cube.AI和NanoEdge™ AI Studio软件工具；还与NVIDIA合作，整合NIVIDIA TAO和STM32Cube.AI工具，让开发者STM32微控制器上无缝训练和实现神经网络模型。

本文为2023 STM32峰会连接篇重点内容。

ST 为什么要积极投入边缘人工智能及我们所提供的服务 (Cube.AI, NEAI)

人工智能无处不在，但实现的方式和涉及到的软硬件实现是不同的。随着嵌入式应用需求的深入和迭代，边缘人工智能正成为热议话题，它将提供越来越多的产品价值，也或将成为改变AI未来游戏规则的驱动力。

在这场人工智能浪潮中，很多数人的观念还停留在人工智能是由云服务器中的大型数据中心驱动，但在边缘侧、在应用设备终端涌现出一种非常不同且令人振奋的分化 —— 边缘人工智能，它由芯片来驱动。这是STM32擅长的领域，它将在边缘人工智能的实现和落地发挥关键作用。

显而易见，在边缘侧设备中运行人工智能模型有很多优势：设备响应速度快、超低延时；降低数据传输量；更有效地保护隐私、增强信息安全；降低边缘侧设备的运行功耗；还可以降低推理成本以实现其他新的功能操作。

我们花了10年时间研发投入边缘人工智能的硬件和软件栈开发。为了在可预见的未来，当嵌入式人工智能普及时，可以向STM32用户提供完成的产品组合。不仅包括硬件、加速引擎，还有极为重要的软件工具，保证开发者能够在MCU和MPU上优化和运行AI模型。

从“Orlando”芯片的问世，到广受欢迎的“STM32Cube.AI”工具的诞生，使开发者在MCU上优化AI模型成为可能；再到对”Cartesiam“的收购，让我们拥有了NanoEdge AI Studio这一工具，可以提供一个易于实施的TinyML解决方案，解决预测性维护等工业应用问题；近来，我们又专注STM32N6的研发，这是第一个带有神经网络硬件处理单元的微控制器。

STM32Cube.AI是一款用来评估、转换、优化和部署已训练好的神经网络模型的工具，适合主流的人工智能框架，可为开发者提供评估和调整算法的能力。

NanoEdge™ AI Studio（NanoEdgeAIStudio）是一种新型机器学习（ML）技术，它进一步降低了边缘人工智能开发的门槛。NanoEdge™ AI Studio可以开发人员基于少量数据，通过创建、清理、优化数据集等步骤创建适配的ML库。NanoEdge具有异常检测与设备学习的能力，也提供分类和回归库。

STM32 x NVIDIA TAO，让边缘AI走向“破茧时刻“

在最近的GTC活动中，英伟达发布了TAO工具包。NVIDIA TAO是一个加速AI算法开发和优化的开发环境，TAO工具包提供了一个低代码的人工智能框架，以加速视觉模型的开发，从新手到专家级数据科学家都能快速上手使用。

TAO 5.0版本有很多令人惊叹的功能和变化：

它首次开放源代码，允许定制和完全控制，并允许将模型部署到STM32平台！
TAO 5.0提供了更多的深度学习任务，包括分类/检测/分割/字符识别和最常见的神经网络框架；
TAO面向人员、交通、字符识别相关任务提供了30多个高质量的预训练模型，用户可以将其部署到STM32平台。TAO 5.0有Mask Auto Labeling功能，会自动创建掩码标签。
TAO还添加了AutoML功能，它可以自动训练模型，使其达到最佳精度，我们的研究数据表明准确度提高了20%。

NVIDIA与意法半导体的合作的关键是整合NIVIDIA TAO和STM32Cube.AI工具，让开发者有可能在资源有限的STM32微控制器上无缝地训练和实现神经网络模型，以达到适配的性能和精度！