人工智能 (AI) 和机器学习 (ML) 的技术不仅正在快速发展，还逐渐被创新性地应用于低功耗的微控制器 (MCU) 中，从而实现边缘AI/ML的解决方案。这些嵌入式系统的核心组件如今能够支持 AI/ML 应用，凭借其成本效益、高能效以及可靠的性能，集成在可穿戴技术、智能家居设备和工业自动化等领域的效益尤为显著。具备AI优化功能的MCU和 TinyML的兴起（专注于在小型、低功耗设备上运行ML模型）体现了这一领域的进步。TinyML对于直接在设备上实现智能决策、支持实时处理和减少延迟至关重要，特别是在连接有限或无连接的环境中。

TinyML简介

TinyML是指在小型、低功耗设备上应用机器学习模型，尤其是在资源受限的MCU上优化运行。这使得边缘设备能够实现智能决策，支持实时处理并减少延迟。量化 (Quantization) 和Pruning等技术用于减小模型体积并提高推理速度。量化通过降低模型权重的精度，显著减少内存使用而几乎不影响准确性；Pruning则通过去除不重要的神经元，进一步减小模型规模并提升延迟性能。这些方法对在资源有限的设备上部署 ML模型至关重要。

主流框架与工具

• PyTorch 和 TensorFlow Lite：PyTorch 是一种开源的机器学习库，广泛用于人工智能应用，也能部署在微控制器上。TensorFlow      Lite for Microcontrollers (TFLM) 支持在资源受限的 MCU 上运行 TF Lite 模型，通过 Flatbuffer 转换减少模型体积并优化推理性能。

• ARM 的 CMSIS-NN库：提供为 Cortex-M 处理器优化的神经网络内核，提升性能并减少内存占用，使 ARM 架构的 MCU 更易运行 ML 模型。

• AI/ML硬件加速器：一些 MCU，例如Silicon Labs（芯科科技）的EFM32系列SoC和MCU配备了AI/ML专用硬件加速器，大幅提升了ML模型的运行效率。这些加速器通过并行化任务（如矩阵乘法、卷积和图处理）来实现更高性能，同时保持低功耗。此外，它们优化了内存访问模式，减少了数据传输开销，从而进一步节省能耗。

AI/ML实际应用

• 音频与视觉唤醒词：应用于智能音箱和安防摄像头，在识别到唤醒词或检测到运动时激活设备。

• 工业预测性维护：工厂设备上的传感器监控振动和温度等参数，利用TinyML模型检测异常并预测维护需求。

• 手势与活动识别：可穿戴设备利用加速度计和陀螺仪实时分析数据，用于健身追踪或医疗诊断。

• 农业环境监控：分析土壤湿度和天气条件，优化灌溉，提高作物产量。

• 健康监测：持续血糖监测设备和智能床垫传感器可提供实时健康数据，用于远程医疗和老年护理。

AI/ML开发流程

• 数据采集与预处理：使用传感器（如加速度计、麦克风、摄像头）采集原始数据，并进行清理、归一化等预处理。

• 模型训练与优化：在高性能设备上（如 GPU）使用 TensorFlow 或 PyTorch 训练模型。优化技术包括量化和Pruning。

• 模型转换与部署：将优化后的模型转换为 TensorFlow Lite 格式，并通过 芯科科技的Simplicity Studio开发环境将模型部署到MCU上。

• 推理与优化：在MCU 上运行推理任务，进一步测试和改进性能。

芯科科技的AI/ML解决方案

• 提供适用于 TinyML 的硬件与软件支持：

• 硬件：EFR32/EFM32（如 xG24、xG26、xG28）及 SiWx917 系列无线MCU，具有低功耗与高性能优势。

• 软件工具链：包括 TensorFlow Lite for Microcontrollers、Simplicity Studio、ML Toolkit 和第三方工具（如 SensiML、Edge Impulse）。

• 参考应用：提供 GitHub 库和示例代码，涵盖异常检测、图像分类、关键字识别等场景。

TinyML的优势

• 成本低：MCU价格亲民

• 绿色环保：能耗低

• 易于集成：便于嵌入现有环境

• 隐私与安全：数据本地处理，无需联网传输

• 实时处理：低延迟

• 自主可靠：在任何环境下都能稳定运行

结论

MCU 不再局限于简单任务，而是正成为 AI 的强大平台。通过探索 AI 优化 MCU，我们可以为智能电池供电设备开辟新的可能性。无论是智能家居设备还是工业传感器，AI 驱动的 MCU 正在重塑嵌入式系统的未来。

• 全新胎压监测系统提高自行车安全性和用户体验

• 意法半导体软件生态系统工具STM32Cube.AI加快STM32微控制器边缘AI功能开发

面向导航辅助、远程信息处理、防盗和运动激活应用，增强驾驶便利性、安全性和舒适性

我们把搜集到的开发者需求汇总，并更新在垂直应用板块，STM32开发者们可以在这里找到各个应用相关的硬件，软件资源，参考设计文档，Demo视频，培训课程或资料等，最近上线的AI 人工智能页面可带你解锁以下丰富资源。

嵌入式机器学习能以简单、快速、经济划算的方式来改进许多应用。

预测性维护、物联网产品、智能楼宇、资产追踪、人员计数……集成了人工智能之后，许多应用将变得更加智能！

面向STM32的人工智能解决方案可全面并迅速帮助您在产品中嵌入机器学习功能！

市场方向

预测性维护

Predictive Maintenance，简称PdM 。是指通过对设备进行数据收集和状态监测，在故障发生之前，就预测可能出现的故障隐患。并在故障损害发生之前，提出防范措施，更换相关零部件。

嵌入式电子+人工智能

在技术发展的历史上，技术先独立发展再相互融合以改变世界的例子比比皆是。原子能和喷气式发动机的融合催生了核动力航母，改变了20世纪大部分战争的形态。计算机和射频通信的融合产生了智能手机，同时也重新定义了我们与技术以及彼此之间的互动方式。今天，嵌入式电子和人工智能（AI）的融合正日益成为下一个具有颠覆性的技术组合。接下来我们就看一下这种融合的发展演变。

欢迎来到网络边缘

人工智能的概念最早出现在古希腊人的著作中，但直到20世纪上半叶，才开始将其作为一种实际技术进行开发。从根本上来说，人工智能让数字技术仿佛人脑一样，能够与模拟世界高效而快速地互动沟通。为了让人工智能在现实世界获得实际应用，比如在自动驾驶车辆中，那么在处理多个动态输入时，电子设备和物理世界之间的交互必须接近瞬时完成。值得庆幸的是，随着机器学习算法的发展，嵌入式电子系统也在不断进步。他们的联姻催生出了边缘计算的概念。
边缘计算将过去只有云端强大处理硬件才具备的处理能力，带给了位于物理-数字接口边缘的本地设备。再加上MCU和传感器等价格便宜而又性能强大的嵌入式组件的普及，最终在自动化领域掀起了一场规模、功能都史无前例的革命。

TensorFlow Lite：基于微型硬件的大型机器学习算法

TensorFlow是Google主导开发的一套开源软件库，使开发人员能够轻松地将复杂的数值计算算法和机器学习（ML）集成到他们的项目中（图1）。按照Google的说法，这些库为Python（所有平台上的Python 3.7+）和C语言提供稳定的应用程序编程接口（API）。此外，它们还为C++、Go、Java和JavaScript提供不保证向后兼容的API。针对Apple公司的Swift语言，它也提供了一个alpha版本。

TensorFlow为深度神经网络（DNN）的开发和利用提供了我们常说的端到端机器学习支持。DNN是机器学习的一种应用类型，特别擅长模式识别以及对象检测与分类。TensorFlow库支持机器学习过程的两个阶段，即训练和推断。其中第一阶段是深层神经网络的训练，这需要大量算力，通常由服务器级硬件和图形处理单元（GPU）提供。张量处理单元（TPU）则是最近开发的一种专用集成电路，用于支持这种训练。第二阶段是推断，即利用在现实世界中接受训练的DNN来回应新的输入：按照培训好的模型分析这些输入，并根据分析结果提出建议。这应该是嵌入式产品开发人员比较感兴趣的阶段。

适用于MCU的TensorFlow Lite（TensorFlow库的一个子集）专门用于在内存受限的设备上执行推断，大多数嵌入式系统应用中都存在这种设备。它不允许您训练新的网络，那仍然需要更高端的硬件。

实用为王：ML应用实例

在嵌入式系统上运行人工智能算法的目标，就是要比传统程序或面向对象的编程方法更高效地处理传感器收集的真实世界数据。也许在大家的意识中，最常见的使用案例是从传统汽车到具有自动辅助功能（如车道偏离警报和防撞系统）的汽车，再到无人驾驶汽车这个最终目标的发展历程。不过，深度学习还有其他一些不那么显眼的用例，虽然你不知道，但已经在使用了。智能手机中的语音识别或Amazon Alexa等虚拟助手均使用了深度学习算法。其他用例包括用于安防领域的面部检测和/或背景替换、去除绿幕、远程会议软件（如Zoom）等。

人工智能、神经网络和机器学习等术语有时候给人的印象就像科幻小说或行话。那么这些新兴技术的现实意义何在？

同时使用机器学习算法和联网设备（如物联网设备）带来的一个巨大优势就是，随着时间的推移，产品可以通过简单的OTA固件更新来集成新的或经过更好训练的模型。这意味着产品可以逐渐变得更加智能，并且不局限于制造时能够实现的功能，只要新的模型和固件不超出硬件的物理内存和处理能力即可。

工作流程

根据适用于MCU的TensorFlow Lite的说明文档，开发人员的工作流程可以分为五个关键步骤（图3），具体如下：

1、创建或获取一个TensorFlow模型

该模型必须足够小，以便在转换后适合目标设备，并且它只能使用支持的运算。如果要使用当前不支持的运算，可以提供自定义实现。

2、将模型转换为TensorFlow Lite FlatBuffer

使用TensorFlow Lite转换器将模型转换为标准TensorFlow Lite格式。您可能希望输出一个量化模型，因为这种模型的尺寸更小，执行效率更高。

3、将FlatBuffer转换为C位数组

模型保存在只读程序内存中，并以简单的C文件形式提供。可以使用标准工具将FlatBuffer转换为C位数组。

4、集成适用于MCU的TensorFlow Lite C++库

编写MCU代码来收集数据，使用C++库执行推断，然后使用结果。

5、部署到设备

编写程序并将其部署到您的设备。

选择与TensorFlow Lite库一起使用的兼容嵌入式平台时，开发人员应注意以下几点：

• 基于32位架构（如Arm Cortex-M处理器）和ESP32的系统。

• 它可以在内存仅有数十KB的系统上运行。

• 适用于MCU的TensorFlow Lite采用C++ 11编写。

• 适用于MCU的TensorFlow Lite可作为Arduino库提供。该框架还可以为其他开发环境（如Mbed）生成项目。

• 不需要操作系统支持、动态内存分配或任何C/C++标准库。

后续步骤

Google提供四个预先训练的模型作为示例，可用于在嵌入式平台上运行。只需稍做修改，就能在各种开发板上使用。这些示例包括：

1、Hello World

演示使用适用于MCU的TensorFlow Lite的必备基础知识。

2、Micro-Speech

用麦克风捕捉音频以检测单词“yes”和“no”。

3、Person Detection

用图像传感器捕捉摄像头数据，以检测是否有人。

4、Magic Wand

捕获加速度计数据以对三种不同的身体姿势进行分类。