正是因为MathWorks拥有如此强大且常用的工具包，我们才决定与他们深入讨论边缘机器学习。虽然这个话题已经讨论了很多年，但我们认为，像 MathWorks这样的合作伙伴提出的建议有助于业界换个角度看待边缘机器学习，并解决业界面临的一些挑战。因此，我们采访了MathWorks嵌入式合作伙伴经理John Kluza和战略合作伙伴专家Reed Axman。

能够在嵌入式系统运行系统代码以及多个神经网络，是在机器学习发展道路上取得的一个重要的里程碑。目前，微控制器能够顺畅地运行一个神经网络，但是，运行两个或更多网络以及系统代码，同时保持功耗在预算范围内，仍然是一个不小的挑战。同时，确保适合的安全机制到位也很重要。

人工智能中的安全性是什么意思？（笑问）机器人会攻击人类吗？

（笑）不会，没有那样的事情，在科幻小说中经常会出现这样的情节。人工智能的安全性是指工作可靠性，这意味着避免算法发生意外行为，确保AI有容错、故障安全操作和数据保护功能。

开发人员如何创建更安全的AI应用？

这个问题不好回答，这也是MathWorks提供神经网络测试验证工具的初衷。简而言之，设计团队可以用MathWorks工具验证机器学习算法的行为，并在现场部署前创建冗余机制。用户还可以模拟传感器数据的中断或变化，以更好地预测现实世界的情况。

创建边缘机器学习

首先，弄清楚用例的具体要求，实时处理是否是首要需求？数据隐私是否是大家都很关心的问题？算力和功率有哪些限制？一旦确定了硬件规格，团队就可以专注开发推理速度、存储器占用和预测准确性均衡的人工智能模型。在这个方面，利用现有工具和模型库可以最大限度地提高开发效率，缩短产品上市时间。我还建议创建一个数据安全处理计划，预测连接问题(如果有联网组件)，并确定系统扩展计划。一旦想清楚了这几点，设计人员就可以更好地决定是否聘请数据科学家来开发机器学习算法。

那么聘请数据科学家并不是第一步，甚至不是必须的？

在某些情况下，第一步要做的是聘请数据科学家。但是，用MATLAB创建高准确度模型，不一定非是数据科学家或AI专家不可。工程师深刻理解他们的数据，深知他们要解决的问题，而数据科学家在某种程度上通常不具备这些知识。例如，团队可以先构思一个人工智能的系统设计，甚至尝试从模型库导入神经网络，然后，再聘请昂贵且稀有的数据科学人才。这样做将有助于更好地确定要解决的问题。此外，MathWorks的现有工具让系统工程师能够在独立解决人工智能问题上取得重大进展。

公司应如何开始研发机器学习算法？

借助MATLAB和Simulink等工具，用户可以简化算法开发和在嵌入式设备上部署模型。我们在TinyML登录页面讨论了将高效AI网络部署到MCU的流程，还有相关的方法视频和研讨会活动。

MATLAB会取代数据科学家吗？

显然不会，然而，MATLAB的功能，及其与PyTorch和TensorFlow等其他深度学习平台的协同操作功能，可以促进团队成员之间的协作，并有助于加快在边缘上实现机器学习。

理性看待AI

当然！借助MathWorks和STM32 MCU，边缘人工智能可以提高产品功能，有时还能降低系统成本。我们还提供用户案例库，展示企业如何用MATLAB和Simulink开发机器学习和深度学习，包括虚拟温度传感器、压力传感器、激光雷达分类器和心电图分析。

如果想了解计算机视觉和机器学习的示例，请查看MPCam和MPTherm：在STM32MP1上开发计算机视觉的多合一解决方案

如果传统方法能够控制系统，而且计算资源需求比神经网络低，就不必用边缘机器学习。例如，可以用卡尔曼滤波器构建系统，求解大型线性代数问题，在某些情况下可以提供令人满意的效果。

如果没有这类专业知识或资源，怎么办？

这时候就是就该边缘机器学习登场了。有时，企业缺乏开发准确模型所需的专业知识。同样，如果系统的非线性或时变性非常明显，那么使用传统方法创建运算模型可能无法实现，或者没有优势。在这些情况下，解决相同的问题，边缘机器学习方法就变得更经济划算了，如果团队精简压缩神经网络算法，优化机器学习模型，物料成本可能会变得更低！

训练和优化哪个更重要？

两者的作用都很重要。然而，如果你有大量的训练数据和强大的神经网络，但在边缘设备上实现模型的能力很弱，那么一切都是枉然。因此，模型优化至关重要。低功耗系统和较小的存储器占用率，以及性能良好的神经网络，可以让团队快速地发布新产品。当团队已经优化了底层代码时，长期改进模型性能就会比较容易。

ST和MathWorks生态系统

MathWorks为开发人员提供了许多跨硬件平台移植应用的功能，因为开发者可能与多家MCU厂商合作。此外，MathWorks还提供一个完整开发流程，涵盖从数据学分析、神经网络创建，到优化、仿真和部署这些神经网络的整个开发过程。另一方面，STM32Cube.AI等ST软件支持为STM32 MCU生成C代码，STM32Cube.AI Developer Cloud新增了网络基准测试和模型库。

STM32Cube.AI和MathWorks工具配合使用，为开发者提供了一个完整的开发流程。例如，工程师可以从ST Model Zoo模型库、TensorFlow、PyTorch或 MATLAB开始创建神经网络，然后用STM32Cube.AI Developer Cloud进行初步基准测试。因此，可以帮助开发人员选择成本、性能和推理时间全面均衡的目标模型。然后，团队可以将模型集成到Simulink中，进行系统级的模型测试。STM32硬件支持包和嵌入式编码器可以执行处理器在环（PIL）测试和快速原型设计，使工程师能够评估AI模型和配套的控制逻辑，以及整体性能，看看它是否符合预期。

开发者需要注意些什么？

除了STM32Cube.AI提供的代码生成外，还需要考虑原型设计问题。例如，借助STM32Cube.AI Developer Cloud，在多个Nucleo开发板上做同一个基准测试，可以帮助团队为每个项目快速选定最佳器件。

STM32开发者现在应做些什么？

我们建议他们查看在MCU上部署AI所需的MathWorks工具，并详细了解STM32 NUCLEO技术支持。在开始开发的时候，他们可以在这里观看视频，研究示例，阅读文档。

来源：意法半导体中国

免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行处理（联系邮箱：cathy@eetrend.com）。

来源：SiliconLabs

免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行处理（联系邮箱：cathy@eetrend.com）。

来源：上海海思

免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行处理（联系邮箱：cathy@eetrend.com）。

TinyMaix：是矽速科技（Sipeed）利用两个周末的业余时间完成的项目，它是一款专为微控制器设计的轻量级开源机器学习库，面向单片机的超轻量级的神经网络推理库，即TinyML推理库，可以让你在任意单片机上运行轻量级深度学习模型。TinyMaix开源代码链接：https://github.com/sipeed/tinymaix。

TinyMaix关键特性

• 核心代码少于 400行(tm_layers.c+tm_model.c+arch_cpu.h), 代码段(.text)少于3KB

• 低内存消耗，甚至 Arduino ATmega328 (32KB Flash, 2KB Ram) 都能基于 TinyMaix 跑 mnist(手写数字识别)

• 支持 INT8/FP32/FP16 模型，实验性地支持 FP8 模型，支持 keras h5 或 tflite 模型转换

• 支持多种芯片架构的专用指令优化: ARM SIMD/NEON/MVEI，RV32P, RV64V

• 友好的用户接口，只需要 load/run 模型~

• 支持全静态的内存配置(无需 malloc )

• 即将支持 MaixHub 在线模型训练

TinyMaix底层依赖

TinyMaix可以简单理解为一个矩阵和向量计算库，目前已支持如下几种计算硬件：

#define TM_ARCH_CPU                 (0) //default, pure cpu compute
#define TM_ARCH_ARM_SIMD            (1) //ARM Cortex M4/M7, etc.
#define TM_ARCH_ARM_NEON            (2) //ARM Cortex A7, etc.
#define TM_ARCH_ARM_MVEI            (3) //ARMv8.1: M55, etc.
#define TM_ARCH_RV32P               (4) //T-head E907, etc.
#define TM_ARCH_RV64V               (5) //T-head C906,C910, etc.
#define TM_ARCH_CSKYV2              (6) //cskyv2 with dsp core
#define TM_ARCH_X86_SSE2            (7) //x86 sse2

对于ARM-Cortex系列MCU，可以支持纯CPU计算和SIMD计算。其中CPU计算部分无特殊依赖（计算代码均使用标准C实现）。SIMD部分，部分计算代码使用了C语言内嵌汇编实现，需要CPU支持相应的汇编指令，才可以正常编译、运行。

TinyMaix等级选择

TinyMaix目前支持两种等级：1. 选择最少代码和buf 2. 选择速度，需要更多代码和buf

#define TM_OPT0                     (0) //default, least code and buf
#define TM_OPT1                     (1) //opt for speed, need more code and buf
#define TM_OPT2                     (2) //TODO

TinyMaix量化

TinyMaix支持不同位宽的量化：

#define  TM_MDL_INT8    0
#define  TM_MDL_INT16   1
#define  TM_MDL_FP32    2
#define  TM_MDL_FP16    3
#define  TM_MDL_FP8_143 4 //experimental
#define  TM_MDL_FP8_152 5 //experimental

TinyMaix核心API

TinyMaix框架对上层应用程序提供的核心API主要位于代码仓的tinymaix.h文件中，其中：

1、模型API包含四个：模型加载，模型卸载，预处理，推理。

/******************************* MODEL FUNCTION ************************************/
tm_err_t tm_load  (tm_mdl_t* mdl, const uint8_t* bin, uint8_t*buf, tm_cb_t cb, tm_mat_t* in);   //load model
void     tm_unload(tm_mdl_t* mdl);                                      //remove model
tm_err_t tm_preprocess(tm_mdl_t* mdl, tm_pp_t pp_type, tm_mat_t* in, tm_mat_t* out);            //preprocess input data
tm_err_t tm_run   (tm_mdl_t* mdl, tm_mat_t* in, tm_mat_t* out);         //run model

2、统计函数：用于输出模型中间层信息

/******************************* STAT FUNCTION ************************************/
#if TM_ENABLE_STAT
tm_err_t tm_stat(tm_mdlbin_t* mdl);                    //stat model
#endif

3、工具函数，包含FP32和uint8的互转

/******************************* UTILS FUNCTION ************************************/
uint8_t TM_WEAK tm_fp32to8(float fp32);
float TM_WEAK tm_fp8to32(uint8_t fp8);

这里的模型，通常是预训练模型经过脚本转换生成的TinyMaix格式的模型；

TinyMaix移植到RT-Thread

1、TinyMaix移植到RT-Thread工作量其实不到，主要适配tm_port.h文件即可。

2、RT-Thread的配置是通过Kconfig设置一些参数的，所以我把硬件类型，选择等级，量化类型都修改为Kconfig进行配置。

#define  TM_ARCH                                   R_TINYMAIX_USING_ARCK_TYPE
#define TM_OPT_LEVEL               R_TINYMAIX_USING_OPTION_LEVEL
#define TM_MDL_TYPE                R_TINYMAIX_USING_MODULE_TYPE

3、TinyMaix需要对接平台内联，内存，打印等接口，所以我们修改对应宏定义，将其适配到RT-Thread平台的接口上。

#define TM_INLINE                   rt_inline
#define TM_WEAK                     rt_weak

#define tm_malloc(x)                rt_malloc(x)
#define tm_free(x)                  rt_free(x)

#define TM_PRINTF(...)              rt_kprintf(__VA_ARGS__)

4、TinyMaix调试依赖于精准的计时，我们需要适配其对应的几个宏定义，因为RT-Thread系统没有提供微秒级的接口，只有毫秒级的接口，所以我做了简单的适配。

#define TM_GET_US()                rt_tick_get_millisecond() / 1000;

#define TM_DBGT_INIT()              uint32_t _start,_finish;\
                                    float _time;\
                                    _start = TM_GET_US();

#define TM_DBGT_START()             _start = TM_GET_US();

#define TM_DBGT(x)                  {\
                                        _finish=TM_GET_US();\
                                        _time = (float)(_finish-_start) / 1.0;\
                                        TM_PRINTF("===%s use %.3f ms\n", (x), _time);\
                                        _start=TM_GET_US();\
                                    }

5、TinyMaix提供了多个实例，如：cifar10，mnist，vww等，RT-Thread支持命令行输入，为了实例可以在通过命令函运行，我们需要修改一下文件名和接口名字。

• 我们将examples下的cifar10，mnist，vww三个实例下的main.c修改为对应实例的名字：cifar10.c，mnist.c，vww.c。

• 将cifar10.c，mnist.c，vww.c中的main函数修改为对应实例名字。

int cifar10(int argc, char** argv)

int mnist(int argc, char** argv)

int vww(int argc, char** argv)

• 将实例接口导出到命令行中。

MSH_CMD_EXPORT(cifar10, TinyMaix cifar10 example);

MSH_CMD_EXPORT(mnist, TinyMaix mnist example);

MSH_CMD_EXPORT(vww, TinyMaix vww example);

TinyMaix运行效果

实例的运行环境：STM32F401RE，M4内核，时钟频率：84MHz，RAM：96 KB，Flash：512 KB

1、cifar10实例，分类检测，识别图片是一只鸟：

2、mnist实例，数字识别，图片是一个数字2：

vww实例，检测有没有人，图片有人：

总结

1、TinyMaix作者已经做了一个RT-Thread的软件包：r-tinymaix。可以在RT-Thread中工程中加入软件包即可以验证。

2、r-tinymaix的开源链接：https://github.com/RiceChen0/r-tinymaix

3、TinyMaix非常赞，可以让一个普普通通的单片机拥有AI能力，让嵌入式AI成本减低。

来源：RTThread物联网操作系统

免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行处理（联系邮箱：cathy@eetrend.com）。

ST为嵌入式AI准备了一站式网站资源: https://stm32ai.st.com/zh，客户可随时登陆获取相关信息。

STM32 DEMO 展示精选
在本次慕尼黑电子展上，ST展示了两个重磅边缘AI技术方案：边缘人工智能洗衣机DEMO：该Demo演示了AI如何通过提供更准确的衣服重量测量, 帮助经典的电机控制设备达到更高的节能与节水等级。由NanoEdge AI Studio 生成的AI模型通过对电流信号进行特征分析与学习，使测量精度相对传统算法得到大幅提升。

STM32最新一代高性能MPU ——STM32MP257。STM32MP2是ST新推出的第二代64位工业4.0级边缘AI MPU，通过SESIP 3级认证，配备工业应用接口和专用边缘 AI加速单元。该产品在继承了STM32生态系统基础上，采用了全新的处理器架构，提升了工业和物联网边缘应用的性能和安全性。

STM32展台还展出了更多丰富的产品技术和解决方案Demo，涵盖图形界面、无线连接、安全类应用以及基于STM32的各类开发板演示。

图形界面类Demo包括：基于STM32U599驱动大圆屏的集合DEMO，Qt图形界面演示 -基于Qt+openST Linux的图形方案，基于LVGL+ 裸机程序图形方案的LVGL图形界面演示，基于OpenST Linux + LVGL的图形界面演示。

STM32WBA无线连接 Demo： 演示了STM32WBA 灵活的主从一体和强大的多连接功能，在低功耗蓝牙常规点对点通信功能上，扩展实现低延时和低功耗的星状网络通信，满足客户低功耗蓝牙更广的网络覆盖需求。

安全类应用Demo：STMH573I-DK板TrustZone隔离保护和OTFDEC性能演示

板卡类Demo包括：STM32C031系列NUCLEO板，STM32C031系列Discovery板，STM32C011系列Discovery板。

来源：STM32

免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行处理（联系邮箱：cathy@eetrend.com）。