在低功耗MCU上实现人工智能和机器学习

创作时间:

作者:

@小白创作中心

在低功耗MCU上实现人工智能和机器学习

引用

来源

https://mcu.eetrend.com/content/2024/100587527.html

低功耗微控制器（MCU）正在成为人工智能（AI）和机器学习（ML）的重要平台。通过在资源受限的设备上运行ML模型，TinyML技术使得边缘设备能够实现智能决策，支持实时处理并减少延迟。本文将介绍TinyML的基本概念、主流框架与工具、实际应用、开发流程以及芯科科技的AI/ML解决方案。

TinyML简介

TinyML是指在小型、低功耗设备上应用机器学习模型，尤其是在资源受限的MCU上优化运行。这使得边缘设备能够实现智能决策，支持实时处理并减少延迟。量化 (Quantization) 和Pruning等技术用于减小模型体积并提高推理速度。量化通过降低模型权重的精度，显著减少内存使用而几乎不影响准确性；Pruning则通过去除不重要的神经元，进一步减小模型规模并提升延迟性能。这些方法对在资源有限的设备上部署 ML模型至关重要。

主流框架与工具

PyTorch 和 TensorFlow Lite：PyTorch 是一种开源的机器学习库，广泛用于人工智能应用，也能部署在微控制器上。TensorFlow Lite for Microcontrollers (TFLM) 支持在资源受限的 MCU 上运行 TF Lite 模型，通过 Flatbuffer 转换减少模型体积并优化推理性能。
ARM 的 CMSIS-NN库：提供为 Cortex-M 处理器优化的神经网络内核，提升性能并减少内存占用，使 ARM 架构的 MCU 更易运行 ML 模型。
AI/ML硬件加速器：一些 MCU，例如Silicon Labs（芯科科技）的EFM32系列SoC和MCU配备了AI/ML专用硬件加速器，大幅提升了ML模型的运行效率。这些加速器通过并行化任务（如矩阵乘法、卷积和图处理）来实现更高性能，同时保持低功耗。此外，它们优化了内存访问模式，减少了数据传输开销，从而进一步节省能耗。

AI/ML实际应用

音频与视觉唤醒词：应用于智能音箱和安防摄像头，在识别到唤醒词或检测到运动时激活设备。
工业预测性维护：工厂设备上的传感器监控振动和温度等参数，利用TinyML模型检测异常并预测维护需求。
手势与活动识别：可穿戴设备利用加速度计和陀螺仪实时分析数据，用于健身追踪或医疗诊断。
农业环境监控：分析土壤湿度和天气条件，优化灌溉，提高作物产量。
健康监测：持续血糖监测设备和智能床垫传感器可提供实时健康数据，用于远程医疗和老年护理。

AI/ML开发流程

数据采集与预处理：使用传感器（如加速度计、麦克风、摄像头）采集原始数据，并进行清理、归一化等预处理。
模型训练与优化：在高性能设备上（如 GPU）使用 TensorFlow 或 PyTorch 训练模型。优化技术包括量化和Pruning。
模型转换与部署：将优化后的模型转换为 TensorFlow Lite 格式，并通过芯科科技的Simplicity Studio开发环境将模型部署到MCU上。
推理与优化：在MCU 上运行推理任务，进一步测试和改进性能。

芯科科技的AI/ML解决方案

提供适用于 TinyML 的硬件与软件支持：
硬件：EFR32/EFM32（如 xG24、xG26、xG28）及 SiWx917 系列无线MCU，具有低功耗与高性能优势。
软件工具链：包括 TensorFlow Lite for Microcontrollers、Simplicity Studio、ML Toolkit 和第三方工具（如 SensiML、Edge Impulse）。
参考应用：提供 GitHub 库和示例代码，涵盖异常检测、图像分类、关键字识别等场景。