TinyMaix是由国内sipeed团队开发的一个轻量级AI推理框架。它是一个面向单片机的超轻量级神经网络推理库,也被称为TinyML推理库。这个库可以让你在任意单片机上运行轻量级深度学习模型。

TinyMaix的关键特性包括:

1. 核心代码非常简洁,只有400行(tm_layers.c+tm_model.c+arch_cpu.h),并且代码段(.text)少于3KB。

2. 内存消耗非常低,甚至可以在Arduino ATmega328(只有32KB Flash,2KB Ram)上运行mnist(手写数字识别)。

3. 支持INT8/FP32/FP16模型,实验性地支持FP8模型,并且支持从keras h5或tflite模型进行转换。

4. 支持多种芯片架构的专用指令优化,包括ARM SIMD/NEON/MVEI,RV32P,RV64V。

5. 用户接口非常友好,只需要加载和运行模型。

6. 支持全静态的内存配置,无需使用malloc。

7. 即将支持MaixHub在线模型训练。