海鸥派(SS928)傻瓜式训练自己的AI模型（TinyML篇 01）——让AI触手可及

各位大佬，经过几个月努力我们终于在海鸥派上将AI易用性又往前推进了一步。一直认为AI行业在端侧和边侧将不会有那么多AI算法工程师的需求。端侧和边侧未来一定是专家系统，让工具解决95%以上的算法。很不幸我们还有前仆后继的团队在投入到边和端的算法领域。毕竟行业足够大养活一些团队是没问题的，但趋势是这个领域必定会被专家工具或者我叫他专家系统所替代。

写在前面：

其实TinyML身影已经出现在我们www.gitee.com/hieuler 仓里了，感兴趣的小伙伴可以自己去挖。工具请跟易百纳社区联系获取。

TinyML 是一款针对端侧芯片设计的 AutoML（自动机器学习）工具。用户提供数据，TinyML 自动输出芯片侧模型和部署参考代码。

重要亮点
模型搜索特性：TinyML 可根据用户数据自动搜索出性能满足要求且效果最优的模型，其输出包括 deploy 文件夹（含板端和 pc 端推理工程）以及 dataset_analysis 文件夹（含训练集、测试集的统计和校验信息），详细可参考 search、prune、finetune 生成的文件结构。
剪枝特性：针对 TinyML 输出的模型进行小型化，涉及模型大小、峰值内存、带宽、推理耗时和功耗等方面，同样有相关的输出内容和文件结构。
微调特性：基于输出模型进行效果调优，主要用于解决在应用开发中模型性能达标但存在效果问题的情况。

效果评估本身：要对 TinyML 输出的模型进行效果评估。评估结果文件位置：评估结果文件在 dataset_analysis 文件夹中。文件夹包含内容：该文件夹包含了任务所用训练集、测试集的统计、校验信息等详细内容

TinyML 支持的任务类型
重要亮点
生成文件结构的方式：通过 eval 生成文件结构。
检测任务类型：包括基于框的检测任务，例如二维码检测等。
分类任务类型：如宠物分类、垃圾分类等。
关键点检测任务类型：通用关键点检测，且目前只支持 5 米内目标数据。

安装TinyML要求：
硬件要求

1. 操作系统要求：需使用 Ubuntu 18.04 及以上的 x86_64 系统，要参考官网安装，开启 nfs 服务并做相应配置，修改/etc/exports 后需重启 nfs 服务，还要配置 localhost。
2. 内存要求：内存需大于等于 16GB。
3. 英伟达 GPU 要求：至少 1 个且显存大于等于 8GB，多个 GPU 可提升工具运行速率，显存越大可配置的 batch_size 越大。
4. 远程单板要求：Dpico 类型单板要开启 SSH 服务且与服务器网络互通，确保能运行智能业务并做好相关准备，一个任务独占一块单板，确保单板无其他业务运行且能正常执行 bash source /etc/profile 命令。

软件要求

1. Miniconda Python 3.7 请参考官网进行安装
2. NVIDIA 显卡驱动 / 请参考官网进行安装
3. Cuda ToolKit 11.3 请参考官网进行安装