海思SS928驱动和开发环境安装指南
2 E币
成为会员,免费下载资料
文件大小:442.58 KB
上传者:有梦想的咸鱼
时间:2023-07-05 10:00:38
下载量:2
1.1 Ascend NNN 简介
Ascend NNN为新一代图像分析工具加速器,前端支持开源AA框架(caffe/onnx),后端支持NNN/CPU的异构计算,提供完整的软硬件计算加速方案。
1.2 部署架构
部署架构如图1-1所示。NNN环境包含PC端工具侧开发环境和单板侧板端环境,当一个训练好的模型过来后,首先可以经过AMCT(Advanced Model CompressionToolkit,模型压缩工具)进行量化,将模型中部分层量化为8bit计算,提升计算效率;其次使用ATC(Advanced Tensor Compiler)工具将量化后的模型或非量化的模型转换为Ascend NNN认识的离线模型;最后,离线模型放置在板端环境,即可进行推理。
展开》
折叠》