NNIE精度损失问题解决方法
5 E币
成为会员，免费下载资料
文件大小：1.72 MB
上传者：AI-海king
时间：2023-07-13 10:07:07
下载量：1
NNIE精度损失是指板端feature map和caffe中间结果的余弦相似度有差异，这种差异是经过量化之后产生的。Caffe或其他框架使用float运算，NNIE使用int8或int16运算，所以会有精度损失。海思量化算法的设计目标是精度损失控制在1%以内，大多数网络的精度损失要小于0.5%。
展开》
折叠》
微信扫码分享
QQ好友
暂无数据
我上传的资料
