qn1567564800

qn1567564800

0个粉丝

36

问答

0

专栏

0

资料

qn1567564800  发布于  2019-12-16 16:48:43
采纳率 0%
36个问答
2264

Hi3559的NNIE数据格式

Hi3559的NNIE的HI_S32类型是不是20.12的定点数?其他诸如VEC_S32和SEQ_S32呢?U8就仅表示0~255的整数吗?好像例程里面都是用的VEC_S32类型,但都会除以一个4096.
我来回答
回答5个
时间排序
认可量排序

xzou999

0个粉丝

0

问答

0

专栏

0

资料

xzou999 2020-08-10 10:32:56
认可0
我最近也遇到一个有点类似的问题,我的原始caffe模型的输入数据类型是浮点型的,虽然成功转成了wk模型,但是现在不知道该给模型一个什么样的输入数据类型,开始直接用的U8的,输出的结果跟原始caffe模型的输出对不上。后来想换成HI_S32的输入类型,感觉应该是把浮点型转换为定点型再输入进去,但是又不知道是该具体转成哪种定点,16.16或者20.12 ?
ernest_li
ernest_li   回复   xzou999  2023-07-20 10:24:52
0

请问解决了吗?谢谢,可有偿

ernest_li

0个粉丝

1

问答

0

专栏

0

资料

ernest_li 2023-07-19 16:52:34
认可0

请问解决了吗?可有偿~

易百纳用户01878

0个粉丝

0

问答

2

专栏

129

资料

易百纳用户01878 2023-08-03 13:30:03
认可0

Hi3559的NNIE的HI_S32类型是20.12的定点数。其他类型如VEC_S32和SEQ_S32也是定点数类型,但是它们的表示方式和HI_S32可能有所不同。

U8类型表示0~255的整数,这是一种无符号整数类型。在Hi3559的NNIE中,U8类型通常用于表示像素值或权重等需要取值范围在0~255之间的数据。

在Hi3559的NNIE的例程中,通常使用VEC_S32类型来表示模型输入和输出。除以一个4096的操作可能是为了将定点数转换为浮点数,以便在模型中使用。

AI-海king

12个粉丝

0

问答

5

专栏

37

资料

AI-海king 2023-08-04 13:11:05
认可0

Hi3559的NNIE数据格式可以包含多种类型,例如HI_S32、VEC_S32、SEQ_S32和U8等。

HI_S32类型通常表示20.12定点数,它有20位整数和12位小数,可以表示较大的数值范围,并且具有较高的精度。

VEC_S32类型表示包含多个HI_S32元素的向量。在处理图像和视频数据时,通常使用VEC_S32类型来存储像素值或特征向量。

SEQ_S32类型表示包含多个VEC_S32元素的序列。在处理序列数据时,例如语音信号或时间序列数据,通常使用SEQ_S32类型。

U8类型通常表示0~255的整数。它没有小数部分,因此精度较低,但可以表示较大的数值范围。

在例程中,使用VEC_S32类型除以4096可能是为了将浮点数转换为定点数。这是因为,如果数据被表示为浮点数,它们可能会受到舍入误差的影响,而通过除以一个较大的数值(例如4096)可以将数据转换为定点数表示,从而减少舍入误差。

或将文件直接拖到这里
悬赏:
E币
网盘
* 网盘链接:
* 提取码:
悬赏:
E币

Markdown 语法

  • 加粗**内容**
  • 斜体*内容*
  • 删除线~~内容~~
  • 引用> 引用内容
  • 代码`代码`
  • 代码块```编程语言↵代码```
  • 链接[链接标题](url)
  • 无序列表- 内容
  • 有序列表1. 内容
  • 缩进内容
  • 图片![alt](url)
+ 添加网盘链接/附件

Markdown 语法

  • 加粗**内容**
  • 斜体*内容*
  • 删除线~~内容~~
  • 引用> 引用内容
  • 代码`代码`
  • 代码块```编程语言↵代码```
  • 链接[链接标题](url)
  • 无序列表- 内容
  • 有序列表1. 内容
  • 缩进内容
  • 图片![alt](url)
相关问答
无更多相似问答 去提问
举报反馈

举报类型

  • 内容涉黄/赌/毒
  • 内容侵权/抄袭
  • 政治相关
  • 涉嫌广告
  • 侮辱谩骂
  • 其他

详细说明

易百纳技术社区