我是白开水呢

我是白开水呢

1个粉丝

2

问答

2

专栏

39

资料

我是白开水呢  发布于  2023-07-24 14:53:08
采纳率 0%
2个问答
483

请问大家QAT训练时 注意力里的sigmoid大家都是怎么处理的?

 

请问大家QAT训练时 注意力里的sigmoid大家都是怎么处理的?
感觉不好做量化啊

我来回答
回答1个
时间排序
认可量排序

易百纳用户01878

0个粉丝

0

问答

2

专栏

129

资料

易百纳用户01878 2023-07-25 10:45:06
认可0

在量化之前,首先对注意力的输入进行动态范围缩放。

或将文件直接拖到这里
悬赏:
E币
网盘
* 网盘链接:
* 提取码:
悬赏:
E币

Markdown 语法

  • 加粗**内容**
  • 斜体*内容*
  • 删除线~~内容~~
  • 引用> 引用内容
  • 代码`代码`
  • 代码块```编程语言↵代码```
  • 链接[链接标题](url)
  • 无序列表- 内容
  • 有序列表1. 内容
  • 缩进内容
  • 图片![alt](url)
+ 添加网盘链接/附件

Markdown 语法

  • 加粗**内容**
  • 斜体*内容*
  • 删除线~~内容~~
  • 引用> 引用内容
  • 代码`代码`
  • 代码块```编程语言↵代码```
  • 链接[链接标题](url)
  • 无序列表- 内容
  • 有序列表1. 内容
  • 缩进内容
  • 图片![alt](url)
相关问答
无更多相似问答 去提问
举报反馈

举报类型

  • 内容涉黄/赌/毒
  • 内容侵权/抄袭
  • 政治相关
  • 涉嫌广告
  • 侮辱谩骂
  • 其他

详细说明

易百纳技术社区