SS928中目标检测yolov5-yolov7中onnx添加后处理算子Decbbox时，svp_nnn在1280*1280 1280*1056分辨率对不上。_问答

在yolov5中model/yolo.py中添加rpn后处理算子，修改了
self.box =[DecBBox(y=self.anchors[0],num_anchors=95040,num_coords=4,num_classes=self.nc,gridW=240,gridH=132,imgW=1920,imgH=1056,useClassId=1,calc_mode=5,clip_bbox=1,share_loc =1), DecBBox(y=self.anchors[1],num_anchors=23760,num_coords=4,num_classes=self.nc,gridW=120,gridH=66,imgW=1920,imgH=1056,useClassId=1,calc_mode=5,clip_bbox=1,share_loc=1), DecBBox(y=self.anchors[2],num_anchors=5940,num_coords=4,num_classes=self.nc,gridW=60,gridH=33,imgW=1920,imgH=1056,useClassId=1,calc_mode=5,clip_bbox=1,share_loc=1)]所对应的参数，执行export.py转换onnx后，发现640640分辨率下的结果是对的，12801280 1280*1056分辨率下总有目标识别不出来，有时候很多漏检，想问下如何修改，我的处理流程是否正确

不知道你是不是用的ATC工具进行的模型转换，可以尝试重新使用ATC工具进行模型转换吗，这次加上op.cfg文件试试。

在模型.onnx模型文件下新建op.cfg

~/touch op.cfg
vim op.cfg

加入下列内容：

aipp_op {
aipp_mode : static
related_input_rank : 0
max_src_image_size : 4915200
support_rotation : false
input_format : YUV420SP_U8
src_image_size_w : 1280
src_image_size_h: 1280
cpadding_value: 0.0
crop : false
load_start_pos_w : 0
load_start_pos_h : 0
crop_size_w : 0
crop_size_h : 0
resize : false
resize_output_w : 640
resize_output_h : 640
padding : false
left_padding_size : 0
right_padding_size : 0
top_padding_size : 0
bottom_padding_size : 0
padding_value : 0
csc_switch : true
rbuv_swap_switch : false
ax_swap_switch : false
matrix_r0c0 : 256
matrix_r0c1 : 0
matrix_r0c2 : 0
matrix_r1c0 : 0
matrix_r1c1 : 0
matrix_r1c2 : 0
matrix_r2c0 : 0
matrix_r2c1 : 0
matrix_r2c2 : 0
output_bias_0 : 0
output_bias_1 : 0
output_bias_2 : 0
input_bias_0 : 0
input_bias_1 : 0
input_bias_2 : 0
mean_chn_0 : 0
min_chn_0 : 0.0

主要关注max_src_image_size，src_image_size_w，resize_output_h参数。如果你的分辨率是12801280， max_src_image_size为12801280*3。

然后再进行模型转化：

atc --model=you_model.onnx --framework=5 --output=my_model --soc_version="OPTG" --output_type=FP32 --insert_op_conf=./op.cfg

希望对你有用

SS928中目标检测yolov5-yolov7中onnx添加后处理算子Decbbox时，svp_nnn在12801280 12801056分辨率对不上。

Markdown 语法

Markdown 语法