Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

转出的onnx模型和pytorch推理结果无法对齐 #2

Open
tunmx opened this issue May 31, 2021 · 10 comments
Open

转出的onnx模型和pytorch推理结果无法对齐 #2

tunmx opened this issue May 31, 2021 · 10 comments

Comments

@tunmx
Copy link

tunmx commented May 31, 2021

您好,打扰了,想请问一下使用您项目提供的exportOnnx.py把deepsort的模型转换成onnx后,使用opencv dnn和ort进行推理,结果和原来torch推理结果不一致,请问这是什么原因呢

@GesilaA
Copy link
Owner

GesilaA commented Jun 22, 2021

@tunmx 很抱歉哈,之前没回复成功。。opencv的dnn我没有使用过,有可能是图片的预处理方式不一致。可以直接检查一下python模型和onnx模型的输出。

@Jason-lzc
Copy link

@GesilaA 我这边也发现ort的推理结果和pytorch版本不一致,事前已经确认了图片预处理方式的结果没有较大的差别

@liangbaqiang
Copy link

我的也发现torch的和onnx推理的提取特征不一致

@GesilaA
Copy link
Owner

GesilaA commented Jul 14, 2021

@liangzcamg @liangbaqiang pytorch转onnx,然后onnx转trt。pytorch的特征、onnx的特征和trt的输出特征都不一样吗?差距大吗?

@liangbaqiang
Copy link

@GesilaA 请问您的torch版本是1.3吗,tensorrt7必须是为了支持动态输入?

@GesilaA
Copy link
Owner

GesilaA commented Jul 14, 2021

@liangbaqiang 用的是torch1.6和trt7.2.1,trt7支持batchsize,不然行人的外观特征需要一个一个提取

@liangbaqiang
Copy link

@GesilaA 我用的7.0.0,结果报输入维度的问题,我换个版本试试

@Jason-lzc
Copy link

我这边是pytorch和onnx的特征不一样,在输入数据相差很小的情况下,输出特征完全对不上,trt的没测

@GesilaA
Copy link
Owner

GesilaA commented Jul 15, 2021

@liangzcamg 可以用固定的一张图不加任何预处理去测试pytorch和onnx的输出,我记得之前在测的时候ptroch和onnx的输出差距非常小,onnx和trt的输出一致。

@liminghui12345678
Copy link

liminghui12345678 commented Aug 4, 2021

ckpt.t7模型可视化
image
在原代码中直接用torch.onnx.export 转出的onnx可视化
image
用作者的exportOnnx.py转出的onnx模型可视化
image

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

5 participants