yolov8 c++部署 cpu结果正确 cuda结果完全不正确

[ghost]

平台(如果交叉编译请再附上交叉编译目标平台):

Platform(Include target platform as well if cross-compiling):

CUDA

Github版本:

Github Version:

mnn tag 2.5.1

编译方式:

Compiling Method

cuda编译

问题

推理yolov8模型，转换模型没有出错，推理cpu结果正确，gpu结果完全不对。
yolov8.zip

[bitxsw93]

帖一下对应可以复现的测试方法？

[ghost]

帖一下对应可以复现的测试方法？

直接调用的对应的c++接口，像下面这样

MNN::Tensor* input_tensor = net_->getSessionInput(session_, name.c_str());

std::vector<int> input_shape = input_tensor->shape();

int input_len = 1;

for (size_t i = 0; i < input_shape.size(); i++) {

  input_len *= input_shape[i];
}

if (input.layout() == cv::MatLayout::NCHW) {

  std::lock_guard<std::mutex> lk(mtx_);

  MNN::Tensor* nchw_tensor = MNN::Tensor::create(

      input_shape, halide_type_of<float>(), input.data(), MNN::Tensor::CAFFE);

  input_tensor->copyFromHostTensor(nchw_tensor);

  MNN::Tensor::destroy(nchw_tensor);

} else {

  return com::FAIL;

}

[bitxsw93]

加一下MNN官方钉钉群，群里@恬步，私聊给你看下。

[bitxsw93]

已经修复，待同步代码