pytorch模型转成tensorRT后,运行时出现报错:
ERROR: 1: [genericReformat.cu::genericReformat::executeMemcpy::1334] Error Code 1: Cuda Runtime (invalid argument)
后来发现是torch.cat算子引起的,替换成torch.stack后正常
原因还不清楚,可能是tensorRT8的bug,注意避坑
欢迎分享,转载请注明来源:内存溢出
pytorch模型转成tensorRT后,运行时出现报错:
ERROR: 1: [genericReformat.cu::genericReformat::executeMemcpy::1334] Error Code 1: Cuda Runtime (invalid argument)
后来发现是torch.cat算子引起的,替换成torch.stack后正常
原因还不清楚,可能是tensorRT8的bug,注意避坑
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)