ONNX 开始

给出些 ONNX 模型使用的示例方法。

此为修改模型的。如果要修改某节点的，见参考 onnx_cut.py 的 _onnx_specify_shapes() 。

指明模型输入维度后，可自动推理后续节点的维度。

辅助找出指定名称的图属性。

辅助找出指定输入名称的节点列表。输出同样。

辅助找出图某属性所在列表位置。

辅助找出某区间的节点字典。

替换或修改某个节点的过程。

模型运行推理，得到输出的过程。

TensorRT repo

参考 csdn

在 TensorRT/samples/python/ 下参考 costom 编写方式和cmake，docker环境里make生成 .so, 注意插件名字和trt用到的组件名应该一致

python 加载插件

如果用 trtexec ，需要 vim .bashrc

安装依赖 参考

---