调试间里盯着屏幕,RT-DETR的推理速度比预期慢了近40%。明明用了TensorRT,性能却上不去——这个场景是不是很熟悉?
问题往往不在框架本身,而在导出和部署的细节里。今天咱们就聊聊ONNX Runtime这个常被低估的加速利器。
模型导出那些坑
先看一段典型的导出代码:
# 错误示范:直接导出动态尺寸
torch.onnx.export(model,
dummy_input,
\”rtdetr.onnx\”,
input_names=[\’images\’


