1. ONNX模型输入输出结构基础认知在深度学习模型部署领域ONNXOpen Neural Network Exchange格式已成为事实上的标准中间表示。当我们拿到一个ONNX模型文件时首要任务就是理解其输入输出结构。以典型的YOLOv8模型为例其输入输出结构通常显示为输入[1, 3, 640, 640]输出[1, 84, 8400]这些数字并非随意设置而是具有明确的语义含义。输入张量的四个维度分别表示批处理大小batch size颜色通道数RGB图像为3图像高度图像宽度输出张量的三个维度则对应批处理大小预测框属性x坐标、y坐标、宽度、高度及各类别置信度预测框数量提示在实际部署场景中固定尺寸的输入输出会带来诸多限制。例如当需要处理不同分辨率的图像时就必须修改模型的输入尺寸参数。2. 输入输出结构查看的三种专业方法2.1 Netron可视化工具实战Netron是目前最直观的模型结构查看工具支持浏览器直接访问其在线版本(netron.app)。将ONNX模型拖入界面后点击输入输出节点即可查看详细属性。对于YOLOv8模型我们通常能看到输入节点Name: imagesType: float32[1,3,640,640]输出节点Name: output0Type: float32[1,84,8400]Netron的优势在于可以直观展示整个计算图结构但缺点是只能查看无法修改。2.2 ONNX Runtime检查法ONNX Runtime提供的Python接口不仅能用于推理还能提取模型元信息import onnxruntime as ort sess ort.InferenceSession(yolov8.onnx) print(输入信息:) for inp in sess.get_inputs(): print(f名称:{inp.name} 形状:{inp.shape} 类型:{inp.type}) print(\n输出信息:) for out in sess.get_outputs(): print(f名称:{out.name} 形状:{out.shape} 类型:{out.type})这段代码会输出类似以下结果输入信息: 名称:images 形状:[1, 3, 640, 640] 类型:tensor(float) 输出信息: 名称:output0 形状:[1, 84, 8400] 类型:tensor(float)2.3 ONNX原生API解析对于需要深度操作模型的情况ONNX的原生Python API提供了最底层的访问能力import onnx model onnx.load(yolov8.onnx) # 打印输入输出详细信息 def print_tensor_info(tensor): print(f名称: {tensor.name}) tensor_type tensor.type.tensor_type print(f数据类型: {onnx.TensorProto.DataType.Name(tensor_type.elem_type)}) print(形状:, [d.dim_value for d in tensor_type.shape.dim]) print( 输入 ) print_tensor_info(model.graph.input[0]) print(\n 输出 ) print_tensor_info(model.graph.output[0])这种方法输出的信息最为详细包括每个维度的具体数值和数据类型编码。3. 动态维度设置的核心技术3.1 固定维度与动态维度对比在ONNX模型中维度值可以表现为三种状态固定值如dim_value640动态命名维度如dim_parambatch_size完全动态仅显示为dim_param典型转换场景包括将固定批处理大小改为动态dim_value1 → dim_parambatch_size使输入图像尺寸可变dim_value640 → dim_paramheight3.2 使用ONNX Python API修改维度以下是修改输入输出维度的完整代码示例import onnx from onnx import helper # 加载原始模型 model onnx.load(yolov8.onnx) # 创建新的动态维度 dynamic_batch_dim onnx.TensorShapeProto.Dimension() dynamic_batch_dim.dim_param batch_size dynamic_height_dim onnx.TensorShapeProto.Dimension() dynamic_height_dim.dim_param height dynamic_width_dim onnx.TensorShapeProto.Dimension() dynamic_width_dim.dim_param width # 更新输入维度 input_tensor model.graph.input[0] input_type input_tensor.type.tensor_type input_type.shape.dim[0].CopyFrom(dynamic_batch_dim) input_type.shape.dim[2].CopyFrom(dynamic_height_dim) input_type.shape.dim[3].CopyFrom(dynamic_width_dim) # 更新输出维度 output_tensor model.graph.output[0] output_type output_tensor.type.tensor_type output_type.shape.dim[0].CopyFrom(dynamic_batch_dim) # 保存修改后的模型 onnx.save(model, yolov8_dynamic.onnx)3.3 使用ONNX形状推断工具修改维度后建议运行形状推断确保模型一致性from onnx import shape_inference inferred_model shape_inference.infer_shapes(model) onnx.save(inferred_model, yolov8_dynamic_inferred.onnx)4. 高级修改场景与实战技巧4.1 多输入输出模型处理对于具有多个输入输出的模型需要分别处理每个张量# 处理多输入模型 for input in model.graph.input: if input.name images: # 修改主图像输入 input.type.tensor_type.shape.dim[0].dim_param batch_size elif input.name secondary_input: # 修改辅助输入 input.type.tensor_type.shape.dim[0].dim_param batch_size4.2 部分维度动态化实战有时只需要部分维度动态化例如保持通道数固定# 保持通道数固定为3 input_tensor model.graph.input[0] input_type input_tensor.type.tensor_type input_type.shape.dim[1].dim_value 3 # 通道数保持固定4.3 模型验证与测试修改后必须进行严格验证# 验证模型有效性 onnx.checker.check_model(model) # 测试动态模型推理 import numpy as np import onnxruntime as ort sess ort.InferenceSession(yolov8_dynamic.onnx) # 使用不同尺寸输入测试 for size in [320, 416, 640]: dummy_input np.random.rand(2, 3, size, size).astype(np.float32) outputs sess.run(None, {images: dummy_input}) print(f输入尺寸:{size}x{size}, 输出形状:{outputs[0].shape})5. 常见问题与解决方案5.1 形状不匹配错误处理当遇到类似Got invalid dimensions for input的错误时可按以下步骤排查使用Netron确认修改后的模型结构检查onnxruntime的输入数据形状验证模型是否经过形状推断确保所有相关节点的维度一致性5.2 动态模型优化技巧动态模型可能影响推理性能建议在onnxruntime中启用所有优化sess_options ort.SessionOptions() sess_options.graph_optimization_level ort.GraphOptimizationLevel.ORT_ENABLE_ALL对常用尺寸创建优化profilefrom onnxruntime import GraphOptimizationLevel, SessionOptions so SessionOptions() so.add_free_dimension_override_by_name(height, 640) so.add_free_dimension_override_by_name(width, 640)5.3 模型转换注意事项从PyTorch转换时指定动态维度torch.onnx.export( model, dummy_input, model.onnx, dynamic_axes{ input: {0: batch_size, 2: height, 3: width}, output: {0: batch_size} } )我在实际项目中发现某些算子对动态形状支持有限特别是涉及resize或pooling的操作。建议在修改前先查阅ONNX算子支持文档确认目标算子是否支持动态维度。