Openvino，如何获取检测结果？

Question

我将 yoloV5 权重转换为 ONNX，并在 netron 中加载 onnx 文件。

这些是我的模型的属性：

该模型已使用模型优化器进行转换，以便与 openvino 一起使用。

我的理解（如果我错了请纠正我）“输出”是检测结果，345、403、461是网络中的中间输出。

我似乎无法理解如何获得检测结果（检测到的类..）和边界框的数据...

这是我的代码：

 ie = IECore()
    devices = ie.available_devices
    for device in devices:
        device_name = ie.get_metric(device_name=device, metric_name="FULL_DEVICE_NAME")
        print(f"{device}: {device_name}")
    classification_model_xml = "best.xml"
    t1 = time_sync()
    net = ie.read_network(model=classification_model_xml)
    exec_net = ie.load_network(network=net, device_name="CPU")
    input_layer = next(iter(net.input_info))
    output_layer = net.outputs['output']
    image_filename = "test.jpg"
    image = cv2.imread(image_filename)
    print(f"input layout: {net.input_info[input_layer].layout}")
    print(f"input precision: {net.input_info[input_layer].precision}")
    print(f"input shape: {net.input_info[input_layer].tensor_desc.dims}")
    print(f"output layout: {output_layer.layout}")
    print(f"output precision: {output_layer.precision}")
    print(f"output shape: {output_layer.shape}")
    N, C, H, W = net.input_info[input_layer].tensor_desc.dims
    print(N, C, H, W)
    image.shape
    input_data = np.expand_dims(np.transpose(image, (2, 0, 1)), 0).astype(np.float32)
    input_data.shape

    input_key = next(iter(exec_net.input_info))
    output_key = next(iter(exec_net.outputs.keys()))
    result = exec_net.infer(inputs={input_key: input_data})
    result_index = np.argmax(result)
    t2 = time_sync()
    output = result[4]
    result_index = np.argmax(result)
    print(result_index)
    self.LabelTimeMs.setText("{:.2f}".format((t2-t1)*1000))

如何访问识别的类和边界框数据？

Answer 1

从 2020.4 版本开始，OpenVINO™ 支持读取原生 ONNX 模型，因此您无需不必使用模型优化器将 ONNX 模型转换为 IR。

为了确保您的模型确实可以与 OpenVINO 一起使用，您可以使用 OpenVINO 基准 Python 工具。使用您的模型运行此命令时，您不应收到任何错误。 （只要没有错误，您可以忽略警告）。

建议使用 OpenVINO 推理引擎示例，特别是如果您是初学者。这个对象检测 Python 演示可能适合您的用例。

您可以参考示例源代码来了解如何使用 OpenVINO 推理引擎 API、边界框的创建、模型的处理、传播方法等。从这里，您可以根据您的目标调整代码。

Answer 2

不久前，OpenVINO 推理示例代码已添加到 Ultralytics 存储库中，您可能会发现它很有用：

https://github.com/ultralytics/yolov5/pull/6057“OpenVINO 导出”（2021 年 12 月 22 日）

https://github.com/ultralytics/yolov5/pull/6179 “添加 OpenVINO 推理” （2022 年 1 月 4 日）

https://github.com/ultralytics/yolov5/pull/6739“YOLOv5 v6.1 版本”（2022 年 2 月 22 日）