該如何使用其他的 onnx 檔?

夏英杰 · August 2021

你好，我們想使用加速棒來加快我們的 tensorflow 模型推論，但在測試時遇到了問題。

使用的系統是jetson nano提供的ubuntu 18.04，如圖

並使用 python 3.8 環境。

我這邊是先做個測試，以便未來使用在我們的例子上。首先，先從 TF hub 中下載的一個模型，其中有 saved_model.pb 檔。我將這個檔案拿去跑 tf2noox.convert（就是你們在 ONNX Converter.git 中提到的 tf2noox，且我有依照裡面講的將 opset 設為11），如下所示（imagenet_inception_v3_classification_5 是 saved_model.pb 所在路徑）：

python -m tf2onnx.convert --opset 11 --saved-model C:\Users\chris\TF_hub_model\imagenet_inception_v3_classification_5 --output model.onnx

完成轉換後我得到了一個 model.onnx 檔，如圖。

接著我想說，用 ONNX Converter 中的 onnx2onnx.py，將這個 model.onnx 轉為耐能工具可以用的 onnx 檔，於是我跑了下列指令：

git clone https://github.com/kneron/ONNX_Convertor.git
python ONNX_Convertor/optimizer_scripts/onnx2onnx.py model.onnx -o model_convert.onnx

但得到了這個錯誤：

Traceback (most recent call last):
  File "C:\Users\chris\OneDrive\桌面\TfOnnx\ONNX_Convertor\optimizer_scripts\onnx2onnx.py", line 3, in <module>
    from onnx import optimizer
ImportError: cannot import name 'optimizer' from 'onnx' (C:\Users\chris\anaconda3\envs\tf2onnx\lib\site-packages\onnx\__init__.py)

請問有該如何解決呢？或是我該如何正確地將 saved_model.pb 檔轉換成 onnx，並轉為 models_520.nef 給 KL-520 晶片使用？謝謝。

Eric Wu · August 2021

Hi 夏英杰,

我猜可能是環境中的onnx版本不正確.

請確認環境中onnx的版本, 目前主要使用onnx==1.6.

https://github.com/kneron/ONNX_Convertor#introduction

新版本的onnx已經移除optimizer模組:

https://github.com/onnx/onnx/releases/tag/v1.9.0

該如何使用其他的 onnx 檔?

Comments