想詢問KL630上onnx轉檔nef的問題

你好我的平台是KL630

然後參考這邊的討論串後有成功轉出nef檔

https://www.kneron.com/forum/discussion/405/%E5%B0%88%E9%96%80-for-yolov5%E8%BD%89%E6%8F%9B%E6%88%90-nef%E7%9A%84%E6%8C%87%E5%8D%97#latest

以下是轉成nef的過程

1. 先train出pt檔

2. 透過export.py轉出onnx檔

3. 然後透過docker toolchian用下的python範例去轉出nef檔

4. 使用Kneron所提供kneron_plus_v3.0.0裡面的KL630DemoGenericImageInferencePostYolo.py來做驗證

但最後的效果不太符合預期如下面檔案,想詢問可能是什麼原因


Comments

  • 您好,

    這類問題通常是由前/後處理有差異所造成,建議先在toolchain上透過simulator確認可以拿到正確的推論答案後再移到630上推論


    simulator的使用可以參考https://doc.kneron.com/docs/#toolchain/manual_1_overview/#14-floating-point-model-preparation

    1. 參考1.4.3. Floating-Point Model Inference,先透使用您步驟2中轉出的onnx模型,搭配您的preprocess與postprocess使用ktc.kneron_inference()來對這張圖片進行推論,若能拿取到正確答案,也就代表您的前後處理函式沒問題
    2. 參考1.5.2. Fixed-Point Model Inference,拿NEF模型在ktc.kneron_inference()上搭配上述確認過沒問題的前後處理來推論

    若上面兩步驟都確認沒問題,就可以比對630上的前後處理是否與simulator中的過程哪邊有差異

The discussion has been closed due to inactivity. To continue with the topic, please feel free to post a new discussion.