KL520使用combine模型問題

您好:

我在使用 KL520 dongle 時,我有兩個模型A.nef和B.nef,各自載入 NPU 並推論都沒有問題。但我透過ktc.combine_nef 將兩個模型放到同一份 nef 檔中 (A_B.nef),然後再進行指定各自 model_id 的推論時,卻會出現

Error during inference: Error raised in function: generic_data_inference_receive. Error code: 101. Description: ApiReturnCode.KP_FW_INFERENCE_ERROR_101


附件是透過 KneronDevice().model_nef_descriptor 印出的模型資訊,

是否可以看出端倪或問題嗎?因為我前幾個月使用的時候還沒有問題,但同樣的東西過一段時間,最近用的時候卻出現這個 issue,想請問該怎麼解決呢?

Comments

  • 另外補充一下,同模型我轉成 KL720 的版本 combine 後沒問題。而在 KL520 上選擇用 flash boot 或 usb boot 結果也都一樣,combine 的 nef 會有問題。

  • 您好,

    從model_description.txt看不太出問題,可以請您提供以下的檔案及資訊,讓我們復現問題嗎? 謝謝!

    -Kneron PLUS code

    -Kneron PLUS版本

    -分別的兩個模型,A.nef和B.nef

    -Combined後的A_B.nef

    -是否有修改firmware的code呢?

  • 您好:

    這份是我的測試檔案,test_nef.py就是我基於你們的範例程式小修的版本,兩個模型分別放在 weights/plate/kneron_flow 和 weights/char/kneron_flow 下,而合併後的模型在 weights/ 下有個 models_520_combined.nef。

    單跑各個模型應該都會跑到第 224 行 Retrieve success 這邊。但跑 combined nef 的第一個模型時 (測試程式預設指定第一個 model id),就會卡在第 205 行 generic_data_inference_receive 失敗。

    我的程式是跑在 kneron plus 3.1.1,然後沒有改過 firmware,用 flash boot 或 usb boot 我都是用 kneron_plus 這個壓縮包裡面給的 firmware load 進去的。希望這樣會有幫助~

  • 您好,

    謝謝您提供資訊! 我們發現Toolchain版本v0.28.2之後的ktc.combine_nef有問題,這個會在未來的Toolchain版本修正。如果要使用ktc.combine_nef,會需要請您退版到v0.28.1的Toolchain去使用ktc.combine_nef:

    docker pull kneron/toolchain:v0.28.1

Sign In or Register to comment.