
Ethon Lin
Ethon Lin
About
- Username
- Ethon Lin
- Joined
- Visits
- 1,159
- Last Active
- Roles
- Member, ModeratorsKL520, ModeratorsKL720, ModeratorsAIModel
Comments
-
Hello, 目前沒有音訊前處理的範例,影像前處理的部分依據模型需求會有所不同,連結的preprocess()為 tiny yolo v3這個模型的前處理 http://doc.kneron.com/docs/#toolchain/yolo_example/#step-4-check-onnx-model-and-preprocess-and-postprocess-are-good KL720加速…
-
Hello, 以KL720 CPU的算力來做頻譜轉換可能會相當的慢,導致整體速度表現不佳。建議還是在前端就先處理好之後再送入KL720做模型推論。
-
因為kneron plus的library(kp)並沒有登錄到pip的資料庫中,所以直接透過pip install kp是找不到的,以Windows為例,需透過安裝kneron_plus_v1.3.0\python\package\windows\KneronPLUS-1.3.0-py3-none-any.whl 才行,詳細安裝步驟可以參考下面網頁的說明。 http://doc.…
-
還請協助描述一下所使用的環境(Win? Linux? ),python的版本等環境資訊 截圖時也請包含安裝指令,方便我們了解是在哪個步驟發生錯誤
-
kdp_host_api為舊架構host_lib的library,新架構PLUS已全面改用kp,故兩者是不能互通的 若想要使用resnet的話可以參考PLUS專案中的classification範例 (/kneron_plus_v1.3.0/python/example_model_zoo/KL520KnModelZooGenericInferenceClassification.py ) PLUS 下載連…
-
For processing with model yolo v3, please refer to the our document center. http://doc.kneron.com/docs/#toolchain/yolo_example/
-
In latest version of toolchain, we provided a python api for model inference. You can compare your onnx model and nef model through the api "kneron_inference()". For more detail, please refer to the link below. http://doc.kneron.com/docs/#…
-
Hello, Here are version condition of tensorflow and tflite, please make sure the version of your model and try again. Tensorflow = 1.14.0 (tensorflow 2 is not supported yet) tflite: unquantized TF Lite models
-
Yes, please refer to our document center. http://doc.kneron.com/docs/#model_training/classification/
-
Hello, The python api of kneron's toolchain is ktc, please try "import ktc" instead of "import kte". https://www.kneron.com/forum/uploads/119/CNDSFG3F67SF.jpg https://www.kneron.com/forum/uploads/788/HJA2R068Q7N5.png
-
Hello, 可以的話是否方便提供截圖呢? 畫面中希望可以包含輸入的指令以及完整的錯誤訊息,但從描述來看不太能確認你遇到了什麼問題
-
還是可以的,但DFUT的UI介面僅支援kdp -> kdp2,若要燒回則需透過command line執行KneronDFUT.exe 是的,PLUS上就不應該有這樣的錯誤。 若是使用的是Kneron提供的YOLO模型則可直接使用KL520DemoCamAppYoloInference,或是參考kl520_demo_generic_inference_post_yol…
-
Hi Fred, 目前在kdp架構下(host_lib)的usb driver沒有特別處理這類操作,所以必須重新插拔或reset才能解決。 PLUS (kdp2)架構下有額外處理,且使用fw_loader的架構也更能確保系統穩定性,目前PLUS針對RPi4也有提供對應的工具,建議更新體驗。
-
Hi Fred, 確認一下,是原本應用程式與KL520的dongle都可以正常使用,但執行中直接重啟主機後發生這個錯誤現象嗎? 從錯誤訊息推測,錯誤是在執行api.kdp_start_dme_ext 時所發生,表示傳送模型NEF資料給KL520失敗,懷疑是主機重新啟動時dongle沒有完全對應到主機的動作 …
-
Hello, 模型的轉換會有三個階段 ONNX -> BIE (量化模型) -> NEF (編譯後的量化模型,供KL520 / KL720使用) 依據不同的script可以逐步轉換也可以直接ONNX到NEF,從你使用fpAnalyserBatchCompile_520.py表示你希望從ONNX直接轉換成NEF,這樣的話參數中也需要有量化…
-
Hello, 目前examples內的yolo範例主要是針對耐能所提供的yolo NEF做處理,包含model id, post process function 都有相當的限制 若使用的是我們所提供的training script,建議改使用範例/kneron_plus/python/example_model_zoo/KL720KnModelZooGenericInferenceYolov5.…
-
Hello, 偵測結果的類別會 shift by 1推測可能是類別index有偏移,建議可以再次確認類別表。 或是試著將訓練的類別降至一種,確認相關設定無誤後再回到原本預期的類別數量 另外也確認一下,所提供的結果照片是透過onnx直接推論,還是已經在KL720上實際執行的結果呢?
-
Hello, 是的,模型的部分僅需維持原本的浮點架構,toolchain中會涵蓋轉換成定點的流程 移除post process ops的步驟可以先轉換成onnx模型後,再透過toolchain所提供的編輯器修改,相關用法可以參考文件的說明 http://doc.kneron.com/docs/#toolchain/converters/#7-mode…
-
Hello, 推測你的模型是來自tensorflow object detection api, https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/tf1_detection_zoo.md#coco-trained-models 來自這裡的模型有非常多的問題(預設會把post process拆成一堆奇怪的oper…
-
Hello, 轉換成NEF後即可透過host_lib或PLUS的api讓模型在KL520上進行推論,在這過程中電腦需要透過USB連接KL520的相關裝置,host_lib或PLUS的使用可以參考耐能文件中心 http://doc.kneron.com/docs/#
-
https://www.kneron.com/forum/discussion/comment/516#Comment_516 是的,截圖中那些都要移除,相關工作在你收到三個輸出推論結果後再補做即可。 也提醒,yolov5s中的v4.0~v6.0用的activation是silu,耐能的NPU都不支援,若要使用v4.0~v6.0的話需要先將所有activation…
-
Hi Jasmine, 一個完整的模型應用會包含 pre process(處理輸入圖片) model inference (在GPU或加速棒上做推論) post process (將推論的結果特徵值整理並塞選出想要的結果) 若你已經有完整個GPU應用流程,則可將 步驟2的inference改在KL720上執行,建議可以使用最新的PLU…
-
Hi, 耐能的範例yolov5s是有針對模型的的layer作調整的,有關yolov5s的模型,過去有相關的討論串可以提供給你參考,可以用用看裡面提到的模型版本,不過當時toolchain僅支援opset = 9,現在的話請一律輸出opset =11,否則toolchain執行時會有錯誤 https://www.kneron.co…
-
Hello, 看了你的output2.onnx發現裡面還是有許多不支援的op,如resize, shape, reshape等,最後方一些不支援的部分因為沒有其他的神經網路op,所以可以整個砍掉,待推論結束後在cpu上補做即可,但模型中人有一些resize的部分可能先處理後才能夠執行toolchain後續的步驟
-
Hello, 有關KL720支援的op可以參考章節2.3的列表 http://doc.kneron.com/docs/#toolchain/manual/#2-toolchain-docker-overview 看了你的onnx後發現了幾個問題可能要先修正 模型中含有許多不支援的ops,如resize, shape, unsqueeze等 該模型沒有做過onnx轉換,若為pyto…
-
Hi Fred, 結果不如預期有很多可能,常見的錯誤有 preprocess設定錯誤,根據每個人的模型不同,對於輸入的影像也會需要不同的處理 模型訓練狀況不佳,建議訓練完成後先透過onnx inference確認效果符合你的預期 post process錯誤,每個模型的feature map輸出不同,輸出後…
-
Hello, 單只有ckpt檔的話可能無法看到你模型的內容,是否能請你提供轉換出來的onnx方便我們評估呢?
-
Hi Jasmine, 看起來是因為有不符合預期的 op Cast 與 Slice導致錯誤,我們520不支援cast跟slice, 這應該就是錯誤的原因,還請移除後再重新嘗試一次。
-
Kneron Academy is only compatible with kdp structure (host_lib), KDP2(PLUS structure) cannot work with Academy. If you want use Academy, please update your firmware back to kdp fw.
-
Hi Fred, 方便請你說一下keras-yolo3-master是從哪邊抓的嗎? 目前提供的training範例應該是yolov5與fcos,所以想跟你確認一下你的取得來源