Maria Chen
Maria Chen
About
- Username
- Maria Chen
- Joined
- Visits
- 1,066
- Last Active
- Roles
- Member, ModeratorsKL520, ModeratorsKL720, ModeratorsAIModel
Comments
-
您好， 謝謝您同意存取! 上面的Toolchain Web GUI的網址目前已經不支援了，所以我們會推薦用docker的toolchain。請問一下，可以請您描述您用toolchain時遇到的錯誤嗎? 目前我用了toolchain，將tflite模型先轉換成onnx模型，上傳到您分享的模型資料夾裡面 (tflite_to_o…
-
您好， 請問一下，您有辦法在docker上使用Kneron toolchain嗎? 我們會推薦您使用docker上的Kneron toolchain: 2. Toolchain Deployment - Document Center 還有，我有向您要求Google Drive的存取權，謝謝!
-
Hi, If you'd like to use Kneron PLUS Enterprise, please contact our sales representative (brian.lin@kneron.us) to get access. Thank you for your interest!
-
Hi Louis， Code裡面的km.analysis()有用deep_search: https://www.kneron.com/forum/uploads/282/WY2QH93R6YHB.png 它會讓轉換過程變慢，所以我們會建議您先不用deep_search，等到可以成功轉換之後再打開deep_search重新跑一次，結果會是一樣的，FPS會提高。 另外，mo…
-
Hi Louis， 謝謝您提供檔案，我們現在在檢查，請稍等! 用Kneron toolchain轉檔的耗費時間和實際在板子上運作的時間沒有關係，轉換模型的過程會消耗比較多的時間，也會需要看量化和優化的時間，但是這個過程是一次性的。 要測量板子/dongle inference的速度的話，您可以…
-
Hi Louis, 謝謝您提供資料。模型看起來是沒有問題，我們這邊上周也有做測試，也花了很久的時間轉換模型，所以我們現在正在釐清原因。關於處理速度，toolchain沒有辦法即時觀察 以防萬一，也可以請您提供您轉換模型的python script嗎? 謝謝!
-
您好， 請問一下，可以麻煩您提供onnx模型 (optimize前和optimize後) 和量化時使用的圖片嗎? 謝謝!
-
您好， 有LSTM處理的toolchain版本，預計是這個月底會出來，不好意思又會讓您久等。
-
Hi Dhinesh, As Nick answered, you will need to contact your sales representative for permissions. We've granted you the permissions now, could you try logging into your account to see if you can access them? Thank you!
-
Hi, The error code 131 is KP_FW_ERROR_MODEL_EXIST_CPU_NODE_131, which indicates that your model has CPU nodes. KL630 doesn't support CPU nodes, so please edit your onnx model and cut off the CPU nodes, then add back the nodes on your host side. Cou…
-
Hi, The error code 110 seems to be caused by wrong input buffer count. Before porting your model directly on KL630, please check this link: How to save the streamd camera image in KL630 in ther board ? — Kneron Developer Forums
-
Hi, Thank you for providing the files. Your .nef model input does look okay, with a shape of (1, 3, 128, 128) https://www.kneron.com/forum/uploads/209/VJ1E6CJWNX4H.png As you suspected, the num_image is set to 15, meaning that there are 15 images as…
-
Hi, It might be hard to figure out the issue just from the capture log. Could you provide more files, such as the KL630 code, the nef model, and the original model before converting it to nef, so that we could check the model input? Thank you for yo…
-
您好， 不好意思讓您久等了: 1. (這個問題已用email回覆您了，請確認) 您可以將onnx模型的紅線以下的operators剪掉，然後再用postprocess function把operators加回來。下面的這些operators在postprocess實作的話，有很大的機會可以加速 https://www.kneron.com/forum/u…
-
您好， kp.inference.generic_image_inference_send會使用kp.GenericInputNodeImage裡面的設定去對圖片做preprocess，所以不會需要用到自己的preprocess_image。 kp.ResizeMode (ENABLE) 會去做resize的動作，kp.NormalizeMode會去normalize，etc. https://www.kneron.…
-
您好， 請問一下，您的圖片(img，在image=img那一行)的format是什麼呢? 這個img的format要跟下一行的設定(KP_IMAGE_FORMAT_RAW8)是一樣的。 您可以確認一下kp.GenericInputNodeImage裡面的parameters都是正確的。如果問題還是沒有解決的話，麻煩您提供KL720的Python co…
-
您好， 我們這次的toolchain release來不及加上LSTM的處理，所以預計會下一次更新的時候加上，大約是十月底，不好意思會讓您久等!
-
Hi, You can edit the dynamic input shape by using --overwrite-input-shapes parameter inside Kneronnxopt in our Kneron Toolchain: https://www.kneron.com/forum/uploads/070/J26ML3CDJ2SY.png Here is the reference link: Kneronnxopt - Document Center I ho…
-
您好， 我們發現本來toolchain的onnx converter (kneronnxopt)會幫忙拆開LSTM所以可以轉換模型，不過新的converter還沒有這項功能。 幾天後，我們會新出一版可以用kneronnxopt拆解LSTM的toolchain，之後您的模型經過kneronnxopt處理就可以轉換了，請稍等，謝謝! 更新to…
-
您好， 可以請您提供下列的資訊嗎? 謝謝! -轉換模型時使用的python script -Input資料 (e.g. 圖片) -Toolchain版本與OS版本 除此之外，您也可以嘗試剪掉Reshape以下的operators，然後將這些operators用postprocess加回去，因為雖然KL720會支持Reshape和Transpose，不過…
-
Hi, Seeing from the image of the model, it seems like the input shape is dynamic: (unk__106, 128, 128, 15, 3). Unfortunately, none of our devices support dynamic input shape, so you would need to edit the model so that the input shape is fixed. For …
-
您好， 不好意思我上次說錯了，有sequence_lens沒問題，問題是因為sequence_lens裡面的input是空的，所以我們才不會支持。現在的版本無論是什麼opset都會有不支持空input的問題，所以會需要您在那裡面給一個值就可以了。
-
您好， KL720是支援LSTM，但是目前的版本不支援中間的sequence_lens: https://www.kneron.com/forum/uploads/557/EV11WX74ZE7R.png 所以會失敗。我們會建議您可以考慮換模型。 要剪掉operators是可以，但是剪掉的operators需要用postprocess加回去，postprocess是用CP…
-
您好， 有這個錯誤的時候，我們會建議您將模型的operators裡面的description刪掉，然後再轉換模型: https://www.kneron.com/forum/uploads/446/8AHUH6NI7759.png
-
您好， 謝謝您提供資訊。這個看起來像是CPU的問題，有可能是某些instructions在VMware裡面沒有模擬好，導致錯誤。我們會推薦您用x86的環境: https://www.kneron.com/forum/uploads/255/CVERSL2ZWP9Y.png 這個模型 (models_720.nef) 是KL720用的模型 (轉換時，會去指定…
-
您好， 我自己在Windows的toolchain上跑類似appop2.py的code可以正常地跑，請問一下，您的Mac的CPU是什麼呢? Edit: 再請問一下，上面的error花了多少時間呢? 如果立刻出現錯誤的話，很可能就是CPU的問題 還有，我們不建議跑那個csim的bin，因為有很多參數
-
您好， 請確認您的model input是否符合模型的input shape: https://www.kneron.com/forum/uploads/356/PGBWJYPKHALB.png 這個preprocess需要與您訓練模型時所用的圖片的處理方式要一致，不然會有錯誤或inference結果會與onnx的inference結果不一樣: https://www.kneron…
-
您好， Kneron toolchain的binary都是針對x86_64的架構編譯的，所以在ARM架構上跑不了 (除非ARM上的docker可以模擬x86_64的指令)。我們會建議您使用x86_64的環境喔。 FCmodel_simplified.onnx模型下方，因為KL720沒有支援Expand和Div，所以需要將這些operators剪掉，再…
-
您好， 我們的文檔裡有一張表有放其它模型的performance數據可以提供您參考 (確定可以通過toolchain): Hardware Performance - Document Center (kneron.com) 不好意思我們沒有特別推薦模型，因為這個要看您自己應用的需求(速度、精度)。您可以根據自己的需求訓練修…
-
您好， Kneron toolchain只能用intel/amd的CPU跑，所以在ARM架構上跑不了 (除非ARM CPU上的docker可以模擬x86_64的指令)。我們會建議您使用x86_64的環境。如果您用的是x86的話，就可以用這個command跑: sudo docker run --rm -it -v /home/john/Downloads/kneron_plus…