Default Avatar

Andy Hsieh

Andy Hsieh

About

Username
Andy Hsieh
Joined
Visits
1,170
Last Active
Roles
Member, ModeratorsKL520, ModeratorsKL720, ModeratorsAIModel

Comments

  • @Stanley Hi Stanley, 不好意思,您提供的 flatten_op.onnx model 的 input_shape(1,2,5) 與 output_shape(1,10) 與您描述的 input_shape(1,16,20,1) flatten output_shape(1,1,320,1) 有點差異,所以無法重現您的情況。 https://www.kneron.com/forum/uploads/690/JKI…
  • @Stanley Hi Stanley, 可能需要您提供 onnx、bie 與 nef model 以及 inference 的 .py 檔,方便確認原因。 可以的話,您可以在這裡提供:Kneron_Driver
  • @盧俊佑 Hi 俊佑, 不好意思,讓您久等了。 問題二 造成紅框 4 錯誤訊息主要原因是因為裡面有幾個不支援的 Gather operators,必須把這個 Gather 想辦法做修改,這裡有幫您想辦法將 model 去做 optimized,但後續在量化上出了點問題,目前已經把問題提交給相關同仁,…
  • @johnson luo Hi johnson, 這裡可能有兩點問題, 1. 您提供的 model 與 "e2e_check_float.py" 裡使用的 model 不一樣。 兩個 model 屬於不同的 output shape (如附圖:您提供的 model output shape:[1, 24, x, x]、執行 "e2e_check_float.py" 的 …
  • @johnson luo Hi johnson, https://www.kneron.com/forum/discussion/comment/1195#Comment_1195 這裡幫您確認過後,發現您使用的 onnx model (yolo.opt.onnx) 內含一些 sigmoid operators,KL520 不支持 sigmoid,如果您需要支援 sigmoid 您可以使用 KL720。 使用 KL…
  • @盧俊佑 Hi 俊佑, 問題一 您的 model_id 與 version 是沒有填錯的,這些都是使用者可以自由填寫的。 問題二、問題三 您是否可以提供一下您的 litehrnet_30_coco_256x192.onnx 與 img_qut 資料夾,方便確認原因。
  • @johnson luo Hi johnson, https://www.kneron.com/forum/discussion/comment/1195#Comment_1195 我這邊做 5.2 E2E Simulator Check (Hardware) 也會出現問題,目前正在幫您確認,有消息後會再通知您。 https://www.kneron.com/forum/discussion/comment/1193#Comme…
  • @johnson luo  Hi johnson, 您可能需要提供一下您的 Kneron Plus 使用的版本與您轉出的 nef model,方便幫您確認。 不知道您轉出的 bie 用的 postprocess function 指的是甚麼意思,但有關於 Bie model 的介紹您可以參考此連結:http://doc.kneron.com/docs/#toolchai…
  • @johnson luo Hi johnson, 恭喜您,很高興能幫到您。
  • @andrew Hi andrew, 關於 post process 的部分您可以參考: http://doc.kneron.com/docs/#plus_python/api_migration/chapter/api_migration/#3-option-replace-built-in-yolo-post-process-function 理論上來說您去除了紅線以下的地方,您這個 model 的 inference out…
  • @johnson luo Hi johnson, 如果您要量化的 model 是 yolo.opt.onnx ,看似您的 bie_model_path = km.analysis({"input_1_o0": img_list}) 這裡的 "input_1_o0" 錯了,需要修改成 "images"。
  • @johnson luo Hi johnson, 我是使用您在下面這篇提供的 yolo.opt.zip 解壓縮出來的 model (yolo.opt.onnx)。 https://www.kneron.com/forum/discussion/comment/1165#Comment_1165
  • @johnson luo Hi johnson, 您是否可以提供對於 evaluate 會出現問題的 code 與 操作步驟。因為我這邊測試出來都是可執行的。 Code: https://www.kneron.com/forum/uploads/871/E9LOD7DHL9GH.jpg Kneron Toolchain WebGUI: https://www.kneron.com/forum/uploads/912/…
  • @andrew Hi andrew, 您提供的 best.onnx 建議您可以考慮切除紅線以下的地方,這樣應該就能順利繼續,但是您須注意一下,紅線以下被切除的地方需考慮放到 post process 上並在 Host 端幫您執行,不然 inference 結果也是會不如預期的。 https://www.kneron.com/forum/u…
  • @andrew Hi andrew, https://www.kneron.com/forum/discussion/comment/1160#Comment_1160 您好,出現 not enough memory 的 error message 與您的 CPU 新舊程度應該是沒有關係的,比較有可能的是您的 RAM 需要加大,依照我個人的經驗,您也能看看您的硬碟儲存空間是…
  • @johnson luo Hi johnson, 造成此錯誤訊息的確有可能是版本問題所致,您可以嘗試將 requirements.txt 內的 torch>=1.7.0 改成 torch==1.7.0, (具體位置:/workspace/ai_training/detection/yolov5/yolov5/requirements.txt) 並執行 pip install -r requirements.t…
  • @盧俊佑 Hi 俊佑, 很高興您能順利轉成 onnx model。 問題一, 只要基本上是符合 onnx format 的 model 都可以,不一定需要透過 ONNX_Convertor 優化過後的 onnx model。 問題二, model ID 可以是使用者自行填入的,因在同一個 hardware platform 內可以同時放許多…
  • @sugar Hi sugar, 影響模型推論 precision 的地方非常廣泛,如果模型尾端有被 edit,如果夠瞭解 model input output,基本上只要做 postprocess 就不影響 inference 的結果。 通常 模型(.onnx) 與 模型(.nef) 有推論效果差異很大的話,我認為比較有可能是受到量化影響…
  • @johnson luo Hi johnson, 怎麼將 best.pt 轉出,您可以參考 Kneron ToolChain docker 內的 ai_training/detection/yolov5 的 tutorial , 具體位置如下: /workspace/ai_training/detection/yolov5/yolov5/tutorial/tutorial.ipynb
  • @sugar Hi sugar, 您使用的 Command Line Script Tools FpAnalyser 跑量化,因為這個方法較舊不太推薦,建議您使用 Python API 去做整個 Kneron Tool Chain 的流程, 您可以參考 :  (1) http://doc.kneron.com/docs/#toolchain/manual/ (2) http://doc.kneron.com/doc…
  • @johnson luo Hi johnson, 您提供的 yolov5s.onnx 尾端含有大量 Kneron ToolChain 上不支援的 operators,您必須把紅線後面的去除,最後再把去除的 operators 在電腦上做 postporcess。  https://www.kneron.com/forum/uploads/541/BBWLI3QCCDAV.jpg 額外提醒: 如果…
  • @盧俊佑 Hi 俊佑, 問題一,只要改兩個.py 就可以了,不好意思我的描述有打錯,已經更正了。 問題二,目前 litehrnet 是準備 deprecated 了沒錯,目前不會更新 litehrnet 相關文件與教程。 問題三,關於人體姿態偵測的部分,之前只有 litehrnet,在未來有規劃提供其他…
  • @johnson luo Hi johnson luo, 您是否可以提供您 export 出來的 yolov5s.onnx 與 yolov5s-opt.onnx,方便找出現錯誤訊息原因。
  • @johnson luo Hi johnson luo, 您是否可以提供您 export 出來的 yolov5s.onnx 與 yolov5s-opt.onnx,方便找出現錯誤訊息原因。
  • @sugar Hi sugar, 如果只有照片與 model 不太好辨認出是轉檔的問題還是訓練的問題,是否可以提供您的辨識 Scripts。 .pt 檔您可能需要提供的是 model_paths_520_coco128.yaml 內的 yolov5s-noupsample-coco128.pt。 轉檔問題您可以參考:http://doc.kneron.com/docs/#…
  • https://www.kneron.com/forum/discussion/comment/1113#Comment_1113 @Karasu Hsu Hi Karasu, Could you provide a model with less than 40 or 60 group convolutions for us to investigate further?
  • @盧俊佑 Hi 俊佑, 您嘗試一下將 mmpose_replacement 內的 post_transforms.py 增加以下 function,再把 post_transforms.py 與 miniconda /lib/python3.7/site-packages/mmpose/post_processing 做相對應的更換 def affine_transform_torch(pts, t):   npts = pts.s…
  • @盧俊佑 Hi 俊佑, 問題一與問題二相關這裡一起回答, 您框出的兩個紅色  1. path: ./best.pt 可以為您 train 出來的 model 或是使用在 Kneron ModelZoo 提供的 model,差別在於您是有根據您的運用去訓練出你想要的模型並使用您自己的模型。 Kneron ModelZoo 提供的 m…
  • @盧俊佑 Hi 俊佑, 我這邊是有辦法利用指令 export 出 onnx 的,您可能需要提供一下您的使用步驟給我們看一下。 但您可以參考:https://github.com/kneron/kneron-mmpose 內的 Totorial-Kneron Edition。 或者是 docker 上面 ai_training/regression/litehrnet/tutori…
  • @盧俊佑 Hi 俊佑, 沒事的,不用覺得不好意思,提出問題、解決問題可以使 Kneron 更好甚至可以幫助到任何使用者。 Q. CONFIG_FILE 是不是副檔名是 .cfg 的檔案。 A.因您是想使用 Kneron toolchain docker 上提供的 ai_training\regression,所以 config_file 指的是 …