
Ethon Lin
Ethon Lin
About
- Username
- Ethon Lin
- Joined
- Visits
- 1,159
- Last Active
- Roles
- Member, ModeratorsKL520, ModeratorsKL720, ModeratorsAIModel
Comments
-
是的,目前toolchain對於模型的輸入格式為 1x height x weight x ch,若是ch數為1的情況下也還是請保持四個維度的狀態
-
Hi Fred, 錯誤訊息表示你的 main.py中沒有 cam_dme_serial_post_host_yolo 對應的設定,或是格是不符合導致錯誤。 推測你可能是直接將下載的範例複製到你原本的專案中,但所有的host_lib專案都是獨立運行,若直接將A專案的範例複製到B專案中,有可能發生不相融的錯誤,…
-
Hi Fred, 從你提供的資料來看,你的模型有幾個地方與原本範例不同 model_id: 範例的TINY_YOLO_V3_224_224_3.value = 19,而你的模型為1000 model_input_shape: 範例中為(224, 224),而你的模型為(416, 416) class_path: 範例中模型使用coco 80個類別來訓練,而從你的…
-
Hi Fred, 從錯誤訊息來看問題是發生在DME configure階段,表示你所設定的config與模型 / 輸入圖片可能不匹配 (model_id, app_id, image size等),可以先確認這些參數是否都有正確填寫,若還是發生問題的話可以提供你在toolchain中所設定的model id以及 host_lib的下載…
-
Hi Fred, 確認一下你的模型是照參考來源連結裡面的路徑去抓的嗎? 因為那邊說明所介紹的模型是tiny yolo v3,而KL520-cam_dme_async_post_host_yolov5這個範例是跑yolov5,兩個模型在應用中所需要的前處理與後處理函式不同,所以不能直接替換 若想要使用tiny yolo v3的…
-
從截圖看錯誤應該是因為執行的命令所造成的。 所有的範例都需透過python main.py來執行,可以執行python main.py -h來看所有可執行的列表,請依照下面的步驟操作 退回你的路徑到 host_lib/python 執行 python main.py -t KL520-cam_dme_async_post_host_classification
-
Hi Fred, 可以先確認usb dongle是否有權限存取你電腦環境的usb通訊,權限設定方法如下 在Linux環境下,USB的存取是需要管理者權限的,但管理者權限下的環境與一般環境會有差異,也代表即便先前安裝好了python環境,若是在執行時改用sudo python 指令,則會發生找不到…
-
Hi Jasmine, fpAnalyserCompilerIpevaluator_520.py在執行時預設會去尋找/data1/input_params.json,或是透過引數-c 輸入json的路徑,script會依據json內的資訊找到對應的onnx與圖片來做量化與編譯 從錯誤訊息來看,模型onnx的input dimesion可能設定有誤,可以先檢查…
-
感謝分享! 在接下來新版SDK的release中,我們也會提供相關格式的輸出直接供大家使用
-
Hello, 在KL520上,若是使用DME的API來做推論,所拿到的結果格式將會如下,可參考章節7.2中Post Process的介紹http://doc.kneron.com/docs/#520_1.5.0.0/getting_start/#7-run-model-binaries-in-dme-mode total_out_number + (c/h/w/radix/scale) + (c/h/w/radix/scal…
-
Hello, 確認所提供的alexnet後發現有幾個問題 transpose不支援,transpose或reshape這類operator的功用是在做資料的排列,並沒有實質的神經網路運算,所以在硬體加速棒中不會針對這類型操作處理,還請先在原始模型中移除transpose後再次執行converter 檔案大小太大,所…
-
Hello, 可能要請你提供完整個錯誤訊息截圖(包含所下的指令,及完整訊息內容),模型onnx檔以及json檔我們才好幫你作進一步確認
-
Hello, 我這邊試著用你的NEF去跑範例,看起來是可以正常推論的,我的修改如下 model_file改成你的NEF class_path改成你所提到的三種類別 後續直接執行後 python main.py -t KL520-cam_dme_async_post_host_yolov5 可以正常作動,我把我修改的cam_dme_async_post_host_y…
-
Hello, 看起來可能是模型的長寬與你設定的數值不符合,導致最後在整理結果時出錯,可以透過Netron (https://netron.app/)開啟你的onnx模型,確認模型最上端的輸入尺寸是否是你設定的480x256,若不是的話請根據模型的尺寸設定model_input_row / col。 若還是有問題的話…
-
Hello, 有關onnx生成的部分,推測你遇到的問題與這篇討論串相同 https://github.com/pytorch/pytorch/issues/34780#issuecomment-876969861 把curvenet_utils.py當中MaskedMaxPool作下列下列紅框處修改應可以使用它們提供的pytoch2onnx.py生出onnx https://www.kner…
-
比對你所提供的dme_and_kdp.rar後發現兩個檔案並非出自於同一個專案,dme_async_pre_post_host_yolov5.py 是host_lib_competition.zip內的範例,但kdp_wrapper.py是https://github.com/kneron/host_lib內的檔案,雖然檔名一樣,但因為是不同專案所以不能混在一起用 同…
-
想像在定點INT8的世界裡,資料能夠儲存的範圍只有-128 ~ 127,但若模型在浮點狀態下所需要的輸入範圍是-1.0 ~ 1.0,也就是需要用-128~127的值去代表-1.0~1.0,為了要達到這個目的,我們可以把-128~127的數值全都除以128 ( 2^7),如此一來,只要記錄下除以128 (radix = …
-
定點化(或稱量化)時所用的圖片不需要做特別處理,一般 *.jpg或 *.bmp都可以,將圖片存放在資料夾後在input_image_folder填入資料夾路徑,並確定資料夾內沒有圖片以外的檔案,toolchain會自動依據你在preprocess區域內的img_preprocess_method幫你處理。 toolchain也具…
-
耐能的NPU架構會需要將模型轉成定點架構(INT8),但使用者僅需在浮點架構下(float)訓練完模型,並轉成耐能所需的ONNX格式即可,透過toolchain編譯時就會有相關功能可以將模型轉成定點,使用者不需額外準備定點架構的模型。 輸入的圖片不需要轉成INT8的格式,但必須依據…
-
從錯誤訊息的行數與原始範例的行數不同來看,想請問是否有做過哪些修改? 還是下載host_lib_competition.zip後完全沒修改就會有問題? 另外,從 TypeError: init_dme_config() got an unexpected keyword argument 'crop_box' 推測,可能是crop_box參數沒有設定好,又因…
-
提供的訊息內似乎沒有看到Error的部分? 不過,即便使用frozen的pb格式,模型本身也還是需要符合耐能加速棒的規範,還請先檢查下面三點是否都有符合 tensorflow version 1.x,目前尚未支援2.0以上的版本 因為是在加速棒中執行,模型的輸入解析度必須明確訂定,如1x224x2…
-
Hello,耐能的編譯器因為要考慮到加速棒硬體的支援度與執行的效率,所以並非任意的onnx模型都可以支援,在轉換成onnx時還請透過耐能所提供的converter來做轉換 http://doc.kneron.com/docs/#toolchain/manual/#3-onnx-workflow 以tensorflow來說,耐能的converter僅支…
-
看你的環境應該是用anaconda,是否可以在你python38環境下透過指令 conda list 列出所有安裝的library 主要是想確認下面指令所安裝的版本是否正確 pip install kdp_host_api-x.x.x_win_-py3-none-any.whl 或 pip install kdp_host_api-1.0.0_win_-py3-none-any.whl
-
https://www.kneron.com/forum/discussion/comment/398#Comment_398 從模型的截圖來看,模型的解析度並非固定值(1xunk__1955xunk__1956x3),若要在加速棒上執行則需將模型的解析度訂下來後才可執行後續轉換,類似1x224x224x3或其他解析度,請重新輸出模型固定解析度後…
-
Hello, 從燒錄的錯誤訊息來看,你所使用的應該不是競賽專用的host_lib_competition這包專案,其他的host_lib專案內容與使用方法跟競賽的操作手冊可能會有點差異。 要下載競賽用的內容可以至耐能的教育中心 https://www.kneron.com/tw/support/education-center/ 或直接…
-
你好,你所提供的google drive連結似乎沒有開放權限,可能要請你開放權限我們才有辦法下載確認
-
請問是原本host_lib_competition內的範例就會有問題嗎? 還是修改後才遇到問題? 是否有執行過python main.py -t KL520-update_both_fw來更新加速棒韌體? 若是修改後才有問題,錯誤訊息顯示與init_dme_config相關,此步驟是在設定輸入圖片以及模型相關的參數,有可能是輸…
-
為了發揮耐能加速棒的最大效能,每個模型在轉換前都必須調整至對應的架構,若模型中有加速棒不支援的架構則也可能導致轉換編譯過程中會有錯誤,建議可以先從操作步驟中的classification或detection中選擇模型來體驗。 若要進一步分析錯誤的原因,可能要請你提供 model_…
-
https://www.kneron.com/forum/discussion/comment/376#Comment_376 請問有按照這邊的說明創建檔案 /etc/udev/rules.d/10-local.rules 來確保有USB的權限嗎? 若沒有存取usb的權限的話也會導致add device failed
-
後面測試後有發現,在Linux環境下,USB的存取是需要管理者權限的,但管理者權限下的環境與一般環境會有差異,也代表即便先前安裝好了python環境,若是在執行時改用sudo python 指令,則會發生找不到相關lib的python error。 為避免usb權限以及python環境安裝的問題,建…