藉由fpAnalyserCompilerIpevaluator_520.py 生成定點模型之問題

林俊丞

使用模型為3dCNN

林俊丞

使用模型為alexnet時也出現相同錯誤

另外兩者都是使用tensorflow框架

Ethon Lin

Hello,

可能要請你提供完整個錯誤訊息截圖(包含所下的指令，及完整訊息內容)，模型onnx檔以及json檔我們才好幫你作進一步確認

林俊丞

好的 後來有去看了一下KL520支援的layer 發現並沒有conv3d的部分 所以3dcnn的部分先不用了

先麻煩你們幫我確認alexnet的模型

https://drive.google.com/file/d/1jeMu8OeB7OiKOGFa1EstC7LSZ2y64kWA/view?usp=sharing

Ethon Lin

Hello,

確認所提供的alexnet後發現有幾個問題

1. transpose不支援，transpose或reshape這類operator的功用是在做資料的排列，並沒有實質的神經網路運算，所以在硬體加速棒中不會針對這類型操作處理，還請先在原始模型中移除transpose後再次執行converter
2. 檔案大小太大，所提供的onnx大小為281MB，目前KL520因為硬體記憶體的關係，建議onnx模型不要超過120MB，即便成功通過編譯生成NEF，實際放到KL520執行時也會發生錯誤。若想要執行120MB以上的模型，須改用耐能的其他產品(如KL720)

林俊丞

了解了 謝謝😀