Toolchains Quantization

Casper Tu

今日做了實驗將原有Quantization 圖片大約200張(224*224),分一半(A and B group)

,然後分別用A進行ONNX transfer to NEF process , 對比B group 也進行ONNX to NEF,

再進行APP inference test (same picture ) , 結果是兩邊可辨識的數量差一張.

  我想請原廠說明, Quantization所用的圖片如何選擇?

   Nef model check 也需要圖片, 要如何選擇呢?

Andy Hsieh

@Casper Tu

Hi Casper,

在您 Quantization 的時候，建議您放的圖片必須跟您預測的場景相關。(也會建議圖片至少約 100 張)

至於您在 Nef model check 所需要的圖片，您可以選您在 Quantization 時所選的圖片 1 張即可，做這個步驟主要是 Check 在 Onnx model check [E2E Simulator Check (Fixed Point)] 與 Nef model check [E2E Simulator Check (Hardware)] 是否結果相符。