Qualcomm Aimet የውጤታማነት መሣሪያ ስብስብ መመሪያዎች

ይዘቶች መደበቅ
1 KBA-231226181840
1.1 1. አካባቢን ማዋቀር
1.2 2 ፓቼን ጨምር
1.3 3. በ SNPE ውስጥ ይለውጡ
2 ሰነዶች / መርጃዎች
2.1 ዋቢዎች
3 ተዛማጅ ልጥፎች

KBA-231226181840

1. አካባቢን ማዋቀር

1.1. Nvidia Driver እና CUDA ን ይጫኑ

1.2. ተዛማጅ Python ቤተ-መጽሐፍትን ጫን

python3 -m pip መጫን -ማሻሻል -የተጫነውን ፓይፕ ችላ በል
python3 -m pip install -የተጫነውን gdown ችላ በል
python3 -m pip install -የተጫነውን opencv-python ችላ በል
python3 -m pip install -የተጫነውን ችቦ ችላ በል==1.9.1+cu111 torchvision==0.10.1+cu111 torchaudio==0.9.1 -f https://download.pytorch.org/whl/torch_stable.html
python3 -m pip install -የተጫነ ጃክስን ችላ በል
python3 -m pip install - ችላ የተጫነ ftfy
python3 -m pip install -የተጫነውን torchinfo ችላ በል
python3 -m pip install –ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetCommon-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install –ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetTorch-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install -የተጫነውን ቁጥር ችላ በል==1.21.6
python3 -m pip install - ችላ የተጫነ psutil

1.3. Clone aimet-ሞዴል-አራዊት

git clone https://github.com/quic/aimet-model-zoo.git
ሲዲ አሚሜት-ሞዴል-አራዊት
git checkout d09d2b0404d10f71a7640a87e9d5e5257b028802
PYTHONPATH=${PYTHONPATH}:${PWD} ወደ ውጪ ላክ

1.4. አዘጋጅ 14 አውርድ

wget https://uofi.box.com/shared/static/igsnfieh4lz68l926l8xbklwsnnk8we9.zip
unzip igsnfieh4lz68l926l8xbklwsnnk8we9.zip

1.5. መስመር 39 aimet-model-zoo/aimet_zoo_torch/quicksrnet/dataloader/utils.py ቀይር

መለወጥ
ለ img_path በglob.glob(os.path.join(test_images_dir፣ "*"))፡
ወደ
ለ img_path in glob.glob(os.path.join(test_images_dir፣ "*_HR*"))፡

1.6. ግምገማን አሂድ።

# በ YOURPATH/aimet-model- run
# ለ quicksrnet_ትንሽ_2x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-ሞዴል-ውቅር quicksrnet_small_2x_w8a8 \
-የውሂብ ስብስብ-መንገድ ../Set14/image_SRF_4

# ለ quicksrnet_ትንሽ_4x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-ሞዴል-ውቅር quicksrnet_small_4x_w8a8 \
-የውሂብ ስብስብ-መንገድ ../Set14/image_SRF_4

# ለ quicksrnet_መካከለኛ_2x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-ሞዴል-ውቅር quicksrnet_medium_2x_w8a8 \
-የውሂብ ስብስብ-መንገድ ../Set14/image_SRF_4

# ለ quicksrnet_መካከለኛ_4x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-ሞዴል-ውቅር quicksrnet_medium_4x_w8a8 \
-የውሂብ ስብስብ-መንገድ ../Set14/image_SRF_4

የ PSNRvaluefor theaimetsimulated ሞዴል ያገኛሉ እንበል። የሞዴል-ውቅርን ለQuickSRNet ልዩነት መቀየር ይችላሉ፣አማራጩ underaimet-modelzoo/aimet_zoo_torch/quicksrnet/model/model_cards/ ነው።

2 ፓቼን ጨምር

2.1. "ወደ ONNX ላክ ወደ REVISED.docx" ክፈት

2.2. የጊት ቃል መታወቂያን ዝለል

2.3. ክፍል 1 ኮድ

ሙሉ 1. ኮድ በመጨረሻው መስመር (ከመስመር 366 በኋላ) aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/models.py

2.4. ክፍል 2 እና 3 ኮድ

በመስመር 2 አሜሜት-ሞዴል-ዞኦ/aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py ስር ሙሉ 3፣ 93 ኮድ ያክሉ።

2.5. ቁልፍ መለኪያዎች በተግባር load_model ውስጥ

ሞዴል = ሎድ_ሞዴል(MODEL_PATH_INT8፣

MODEL_NAME፣
MODEL_ARGS.ማግኘት(MODEL_NAME)።አግኝ(MODEL_CONFIG)፣
አጠቃቀም_quant_sim_model=እውነት፣
ኢንኮዲንግ_ዱካ=ENCODING_PATH፣
quantsim_config_path=CONFIG_PATH፣
የካሊብሬሽን_ዳታ=IMAGES_LR፣
use_cuda=እውነት
before_quantization=እውነት፣
convert_to_dcr=እውነት)

MODEL_PATH_INT8 = አኢሜት_ዙኦ_ቶርች/quicksrnet/ሞዴል/ክብደቶች/quicksrnet_ትንሽ_2x_w8a8/ቅድመ_ምርጥ_ክብደቶች
MODEL_NAME = QuickSRNetSmall
MODEL_ARGS.ማግኘት(MODEL_NAME)።ማግኘት(MODEL_CONFIG) = {'scaling_factor'፡ 2}
ENCODING_PATH = አሚሜት_ዙኦ_ቶርች/quicksrnet/ሞዴል/ክብደቶች/quicksrnet_small_2x_w8a8/adaround_encodings
CONFIG_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/aimet_config

እባክዎ ለተለያዩ የQuickSRNet መጠን ተለዋዋጮችን ይተኩ

2.6 የሞዴል መጠን ማሻሻያ

  1. "የግቤት_ቅርጽ" በ aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/model_cards/*.json
  2. የውስጥ ተግባር ሎድ_ሞዴል(…) በ aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/inference.py
  3. ከ"ወደ ONNX ደረጃዎች ላክ REVISED.docx" ተግባር ውስጥ ወደ ውጪ መላክ_ወደ_onnx(...፣ የግቤት_ቁመት፣ የግቤት_ስፋት)

2.7 የ ONNX ሞዴልን ወደ ውጭ ለመላክ 1.6 ን እንደገና አሂድ

3. በ SNPE ውስጥ ይለውጡ

3.1. ቀይር

${SNPE_ROOT}/ቢን/x86_64-linux-clang/snpe-onnx-to-dlc \
-የግብዓት_አውታረ መረብ ሞዴል.onnx \
-መጠን_ይሻራል ./model.encodings

3.2. (አማራጭ) በቁጥር የተሰራ DLC ብቻ ማውጣት

(አማራጭ) snpe-dlc-quant –input_dlc model.dlc –float_fallback –override_params

3.3. (አስፈላጊ) ONNX I/O በ NCHW ቅደም ተከተል ነው; የተለወጠው DLC በቅደም ተከተል NHWC ነው።

ሰነዶች / መርጃዎች

Qualcomm Aimet የውጤታማነት መሣሪያ ስብስብ ሰነድ [pdf] መመሪያ
quicksrnet_small_2x_w8a8፣ quicksrnet_small_4x_w8a8፣ quicksrnet_medium_2x_w8a8፣ quicksrnet_medium_4x_w8a8፣ Aimet የውጤታማነት መሣሪያ ሰነድ፣ የውጤታማነት መሣሪያ ሰነድ፣የመሳሪያ ስብስብ

ዋቢዎች

ተዛማጅ ልጥፎች

አስተያየት ይስጡ

የኢሜል አድራሻዎ አይታተምም። አስፈላጊ መስኮች ምልክት ተደርጎባቸዋል *