MCPcopy
hub / github.com/OpenPPL/ppq / Example_PTQ.py

File Example_PTQ.py

ppq/samples/Onnxruntime/Example_PTQ.py:None–None  ·  view source on GitHub ↗

Source from the content-addressed store, hash-verified

1# ---------------------------------------------------------------
2# 这个脚本向你展示了如何使用 onnxruntime 对 PPQ 导出的模型进行推理
3# 你需要注意,Onnxruntime 可以运行各种各样的量化方案,但模型量化对 Onnxruntime 而言几乎无法起到加速作用
4# 你可以使用 Onnxruntime 来验证量化方案以及 ppq 量化的正确性,但这不是一个合理的部署平台

Callers

nothing calls this directly

Calls 8

ENABLE_CUDA_KERNELClass · 0.85
quantize_onnx_modelFunction · 0.85
graphwise_error_analyseFunction · 0.85
ppq_warningFunction · 0.85
layerwise_error_analyseFunction · 0.85
export_ppq_graphFunction · 0.85
default_settingMethod · 0.80
toMethod · 0.80

Tested by

no test coverage detected