MCPcopy
hub / github.com/OpenPPL/ppq / Example_Benchmark.py

File Example_Benchmark.py

ppq/samples/Openvino/Example_Benchmark.py:None–None  ·  view source on GitHub ↗

Source from the content-addressed store, hash-verified

1# ---------------------------------------------------------------
2# 这个脚本向你展示了如何使用 openvino 对 PPQ 导出的模型进行推理
3# 你需要注意,openvino 也可以运行各种各样的量化方案,你甚至可以用 tensorRT 的 policy
4# 但总的来说,openvino 需要非对称量化的 activation 和对称量化的 weights

Callers

nothing calls this directly

Calls 7

BenchmarkFunction · 0.90
ENABLE_CUDA_KERNELClass · 0.85
quantize_onnx_modelFunction · 0.85
graphwise_error_analyseFunction · 0.85
export_ppq_graphFunction · 0.85
toMethod · 0.80
default_settingMethod · 0.80

Tested by

no test coverage detected