Function generate_samples

ppq/samples/custimized_quant.py:12–20

生成样本数据，把这个函数改成真实数据读入就可以完成量化了 这个语音数据量很小 我建议你把整个数据集直接全部送上CUDA

(num_of_samples: int = 32)

MODEL_PATH = 'models\encoder_ln.onnx'

def generate_samples(num_of_samples: int = 32):
    """生成样本数据，把这个函数改成真实数据读入就可以完成量化了
    这个语音数据量很小 我建议你把整个数据集直接全部送上CUDA
    """
    sample = {
        'speech': torch.rand(size=[B, T, 80]).float().cuda(),
        'speech_lengths': torch.ones(size=[B]).int().cuda()}
    samples = [sample for _ in range(num_of_samples)]
    return samples
SAMPLES = generate_samples()

# 定义一个自己的量化器，定制量化行为，继承于 TensorRTQuantizer 量化器