Apply optional mask for encoder. Args: xs (torch.Tensor): padded input, (B, L, D), L for max length mask (torch.Tensor): mask fo

获取全局服务实例

获取全局任务管理器实例

检查模型是否已加载

Make mask tensor containing indices of padded part. See description of make_non_pad_mask. Args: lengths (torch.Tensor): Batch of len

创建并加入队列

Create an instance from initial values and JSON data. Args: initial_values: Dictionary of initial values (highes

Parse the original multi-speaker podcast JSON to the target flattened format. The key will be a time-based unique ID. Args: data

Normalize the volume of an audio signal. Parameters: audio (torch tensor): Input audio signal array. coeff (float): Target c

清理过期的文件 Args: directory: 要清理的目录 minutes: 文件保留时间（分钟） Returns: int: 清理的文件数量

Reset the positional encodings.

Compute attention context vector. Args: value (torch.Tensor): Transformed value, size (#batch, n_head, time2, d_k

Transform query, key and value. Args: query (torch.Tensor): Query tensor (#batch, time1, size). key (torch.Tensor): K

生成唯一的任务ID

获取GPU内存信息

保存上传的文件到临时目录 Args: upload_file: FastAPI上传文件对象 task_id: 任务ID index: 文件索引 Returns: Path: 保存的文件路径

Create mask for subsequent steps (size, size) with chunk size, this is for streaming encoder Args: size (int): size of mask

验证音频文件 Args: files: 上传的文件列表 Raises: HTTPException: 如果验证失败

验证对话文本格式 Args: dialogue_text: 对话文本 num_speakers: 说话人数量 Returns: Tuple[bool, str]: (是否有效, 错误信息)

f0_values: (batchsize, length, dim) where dim indicates fundamental tone and overtones

Load data from a JSON file

加载模型

处理单个任务

后台工作线程

清理GPU缓存

Automatically create configuration from any dataclass

生成语音 Args: prompt_audio_paths: 参考音频路径列表 prompt_texts: 参考文本列表 dialogue_text: 对话文本 see

Generate a time-based unique key, e.g. '20251023-001'.

获取活跃任务数量

获取系统内存信息

获取任务信息

加载方言提示文本文件并格式化为嵌套字典。 返回结构: {dialect_key: {display_name: full_text, ...}, ...}

持续监控内存使用

解析对话文本为列表格式 Args: dialogue_text: 原始对话文本 num_speakers: 说话人数量 Returns: List[str]: 分段的对话列表，每段包含说话人标记

For getting encoding in a streaming fashion Attention!!!!! we apply dropout only once at the whole utterance level in a none

Compute relative positional encoding. Args: x (torch.Tensor): Input tensor (batch, head, time1, 2*time1-1). time1 mea

关闭任务管理器

Fixed euler solver for ODEs. Args: x (torch.Tensor): random noise t_span (torch.Tensor): n_timesteps interpol

启动后台工作线程

测试异步生成

测试健康检查

测试同步生成 - 多说话人

测试同步生成 - 单说话人

验证LLM引擎配置