A class that manages prompt templates and keeps all conversation history.

Data collator函数，用于将多个样本拼接成一个batch，同时生成labels，用于计算loss。 该函数用于pretrain模式。

用于加载json格式的数据集，用于指令微调任务。

用于加载jsonl格式的数据集，用于预训练任务。

Separator styles.