| 1681 | } |
| 1682 | |
| 1683 | static void llama_sampler_penalties_reset(struct llama_sampler * smpl) { |
| 1684 | auto * ctx = (llama_sampler_penalties *) smpl->ctx; |
| 1685 | ctx->prev.clear(); |
| 1686 | ctx->token_count.clear(); |
| 1687 | } |
| 1688 | |
| 1689 | static struct llama_sampler * llama_sampler_penalties_clone(const struct llama_sampler * smpl) { |
| 1690 | const auto * ctx = (const llama_sampler_penalties *) smpl->ctx; |