| 3171 | } |
| 3172 | |
| 3173 | bool llama_set_sampler(llama_context * ctx, llama_seq_id seq_id, llama_sampler * smpl) { |
| 3174 | return ctx->set_sampler(seq_id, smpl); |
| 3175 | } |
| 3176 | |
| 3177 | llama_token llama_get_sampled_token_ith(llama_context * ctx, int32_t i) { |
| 3178 | ctx->synchronize(); |