(self)
| 343 | llama_cpp.llama_set_n_threads(self.ctx, n_threads, n_threads_batch) |
| 344 | |
| 345 | def get_logits(self): |
| 346 | return llama_cpp.llama_get_logits(self.ctx) |
| 347 | |
| 348 | def get_logits_ith(self, i: int): |
| 349 | return llama_cpp.llama_get_logits_ith(self.ctx, i) |