| 367 | } |
| 368 | |
| 369 | void llama_batch_free(struct llama_batch batch) { |
| 370 | if (batch.token) free(batch.token); |
| 371 | if (batch.embd) free(batch.embd); |
| 372 | if (batch.pos) free(batch.pos); |
| 373 | if (batch.n_seq_id) free(batch.n_seq_id); |
| 374 | if (batch.seq_id) { |
| 375 | for (int i = 0; batch.seq_id[i] != nullptr; ++i) { |
| 376 | free(batch.seq_id[i]); |
| 377 | } |
| 378 | free(batch.seq_id); |
| 379 | } |
| 380 | if (batch.logits) free(batch.logits); |
| 381 | } |
no outgoing calls