Function llama_n_ubatch

subprojects/llama.cpp/src/llama-context.cpp:3076–3078

}

uint32_t llama_n_ubatch(const llama_context * ctx) {
    return ctx->n_ubatch();
}

uint32_t llama_n_seq_max(const llama_context * ctx) {
    return ctx->n_seq_max();