Function llama_get_logits_ith

llama_cpp/llama_cpp.py:3213–3218

Logits for the ith token. Equivalent to: llama_get_logits(ctx) + i*n_vocab

(
    ctx: llama_context_p, i: Union[ctypes.c_int32, int], /
)

    ctypes.POINTER(ctypes.c_float),
)
def llama_get_logits_ith(
    ctx: llama_context_p, i: Union[ctypes.c_int32, int], /
) -> CtypesArray[ctypes.c_float]:
    """Logits for the ith token. Equivalent to:
    llama_get_logits(ctx) + i*n_vocab"""
    ...


# // Get all output token embeddings.