MCPcopy Create free account
hub / github.com/Tiiny-AI/PowerInfer / llama_kv_self_seq_add

Function llama_kv_self_seq_add

smallthinker/src/llama-context.cpp:2502–2514  ·  view source on GitHub ↗

Source from the content-addressed store, hash-verified

2500}
2501
2502void llama_kv_self_seq_add(
2503 llama_context * ctx,
2504 llama_seq_id seq_id,
2505 llama_pos p0,
2506 llama_pos p1,
2507 llama_pos delta) {
2508 auto * kv = ctx->get_kv_self();
2509 if (!kv) {
2510 return;
2511 }
2512
2513 kv->seq_add(seq_id, p0, p1, delta);
2514}
2515
2516void llama_kv_self_seq_div(
2517 llama_context * ctx,

Callers 4

mainFunction · 0.85
update_slotsMethod · 0.85
mainFunction · 0.85

Calls 2

get_kv_selfMethod · 0.80
seq_addMethod · 0.45

Tested by 1