MCPcopy Create free account
hub / github.com/Tiiny-AI/PowerInfer / llama_tokenize

Function llama_tokenize

common/common.cpp:1019–1025  ·  view source on GitHub ↗

Source from the content-addressed store, hash-verified

1017//
1018
1019std::vector<llama_token> llama_tokenize(
1020 const struct llama_context * ctx,
1021 const std::string & text,
1022 bool add_bos,
1023 bool special) {
1024 return llama_tokenize(llama_get_model(ctx), text, add_bos, special);
1025}
1026
1027std::vector<llama_token> llama_tokenize(
1028 const struct llama_model * model,

Callers 1

tokenize_fileFunction · 0.70

Calls 5

lengthMethod · 0.80
llama_get_modelFunction · 0.50
dataMethod · 0.45
sizeMethod · 0.45
resizeMethod · 0.45

Tested by

no test coverage detected