Method __setitem__

llama_cpp/llama_cache.py:43–46

(
        self, key: Sequence[int], value: "llama_cpp.llama.LlamaState"
    )

    @abstractmethod
    def __setitem__(
        self, key: Sequence[int], value: "llama_cpp.llama.LlamaState"
    ) -> None:
        raise NotImplementedError


class LlamaRAMCache(BaseLlamaCache):