Selaa lähdekoodia

Update utils_llama.py

Allen 1 vuosi sitten
vanhempi
commit
4292fdbf19
1 muutettua tiedostoa jossa 1 lisäystä ja 0 poistoa
  1. 1 0
      research/long-context-llama/H2O/utils_llama.py

+ 1 - 0
research/long-context-llama/H2O/utils_llama.py

@@ -18,6 +18,7 @@ from transformers.models.llama.modeling_llama import (
     apply_rotary_pos_emb,
     LlamaForCausalLM,
 )
+from cache_utils import Cache
 
 __all__ = ["H2OLlamaForCausalLM"]