Parcourir la source

Update utils_llama.py

Allen il y a 1 an
Parent
commit
a6691c559e
1 fichiers modifiés avec 1 ajouts et 1 suppressions
  1. 1 1
      research/long-context-llama/H2O/utils_llama.py

+ 1 - 1
research/long-context-llama/H2O/utils_llama.py

@@ -18,7 +18,7 @@ from transformers.models.llama.modeling_llama import (
     apply_rotary_pos_emb,
     LlamaForCausalLM,
 )
-from cache_utils import Cache, HHCache
+from cache_utils import Cache, HHCache, StaticCache
 from transformers.utils import logging
 from transformers.modeling_outputs import BaseModelOutputWithPast