Jelajahi Sumber

Update utils_llama.py

Allen 1 tahun lalu
induk
melakukan
a6691c559e
1 mengubah file dengan 1 tambahan dan 1 penghapusan
  1. 1 1
      research/long-context-llama/H2O/utils_llama.py

+ 1 - 1
research/long-context-llama/H2O/utils_llama.py

@@ -18,7 +18,7 @@ from transformers.models.llama.modeling_llama import (
     apply_rotary_pos_emb,
     LlamaForCausalLM,
 )
-from cache_utils import Cache, HHCache
+from cache_utils import Cache, HHCache, StaticCache
 from transformers.utils import logging
 from transformers.modeling_outputs import BaseModelOutputWithPast