Allen 1 рік тому
батько
коміт
cd94a39715
1 змінених файлів з 1 додано та 0 видалено
  1. 1 0
      research/long-context-llama/H2O/cache_utils.py

+ 1 - 0
research/long-context-llama/H2O/cache_utils.py

@@ -547,6 +547,7 @@ class HHCache(Cache):
         legacy_cache = ()
         for layer_idx in range(len(self)):
             legacy_cache += ((self.key_cache[layer_idx], self.value_cache[layer_idx], self.accumulated_attention_scores[layer_idx], ))
+        import pdb; pdb.set_trace()
         return legacy_cache
 
     @classmethod