فهرست منبع

Update utils_llama.py

Allen 1 سال پیش
والد
کامیت
e2a4c74fc4
1فایلهای تغییر یافته به همراه1 افزوده شده و 0 حذف شده
  1. 1 0
      research/long-context-llama/H2O/utils_llama.py

+ 1 - 0
research/long-context-llama/H2O/utils_llama.py

@@ -336,6 +336,7 @@ def enable_h2ocache_forward(
     past_seen_tokens = 0
     if use_cache:  # kept for BC (cache positions)
         if not isinstance(past_key_values, StaticCache):
+            pdb.set_trace()
             past_key_values = HHCache.from_legacy_cache(past_key_values)
             past_seen_tokens = past_key_values.get_seq_length()