Allen 1 год назад
Родитель
Сommit
4676deb9ba
1 измененных файлов с 2 добавлено и 0 удалено
  1. 2 0
      research/long-context-llama/H2O/utils_llama.py

+ 2 - 0
research/long-context-llama/H2O/utils_llama.py

@@ -419,6 +419,8 @@ def enable_h2ocache_forward(
         )
     if not return_dict:
         return tuple(v for v in [hidden_states, next_cache, all_hidden_states, all_self_attns] if v is not None)
+    
+    import pdb;pdb.set_trace()
     return BaseModelOutputWithPast(
         last_hidden_state=hidden_states,
         past_key_values=next_cache,