فهرست منبع

Update utils_llama.py

Allen 1 سال پیش
والد
کامیت
5d6dc23bc0
1فایلهای تغییر یافته به همراه2 افزوده شده و 0 حذف شده
  1. 2 0
      research/long-context-llama/H2O/utils_llama.py

+ 2 - 0
research/long-context-llama/H2O/utils_llama.py

@@ -401,6 +401,8 @@ def enable_h2ocache_forward(
             all_self_attns += (layer_outputs[1],)
 
     hidden_states = self.norm(hidden_states)
+    
+    import pdb; pdb.set_trace()
 
     # add hidden states from the last decoder layer
     if output_hidden_states: