소스 검색

Update utils_llama.py

Allen 1 년 전
부모
커밋
4676deb9ba
1개의 변경된 파일2개의 추가작업 그리고 0개의 파일을 삭제
  1. 2 0
      research/long-context-llama/H2O/utils_llama.py

+ 2 - 0
research/long-context-llama/H2O/utils_llama.py

@@ -419,6 +419,8 @@ def enable_h2ocache_forward(
         )
     if not return_dict:
         return tuple(v for v in [hidden_states, next_cache, all_hidden_states, all_self_attns] if v is not None)
+    
+    import pdb;pdb.set_trace()
     return BaseModelOutputWithPast(
         last_hidden_state=hidden_states,
         past_key_values=next_cache,