Jelajahi Sumber

Update generation.py

Allen 1 tahun lalu
induk
melakukan
e61b4c1400
1 mengubah file dengan 1 tambahan dan 0 penghapusan
  1. 1 0
      research/long-context-llama/H2O/generation.py

+ 1 - 0
research/long-context-llama/H2O/generation.py

@@ -92,6 +92,7 @@ if __name__ == '__main__':
 
             input_ids = tokenizer(prompt, add_special_tokens=False, return_tensors='pt').input_ids.to(model.device)
 
+            print(input_ids)
             output_sequences = model.generate(
                 input_ids=input_ids,
                 max_length=request['max_tokens'] + len(input_ids[0]),