Forráskód Böngészése

Fix save metric FileNotFoundError when finetuning

simwiki 11 hónapja
szülő
commit
66e1867120
1 módosított fájl, 2 hozzáadás és 0 törlés
  1. 2 0
      src/llama_recipes/utils/train_utils.py

+ 2 - 0
src/llama_recipes/utils/train_utils.py

@@ -103,6 +103,8 @@ def train(model, train_dataloader,eval_dataloader, tokenizer, optimizer, lr_sche
     val_loss =[]
 
     if train_config.save_metrics:
+        if not os.path.exists(train_config.output_dir):
+            os.makedirs(train_config.output_dir, exist_ok=True)
         metrics_filename = f"{train_config.output_dir}/metrics_data_{local_rank}-{datetime.now().strftime('%Y-%m-%d_%H-%M-%S')}.json"
         train_step_perplexity = []
         train_step_loss = []