Commit Verlauf

Autor SHA1 Nachricht Datum
  Hamid Shojanazeri 8601ae14ea extend word list vor 2 Jahren
  Hamid Shojanazeri 44ef280d31 adding flash attention and xformer memory efficient through PT SDPA vor 2 Jahren
  Philipp Parzer e6329a1fac Fix filename typo vor 2 Jahren
  luoyifan 79d0d4fc4e fix some typos. vor 2 Jahren
  lchu c453b668fa add doc example about using low_cpu_fsdp vor 2 Jahren
  Geeta Chauhan dd57dc5cf9 Update spellcheck.sh (#88) vor 2 Jahren
  lchu 80a4c36707 further fix #90 vor 2 Jahren
  lchu 0c51b47262 fix #90 vor 2 Jahren
  lchu c19c5c69aa fix fsdp construction on low_cpu_fsdp vor 2 Jahren
  lchu e216c6f1f3 address #87 vor 2 Jahren
  sekyonda 59b59afe88 Update spellcheck.sh vor 2 Jahren
  lchu 895dfcea30 add nightly check for using low_cpu_fsdp mode vor 2 Jahren
  Hamid Shojanazeri 9b0eae4056 add max_pad length as an arg vor 2 Jahren
  Hamid Shojanazeri 6beadcd8dd adding padding to inference script with embedding size changing vor 2 Jahren
  lchu 1e64fc98d9 switch to simpler param_init_fn and meta device init vor 2 Jahren
  lchu 101391f46a Revert "replace init_empty_weights with torch.device(meta)" vor 2 Jahren
  lchu c8d4f38d23 replace init_empty_weights with torch.device(meta) vor 2 Jahren
  lchu d8a81bb531 save cpu mem by leveraging FSDP rank0 broadcasting vor 2 Jahren
  Geeta Chauhan 1387b76e11 fixing the full state path in checkpoint handler+loss report calculation (#51) vor 2 Jahren
  Hamid Shojanazeri 88d3e1febc fix the save_train_param condition vor 2 Jahren
  Hamid Shojanazeri b56028c98d fixing the word list/spell check vor 2 Jahren
  Hamid Shojanazeri 62be60355a resolving conflicts vor 2 Jahren
  Geeta Chauhan 174b856591 update README: python 3.9 rec + fix formatting (#63) vor 2 Jahren
  Geeta Chauhan 0cd5694a14 Fsdp inference checkpoints (#39) vor 2 Jahren
  Hamid Shojanazeri c4e96af6ee clean up vor 2 Jahren
  Christian Miller 7c1884c690 recommend python 3.9 vor 2 Jahren
  Hamid Shojanazeri 7d2e06821e fixing the path to script vor 2 Jahren
  Hamid Shojanazeri 5f97db8f0c fix spell check word list vor 2 Jahren
  Hamid Shojanazeri 017cadd04b Merge branch 'checkpoint_handler_path_fix' of https://github.com/facebookresearch/llama-recipes into checkpoint_handler_path_fix vor 2 Jahren
  Hamid Shojanazeri 4f70348b94 remove the redundant lr step vor 2 Jahren