varunfb eeb45e5f2c Updated model names for OctoAI пре 11 месеци
..
__init__.py 207d2f80e9 Make code-llama and hf-tgi inference runnable as module пре 1 година
chat_utils.py 6d9d48d619 Use apply_chat_template instead of custom functions пре 1 година
checkpoint_converter_fsdp_hf.py 0e54f5634a use AutoTokenizer instead of LlamaTokenizer пре 11 месеци
llm.py eeb45e5f2c Updated model names for OctoAI пре 11 месеци
model_utils.py d51d2cce9c adding sdpa for flash attn пре 1 година
prompt_format_utils.py bcdb5b31fe Fixing quantization config. Removing prints пре 1 година
safety_utils.py f63ba19827 Fixing tokenizer used for llama 3. Changing quantization configs on safety_utils. пре 1 година