| .. |
|
hf-text-generation-inference
|
4767f09ecd
Initial commit
|
hace 2 años |
|
chat_completion.py
|
4767f09ecd
Initial commit
|
hace 2 años |
|
chat_utils.py
|
4767f09ecd
Initial commit
|
hace 2 años |
|
chats.json
|
4767f09ecd
Initial commit
|
hace 2 años |
|
inference.md
|
4767f09ecd
Initial commit
|
hace 2 años |
|
inference.py
|
15053268b4
adding dist checkpoint handler for signle gpu
|
hace 2 años |
|
model_utils.py
|
25b60ee835
adding fsdp checkpoint loading
|
hace 2 años |
|
safety_utils.py
|
4767f09ecd
Initial commit
|
hace 2 años |
|
samsum_prompt.txt
|
4767f09ecd
Initial commit
|
hace 2 años |
|
vLLM_inference.py
|
4767f09ecd
Initial commit
|
hace 2 años |
Hamid Shojanazeri
15053268b4
adding dist checkpoint handler for signle gpu