Hamid Shojanazeri 557e881fcc aliginng the pad token with HF latest vor 2 Jahren
..
hf-text-generation-inference 4767f09ecd Initial commit vor 2 Jahren
chat_completion.py 557e881fcc aliginng the pad token with HF latest vor 2 Jahren
chat_utils.py 4767f09ecd Initial commit vor 2 Jahren
chats.json 4767f09ecd Initial commit vor 2 Jahren
inference.md 4767f09ecd Initial commit vor 2 Jahren
inference.py 7ec390bfc8 aliging special tokens in toeknizer with HF latest vor 2 Jahren
model_utils.py 4767f09ecd Initial commit vor 2 Jahren
safety_utils.py 4767f09ecd Initial commit vor 2 Jahren
samsum_prompt.txt 4767f09ecd Initial commit vor 2 Jahren
vLLM_inference.py 4767f09ecd Initial commit vor 2 Jahren