Kezdőlap Felfedezés Súgó
Bejelentkezés
radu
/
LLamaRecipes
tükrözi: https://github.com/facebookresearch/llama-recipes.git
Figyelés 1
Kedvenc 0
Másolás 0
Fájlok Problémák 0 Wiki
Branch: Remove-Tokenizer-onPrem-vllm-InferenceThroughput
Branch-ok Tag-ek
LLamaRecipes
/
recipes
/
benchmarks
/
inference_throughput
/
on-prem
/
vllm
Chester Hu 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 éve
..
chat_vllm_benchmark.py 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 éve
input.jsonl 367e4869ac Reorg inference throughput folder structure 1 éve
parameters.json 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 éve
pretrained_vllm_benchmark.py 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 éve