Halaman utama Jelajahi Bantuan
Masuk
radu
/
LLamaRecipes
cermin dari https://github.com/facebookresearch/llama-recipes.git
Liatin 1
Bintangi 0
Fork 0
Berkas Masalah 0 Wiki
Cabang: Remove-Tokenizer-onPrem-vllm-InferenceThroughput
Ranting Tag
LLamaRecipes
/
recipes
/
benchmarks
/
inference_throughput
/
on-prem
/
vllm
Chester Hu 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 tahun lalu
..
chat_vllm_benchmark.py 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 tahun lalu
input.jsonl 367e4869ac Reorg inference throughput folder structure 1 tahun lalu
parameters.json 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 tahun lalu
pretrained_vllm_benchmark.py 816b25fc8f Remove local tokenizer requirement for vllm on prem throughput benchmark 1 tahun lalu