|
hace 1 año | |
---|---|---|
.. | ||
chat_vllm_benchmark.py | 367e4869ac Reorg inference throughput folder structure | hace 1 año |
input.jsonl | 367e4869ac Reorg inference throughput folder structure | hace 1 año |
parameters.json | dac9594757 changed readme.md and parameters.json to support llama3 vllm benchmark | hace 1 año |
pretrained_vllm_benchmark.py | 367e4869ac Reorg inference throughput folder structure | hace 1 año |