Kai Wu dac9594757 changed readme.md and parameters.json to support llama3 vllm benchmark hace 2 años
..
chat_vllm_benchmark.py 367e4869ac Reorg inference throughput folder structure hace 2 años
input.jsonl 367e4869ac Reorg inference throughput folder structure hace 2 años
parameters.json dac9594757 changed readme.md and parameters.json to support llama3 vllm benchmark hace 2 años
pretrained_vllm_benchmark.py 367e4869ac Reorg inference throughput folder structure hace 2 años