radu/LLamaRecipes @ c41709a5da7c4f084ebdf633ffd258afbcb2d32e

Pia Papanna 4344a420f2 recipes/quickstart folder updated		1 년 전
..
hf_text_generation_inference	4344a420f2 recipes/quickstart folder updated	1 년 전
lamini	66c89495da update recipes with lamini recipe	1 년 전
vllm	4344a420f2 recipes/quickstart folder updated	1 년 전
README.md	4344a420f2 recipes/quickstart folder updated	1 년 전
llama-on-prem.md	4344a420f2 recipes/quickstart folder updated	1 년 전

Running Llama 3 On-Prem with vLLM and TGI

This tutorial shows how to use Llama 3 with vLLM and Hugging Face TGI to build Llama 3 on-prem apps.