Pia Papanna
f9ba09166c
3p_integration folder updates
|
1 năm trước cách đây | |
|---|---|---|
| .. | ||
| aws | 1 năm trước cách đây | |
| azure | 1 năm trước cách đây | |
| groq | 1 năm trước cách đây | |
| lamini | 1 năm trước cách đây | |
| octoai | 1 năm trước cách đây | |
| tgi | 1 năm trước cách đây | |
| vllm | 1 năm trước cách đây | |
| README.md | 1 năm trước cách đây | |
| llama_on_prem.md | 1 năm trước cách đây | |
| using_externally_hosted_llms.ipynb | 1 năm trước cách đây | |
README.md
Running Llama 3 On-Prem with vLLM and TGI
This tutorial shows how to use Llama 3 with vLLM and Hugging Face TGI to build Llama 3 on-prem apps.