Ver código fonte

Updated model names for OctoAI

varunfb 11 meses atrás
pai
commit
eeb45e5f2c
1 arquivos alterados com 3 adições e 2 exclusões
  1. 3 2
      src/llama_recipes/inference/llm.py

+ 3 - 2
src/llama_recipes/inference/llm.py

@@ -187,6 +187,7 @@ class OctoAI(LLM):
     @override
     def valid_models(self) -> list[str]:
         return [
-            "llamaguard-7b",
-            "llama-2-13b-chat",
+            "llamaguard-2-8b",
+            "meta-llama-3-8b-instruct",
+            "meta-llama-3-70b-instruct",        
         ]