Parcourir la source

Updated model names for OctoAI

varunfb il y a 11 mois
Parent
commit
eeb45e5f2c
1 fichiers modifiés avec 3 ajouts et 2 suppressions
  1. 3 2
      src/llama_recipes/inference/llm.py

+ 3 - 2
src/llama_recipes/inference/llm.py

@@ -187,6 +187,7 @@ class OctoAI(LLM):
     @override
     def valid_models(self) -> list[str]:
         return [
-            "llamaguard-7b",
-            "llama-2-13b-chat",
+            "llamaguard-2-8b",
+            "meta-llama-3-8b-instruct",
+            "meta-llama-3-70b-instruct",        
         ]