فهرست منبع

make max_tokens same - 10240

Jeff Tang 2 هفته پیش
والد
کامیت
9ac5dd12fb
1فایلهای تغییر یافته به همراه1 افزوده شده و 1 حذف شده
  1. 1 1
      end-to-end-use-cases/coding/text2sql/eval/llama_text2sql.py

+ 1 - 1
end-to-end-use-cases/coding/text2sql/eval/llama_text2sql.py

@@ -309,7 +309,7 @@ def collect_response_from_llama(
                 api_key=api_key,
                 model=model,
                 prompt=cur_prompt,
-                max_tokens=4096,
+                max_tokens=10240,
                 temperature=0,
                 stop=["--", "\n\n", ";", "#"],
             )