Atualizar src-py/renatoxsr/scripts/avaliar_dataset.py
This commit is contained in:
@@ -46,6 +46,7 @@ def get_llm_response(prompt_full: str) -> str:
|
|||||||
"num_predict": 8192, # Aumenta o limite de tokens
|
"num_predict": 8192, # Aumenta o limite de tokens
|
||||||
"num_ctx": 128000, # tamanho do contexto
|
"num_ctx": 128000, # tamanho do contexto
|
||||||
},
|
},
|
||||||
|
"stream": False,
|
||||||
"prompt": prompt_full,
|
"prompt": prompt_full,
|
||||||
}
|
}
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user