Bläddra i källkod

fix: deepseek reports an error when using Response Format #11677 (#11678)

Co-authored-by: zhaobs <zhaobs@cailian.net>
tags/0.14.0
zhaobingshuang 10 månader sedan
förälder
incheckning
79801f5c30
Inget konto är kopplat till bidragsgivarens mejladress
1 ändrade filer med 3 tillägg och 0 borttagningar
  1. 3
    0
      api/core/model_runtime/model_providers/deepseek/llm/llm.py

+ 3
- 0
api/core/model_runtime/model_providers/deepseek/llm/llm.py Visa fil

@@ -24,6 +24,9 @@ class DeepseekLargeLanguageModel(OAIAPICompatLargeLanguageModel):
user: Optional[str] = None,
) -> Union[LLMResult, Generator]:
self._add_custom_parameters(credentials)
# {"response_format": "xx"} need convert to {"response_format": {"type": "xx"}}
if "response_format" in model_parameters:
model_parameters["response_format"] = {"type": model_parameters.get("response_format")}
return super()._invoke(model, credentials, prompt_messages, model_parameters, tools, stop, stream)

def validate_credentials(self, model: str, credentials: dict) -> None:

Laddar…
Avbryt
Spara