浏览代码

fix qwen-vl blocking mode (#13052)

tags/0.15.3
heyszt 9 个月前
父节点
当前提交
6c31ee36cd
没有帐户链接到提交者的电子邮件
共有 1 个文件被更改,包括 5 次插入1 次删除
  1. 5
    1
      api/core/model_runtime/model_providers/tongyi/llm/llm.py

+ 5
- 1
api/core/model_runtime/model_providers/tongyi/llm/llm.py 查看文件

@@ -219,8 +219,12 @@ class TongyiLargeLanguageModel(LargeLanguageModel):
if response.status_code not in {200, HTTPStatus.OK}:
raise ServiceUnavailableError(response.message)
# transform assistant message to prompt message
resp_content = response.output.choices[0].message.content
# special for qwen-vl
if isinstance(resp_content, list):
resp_content = resp_content[0]["text"]
assistant_prompt_message = AssistantPromptMessage(
content=response.output.choices[0].message.content,
content=resp_content,
)

# transform usage

正在加载...
取消
保存