Просмотр исходного кода

Fix: in case response.choices[0].message.content is None. (#6190)

### What problem does this PR solve?

#6164

### Type of change

- [x] Bug Fix (non-breaking change which fixes an issue)
tags/v0.18.0
Kevin Hu 7 месяцев назад
Родитель
Сommit
7e4d693054
Аккаунт пользователя с таким Email не найден
1 измененных файлов: 1 добавлений и 2 удалений
  1. 1
    2
      rag/llm/chat_model.py

+ 1
- 2
rag/llm/chat_model.py Просмотреть файл

@@ -49,7 +49,7 @@ class Base(ABC):
model=self.model_name,
messages=history,
**gen_conf)
if not response.choices:
if any([not response.choices, not response.choices[0].message, not response.choices[0].message.content]):
return "", 0
ans = response.choices[0].message.content.strip()
if response.choices[0].finish_reason == "length":
@@ -184,7 +184,6 @@ class BaiChuanChat(Base):
def _format_params(params):
return {
"temperature": params.get("temperature", 0.3),
"max_tokens": params.get("max_tokens", 2048),
"top_p": params.get("top_p", 0.85),
}


Загрузка…
Отмена
Сохранить