Просмотр исходного кода

[Bug]: unnecessary auto-increment calculations in the tokens statistics of the chat model (#2969)

### What problem does this PR solve?

the details is shown in
https://github.com/infiniflow/ragflow/issues/2968

### Type of change

- [X] Bug Fix (non-breaking change which fixes an issue)

---------

Co-authored-by: Kevin Hu <kevinhu.sh@gmail.com>
tags/v0.13.0
Yinquan WANG 1 год назад
Родитель
Сommit
445dce4363
Аккаунт пользователя с таким Email не найден
1 измененных файлов: 0 добавлений и 1 удалений
  1. 0
    1
      rag/llm/chat_model.py

+ 0
- 1
rag/llm/chat_model.py Просмотреть файл

@@ -68,7 +68,6 @@ class Base(ABC):
resp.choices[0].delta.content = ""
ans += resp.choices[0].delta.content

total_tokens += 1
if not hasattr(resp, "usage") or not resp.usage:
total_tokens = (
total_tokens

Загрузка…
Отмена
Сохранить