Ver código fonte

fix: wrong token number when using qa_model and answer is updated. (#21574)

tags/1.5.1
NeatGuyCoding 4 meses atrás
pai
commit
33f0457a23
Nenhuma conta vinculada ao e-mail do autor do commit
1 arquivos alterados com 1 adições e 0 exclusões
  1. 1
    0
      api/services/dataset_service.py

+ 1
- 0
api/services/dataset_service.py Ver arquivo

@@ -2207,6 +2207,7 @@ class SegmentService:

# calc embedding use tokens
if document.doc_form == "qa_model":
segment.answer = args.answer
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content + segment.answer])[0]
else:
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content])[0]

Carregando…
Cancelar
Salvar