Sfoglia il codice sorgente

fix: wrong token number when using qa_model and answer is updated. (#21574)

tags/1.5.1
NeatGuyCoding 4 mesi fa
parent
commit
33f0457a23
Nessun account collegato all'indirizzo email del committer
1 ha cambiato i file con 1 aggiunte e 0 eliminazioni
  1. 1
    0
      api/services/dataset_service.py

+ 1
- 0
api/services/dataset_service.py Vedi File

@@ -2207,6 +2207,7 @@ class SegmentService:

# calc embedding use tokens
if document.doc_form == "qa_model":
segment.answer = args.answer
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content + segment.answer])[0]
else:
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content])[0]

Loading…
Annulla
Salva