Parcourir la source

fix: wrong token number when using qa_model and answer is updated. (#21574)

tags/1.5.1
NeatGuyCoding il y a 4 mois
Parent
révision
33f0457a23
Aucun compte lié à l'adresse e-mail de l'auteur
1 fichiers modifiés avec 1 ajouts et 0 suppressions
  1. 1
    0
      api/services/dataset_service.py

+ 1
- 0
api/services/dataset_service.py Voir le fichier

@@ -2207,6 +2207,7 @@ class SegmentService:

# calc embedding use tokens
if document.doc_form == "qa_model":
segment.answer = args.answer
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content + segment.answer])[0]
else:
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content])[0]

Chargement…
Annuler
Enregistrer