Quellcode durchsuchen

fix: wrong token number when using qa_model and answer is updated. (#21574)

tags/1.5.1
NeatGuyCoding vor 4 Monaten
Ursprung
Commit
33f0457a23
Es ist kein Account mit der E-Mail-Adresse des Committers verbunden
1 geänderte Dateien mit 1 neuen und 0 gelöschten Zeilen
  1. 1
    0
      api/services/dataset_service.py

+ 1
- 0
api/services/dataset_service.py Datei anzeigen

@@ -2207,6 +2207,7 @@ class SegmentService:

# calc embedding use tokens
if document.doc_form == "qa_model":
segment.answer = args.answer
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content + segment.answer])[0]
else:
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content])[0]

Laden…
Abbrechen
Speichern