소스 검색

fix: wrong token number when using qa_model and answer is updated. (#21574)

tags/1.5.1
NeatGuyCoding 4 달 전
부모
커밋
33f0457a23
No account linked to committer's email address
1개의 변경된 파일1개의 추가작업 그리고 0개의 파일을 삭제
  1. 1
    0
      api/services/dataset_service.py

+ 1
- 0
api/services/dataset_service.py 파일 보기

@@ -2207,6 +2207,7 @@ class SegmentService:

# calc embedding use tokens
if document.doc_form == "qa_model":
segment.answer = args.answer
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content + segment.answer])[0]
else:
tokens = embedding_model.get_text_embedding_num_tokens(texts=[content])[0]

Loading…
취소
저장