Переглянути джерело

fix batch size error for qianwen embedding (#2431)

### What problem does this PR solve?

#2402

### Type of change

- [x] Bug Fix (non-breaking change which fixes an issue)
tags/v0.11.0
Kevin Hu 1 рік тому
джерело
коміт
3044cb85fd
Аккаунт користувача з таким Email не знайдено
1 змінених файлів з 1 додано та 0 видалено
  1. 1
    0
      rag/llm/embedding_model.py

+ 1
- 0
rag/llm/embedding_model.py Переглянути файл



def encode(self, texts: list, batch_size=10): def encode(self, texts: list, batch_size=10):
import dashscope import dashscope
batch_size = min(batch_size, 4)
try: try:
res = [] res = []
token_count = 0 token_count = 0

Завантаження…
Відмінити
Зберегти