Переглянути джерело

Update embedding_model.py (#8836)

### What problem does this PR solve?

Remove useless covert for bge encode_queries

### Type of change

- [x] Performance Improvement
tags/v0.20.0
Stephen Hu 3 місяці тому
джерело
коміт
5fa6f2f151
Аккаунт користувача з таким Email не знайдено
1 змінених файлів з 1 додано та 1 видалено
  1. 1
    1
      rag/llm/embedding_model.py

+ 1
- 1
rag/llm/embedding_model.py Переглянути файл

@@ -114,7 +114,7 @@ class DefaultEmbedding(Base):

def encode_queries(self, text: str):
token_count = num_tokens_from_string(text)
return self._model.encode_queries([text]).tolist()[0], token_count
return self._model.encode_queries([text], convert_to_numpy=False)[0][0].cpu().numpy(), token_count


class OpenAIEmbed(Base):

Завантаження…
Відмінити
Зберегти