Ver código fonte

Update embedding_model.py (#8836)

### What problem does this PR solve?

Remove useless covert for bge encode_queries

### Type of change

- [x] Performance Improvement
tags/v0.20.0
Stephen Hu 3 meses atrás
pai
commit
5fa6f2f151
Nenhuma conta vinculada ao e-mail do autor do commit
1 arquivos alterados com 1 adições e 1 exclusões
  1. 1
    1
      rag/llm/embedding_model.py

+ 1
- 1
rag/llm/embedding_model.py Ver arquivo

@@ -114,7 +114,7 @@ class DefaultEmbedding(Base):

def encode_queries(self, text: str):
token_count = num_tokens_from_string(text)
return self._model.encode_queries([text]).tolist()[0], token_count
return self._model.encode_queries([text], convert_to_numpy=False)[0][0].cpu().numpy(), token_count


class OpenAIEmbed(Base):

Carregando…
Cancelar
Salvar