Przeglądaj źródła

fix incorrect indent in TokenBufferMemory (#25215)

tags/2.0.0-beta.2
Will 1 miesiąc temu
rodzic
commit
110b6a0863
No account linked to committer's email address
1 zmienionych plików z 4 dodań i 4 usunięć
  1. 4
    4
      api/core/memory/token_buffer_memory.py

+ 4
- 4
api/core/memory/token_buffer_memory.py Wyświetl plik

@@ -167,11 +167,11 @@ class TokenBufferMemory:
else:
prompt_messages.append(AssistantPromptMessage(content=message.answer))

if not prompt_messages:
return []
if not prompt_messages:
return []

# prune the chat message if it exceeds the max token limit
curr_message_tokens = self.model_instance.get_llm_num_tokens(prompt_messages)
# prune the chat message if it exceeds the max token limit
curr_message_tokens = self.model_instance.get_llm_num_tokens(prompt_messages)

if curr_message_tokens > max_token_limit:
while curr_message_tokens > max_token_limit and len(prompt_messages) > 1:

Ładowanie…
Anuluj
Zapisz