Переглянути джерело

fix: change model mode. (#1520)

tags/0.3.30
Garfield Dai 1 рік тому
джерело
коміт
8835435558
Аккаунт користувача з таким Email не знайдено
2 змінених файлів з 1 додано та 5 видалено
  1. 0
    2
      api/core/completion.py
  2. 1
    3
      api/core/prompt/prompt_transform.py

+ 0
- 2
api/core/completion.py Переглянути файл

@@ -277,7 +277,6 @@ class Completion:
if app_model_config.prompt_type == 'simple':
prompt_messages, stop_words = prompt_transform.get_prompt(
app_mode=mode,
app_model_config=app_model_config,
pre_prompt=app_model_config.pre_prompt,
inputs=inputs,
query=query,
@@ -366,7 +365,6 @@ class Completion:
if app_model_config.prompt_type == 'simple':
prompt_messages, _ = prompt_transform.get_prompt(
app_mode=mode,
app_model_config=app_model_config,
pre_prompt=app_model_config.pre_prompt,
inputs=inputs,
query=query,

+ 1
- 3
api/core/prompt/prompt_transform.py Переглянути файл

@@ -27,7 +27,6 @@ class AppMode(enum.Enum):
class PromptTransform:
def get_prompt(self,
app_mode: str,
app_model_config: AppModelConfig,
pre_prompt: str,
inputs: dict,
query: str,
@@ -36,10 +35,9 @@ class PromptTransform:
memory: Optional[BaseChatMemory],
model_instance: BaseLLM) -> \
Tuple[List[PromptMessage], Optional[List[str]]]:
model_mode = app_model_config.model_dict['mode']

app_mode_enum = AppMode(app_mode)
model_mode_enum = ModelMode(model_mode)
model_mode_enum = model_instance.model_mode

prompt_rules = self._read_prompt_rules_from_file(self._prompt_file_name(app_mode, model_instance))


Завантаження…
Відмінити
Зберегти