ソースを参照

Remove <think> content for `Generate` if it's not stream output. (#5281)

### What problem does this PR solve?

### Type of change

- [x] Refactoring
tags/v0.17.0
Kevin Hu 8ヶ月前
コミット
bcc92e04c9
コミッターのメールアドレスに関連付けられたアカウントが存在しません
1個のファイルの変更1行の追加0行の削除
  1. 1
    0
      agent/component/generate.py

+ 1
- 0
agent/component/generate.py ファイルの表示

@@ -198,6 +198,7 @@ class Generate(ComponentBase):
if len(msg) < 2:
msg.append({"role": "user", "content": "Output: "})
ans = chat_mdl.chat(msg[0]["content"], msg[1:], self._param.gen_conf())
ans = re.sub(r"<think>.*</think>", "", ans, flags=re.DOTALL)

if self._param.cite and "content_ltks" in retrieval_res.columns and "vector" in retrieval_res.columns:
res = self.set_cite(retrieval_res, ans)

読み込み中…
キャンセル
保存