ソースを参照

fix bedrock issue (#2776)

### What problem does this PR solve?

#2722

### Type of change

- [x] Bug Fix (non-breaking change which fixes an issue)
tags/v0.13.0
Kevin Hu 1年前
コミット
29f022c91c
コミッターのメールアドレスに関連付けられたアカウントが存在しません
1個のファイルの変更2行の追加2行の削除
  1. 2
    2
      rag/llm/chat_model.py

+ 2
- 2
rag/llm/chat_model.py ファイルの表示

@@ -661,7 +661,7 @@ class BedrockChat(Base):
modelId=self.model_name,
messages=history,
inferenceConfig=gen_conf,
system=[{"text": system}] if system else None,
system=[{"text": (system if system else "Answer the user's message.")}]
)
ans = response["output"]["message"]["content"][0]["text"]
return ans, num_tokens_from_string(ans)
@@ -676,7 +676,7 @@ class BedrockChat(Base):
modelId=self.model_name,
messages=history,
inferenceConfig=gen_conf,
system=[{"text": system if system else ""}],
system=[{"text": (system if system else "Answer the user's message.")}]
)

# Extract and print the streamed response text in real-time.

読み込み中…
キャンセル
保存