ragflow

English | 简体中文 | 日本語 | 한국어 | Bahasa Indonesia

Document | Roadmap | Twitter | Discord | Demo

💡 RAGFlow とは？

RAGFlow は、深い文書理解に基づいたオープンソースの RAG (Retrieval-Augmented Generation) エンジンである。LLM（大規模言語モデル）を組み合わせることで、様々な複雑なフォーマットのデータから根拠のある引用に裏打ちされた、信頼できる質問応答機能を実現し、あらゆる規模のビジネスに適した RAG ワークフローを提供します。

🎮 Demo

デモをお試しください：https://demo.ragflow.io。

🔥 最新情報

2024-11-01 再現の精度を向上させるために、解析されたチャンクにキーワード抽出と関連質問の生成を追加しました。
2024-09-13 ナレッジベース Q&A の検索モードを追加しました。
2024-09-09 エージェントに医療相談テンプレートを追加しました。
2024-08-22 RAG を介して SQL ステートメントへのテキストをサポートします。
2024-08-02 graphrag からインスピレーションを得た GraphRAG とマインドマップをサポートします。

🎉 続きを楽しみに

⭐️ リポジトリをスター登録して、エキサイティングな新機能やアップデートを最新の状態に保ちましょう！すべての新しいリリースに関する即時通知を受け取れます！ 🌟

🌟 主な特徴

🍭 “Quality in, quality out”

複雑な形式の非構造化データからの深い文書理解ベースの知識抽出。
無限のトークンから”干し草の山の中の針”を見つける。

🍱 テンプレートベースのチャンク化

知的で解釈しやすい。
テンプレートオプションが豊富。

🌱 ハルシネーションが軽減された根拠のある引用

可視化されたテキストチャンキング（text chunking）で人間の介入を可能にする。
重要な参考文献のクイックビューと、追跡可能な引用によって根拠ある答えをサポートする。

🍔 多様なデータソースとの互換性

Word、スライド、Excel、txt、画像、スキャンコピー、構造化データ、Web ページなどをサポート。

🛀 自動化された楽な RAG ワークフロー

個人から大企業まで対応できる RAG オーケストレーション（orchestration）。
カスタマイズ可能な LLM とエンベッディングモデル。
複数の想起と融合された再ランク付け。
直感的な API によってビジネスとの統合がシームレスに。

🔎 システム構成

🎬 初期設定

📝 必要条件

CPU >= 4 cores
RAM >= 16 GB
Disk >= 50 GB
Docker >= 24.0.0 & Docker Compose >= v2.26.1 > ローカルマシン（Windows、Mac、または Linux）に Docker をインストールしていない場合は、Docker Engine のインストールを参照してください。

🚀 サーバーを起動

vm.max_map_count >= 262144 であることを確認する:

vm.max_map_count の値をチェックするには:

   > $ sysctl vm.max_map_count
   > ```
   >
   > `vm.max_map_count` が 262144 より大きい値でなければリセットする。
   >
   > ```bash
   > # In this case, we set it to 262144:
   > $ sudo sysctl -w vm.max_map_count=262144
   > ```
   >
   > この変更はシステム再起動後にリセットされる。変更を恒久的なものにするには、**/etc/sysctl.conf** の `vm.max_map_count` 値を適宜追加または更新する:
   >
   > ```bash
   > vm.max_map_count=262144
   > ```

2. リポジトリをクローンする:

   ```bash
   $ git clone https://github.com/infiniflow/ragflow.git

ビルド済みの Docker イメージをビルドし、サーバーを起動する:

以下のコマンドは、RAGFlow slim（dev-slim）の開発版Dockerイメージをダウンロードします。RAGFlow slimのDockerイメージには、埋め込みモデルやPythonライブラリが含まれていないため、サイズは約1GBです。

   $ cd ragflow/docker
   $ docker compose -f docker-compose.yml up -d

特定のバージョンのRAGFlow slim Dockerイメージをダウンロードするには、docker/.env内のRAGFlow_IMAGE変数を希望のバージョンに更新します。例えば、RAGFLOW_IMAGE=infiniflow/ragflow:v0.13.0とします。この変更を行った後、上記のコマンドを再実行してダウンロードを開始してください。

RAGFlowの埋め込みモデルとPythonライブラリを含む開発版Dockerイメージをダウンロードするには、docker/.env内のRAGFlow_IMAGE変数をRAGFLOW_IMAGE=infiniflow/ragflow:devに更新します。この変更を行った後、上記のコマンドを再実行してダウンロードを開始してください。

特定のバージョンのRAGFlow Dockerイメージ（埋め込みモデルとPythonライブラリを含む）をダウンロードするには、docker/.env内のRAGFlow_IMAGE変数を希望のバージョンに更新します。例えば、RAGFLOW_IMAGE=infiniflow/ragflow:v0.13.0とします。この変更を行った後、上記のコマンドを再実行してダウンロードを開始してください。

NOTE: 埋め込みモデルとPythonライブラリを含むRAGFlow Dockerイメージのサイズは約9GBであり、読み込みにかなりの時間がかかる場合があります。

サーバーを立ち上げた後、サーバーの状態を確認する:

   $ docker logs -f ragflow-server

以下の出力は、システムが正常に起動したことを確認するものです:

        ____   ___    ______ ______ __               
       / __ \ /   |  / ____// ____// /____  _      __
      / /_/ // /| | / / __ / /_   / // __ \| | /| / /
     / _, _// ___ |/ /_/ // __/  / // /_/ /| |/ |/ / 
    /_/ |_|/_/  |_|\____//_/    /_/ \____/ |__/|__/  

    * Running on all addresses (0.0.0.0)
    * Running on http://127.0.0.1:9380
    * Running on http://x.x.x.x:9380
    INFO:werkzeug:Press CTRL+C to quit

もし確認ステップをスキップして直接 RAGFlow にログインした場合、その時点で RAGFlow が完全に初期化されていない可能性があるため、ブラウザーがネットワーク異常エラーを表示するかもしれません。

ウェブブラウザで、プロンプトに従ってサーバーの IP アドレスを入力し、RAGFlow にログインします。 > デフォルトの設定を使用する場合、デフォルトの HTTP サービングポート 80 は省略できるので、与えられたシナリオでは、http://IP_OF_YOUR_MACHINE（ポート番号は省略）だけを入力すればよい。
service_conf.yaml で、user_default_llm で希望の LLM ファクトリを選択し、API_KEY フィールドを対応する API キーで更新する。

詳しくは llm_api_key_setup を参照してください。

これで初期設定完了！ショーの開幕です！

🔧 コンフィグ

システムコンフィグに関しては、以下のファイルを管理する必要がある:

.env: SVR_HTTP_PORT、MYSQL_PASSWORD、MINIO_PASSWORD などのシステムの基本設定を保持する。
service_conf.yaml: バックエンドのサービスを設定します。
docker-compose.yml: システムの起動は docker-compose.yml に依存している。

.env ファイルの変更が service_conf.yaml ファイルの内容と一致していることを確認する必要があります。

./docker/README ファイルは環境設定とサービスコンフィグの詳細な説明を提供し、./docker/README ファイルに記載されている全ての環境設定が service_conf.yaml ファイルの対応するコンフィグと一致していることを確認することが義務付けられています。

デフォルトの HTTP サービングポート(80)を更新するには、docker-compose.yml にアクセスして、80:80 を <YOUR_SERVING_PORT>:80 に変更します。

すべてのシステム設定のアップデートを有効にするには、システムの再起動が必要です:

> $ docker compose -f docker/docker-compose.yml up -d
> ```

## 🔧 ソースコードでDockerイメージを作成（埋め込みモデルなし）

この Docker イメージのサイズは約 1GB で、外部の大モデルと埋め込みサービスに依存しています。

```bash
git clone https://github.com/infiniflow/ragflow.git
cd ragflow/
pip3 install huggingface-hub nltk
python3 download_deps.py
docker build -f Dockerfile.slim -t infiniflow/ragflow:dev-slim .

🔧 ソースコードをコンパイルしたDockerイメージ（埋め込みモデルを含む）

この Docker のサイズは約 9GB で、埋め込みモデルを含むため、外部の大モデルサービスのみが必要です。

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/
pip3 install huggingface-hub nltk
python3 download_deps.py
docker build -f Dockerfile -t infiniflow/ragflow:dev .

🔨 ソースコードからサービスを起動する方法

Poetry をインストールする。すでにインストールされている場合は、このステップをスキップしてください:
```
curl -sSL https://install.python-poetry.org | python3 -
```

ソースコードをクローンし、Python の依存関係をインストールする:

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/
export POETRY_VIRTUALENVS_CREATE=true POETRY_VIRTUALENVS_IN_PROJECT=true
~/.local/bin/poetry install --sync --no-root # install RAGFlow dependent python modules

Docker Compose を使用して依存サービス（MinIO、Elasticsearch、Redis、MySQL）を起動する:
```
docker compose -f docker/docker-compose-base.yml up -d
```

/etc/hosts に以下の行を追加して、docker/service_conf.yaml に指定されたすべてのホストを 127.0.0.1 に解決します:

   127.0.0.1       es01 infinity mysql minio redis

docker/service_conf.yaml で mysql のポートを 5455 に、es のポートを 1200 に更新します（docker/.env に指定された通り）.

HuggingFace にアクセスできない場合は、HF_ENDPOINT 環境変数を設定してミラーサイトを使用してください:

   export HF_ENDPOINT=https://hf-mirror.com

バックエンドサービスを起動する:

source .venv/bin/activate
export PYTHONPATH=$(pwd)
bash docker/launch_backend_service.sh

フロントエンドの依存関係をインストールする:
```
cd web
npm install --force
```
フロントエンドを設定し、.umirc.ts の proxy.target を http://127.0.0.1:9380 に更新します:
フロントエンドサービスを起動する:
```
npm run dev 
```

以下の画面で、システムが正常に起動したことを示します:

📚 ドキュメンテーション

📜 ロードマップ

RAGFlow ロードマップ 2024 を参照

🏄 コミュニティ

🙌 コントリビュート

RAGFlow はオープンソースのコラボレーションによって発展してきました。この精神に基づき、私たちはコミュニティからの多様なコントリビュートを受け入れています。参加を希望される方は、まずコントリビューションガイドをご覧ください。

README_ja.md 15KB Raw Blame 히스토리