Nevar pievienot vairāk kā 25 tēmas Tēmai ir jāsākas ar burtu vai ciparu, tā var saturēt domu zīmes ('-') un var būt līdz 35 simboliem gara.

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276
  1. <div align="center">
  2. <a href="https://demo.ragflow.io/">
  3. <img src="web/src/assets/logo-with-text.png" width="350" alt="ragflow logo">
  4. </a>
  5. </div>
  6. <p align="center">
  7. <a href="./README.md">English</a> |
  8. <a href="./README_zh.md">简体中文</a> |
  9. <a href="./README_ja.md">日本語</a>
  10. </p>
  11. <p align="center">
  12. <a href="https://github.com/infiniflow/ragflow/releases/latest">
  13. <img src="https://img.shields.io/github/v/release/infiniflow/ragflow?color=blue&label=Latest%20Release" alt="Latest Release">
  14. </a>
  15. <a href="https://demo.ragflow.io" target="_blank">
  16. <img alt="Static Badge" src="https://img.shields.io/badge/Online-Demo-4e6b99"></a>
  17. <a href="https://hub.docker.com/r/infiniflow/ragflow" target="_blank">
  18. <img src="https://img.shields.io/badge/docker_pull-ragflow:v0.6.0-brightgreen"
  19. alt="docker pull infiniflow/ragflow:v0.6.0"></a>
  20. <a href="https://github.com/infiniflow/ragflow/blob/main/LICENSE">
  21. <img height="21" src="https://img.shields.io/badge/License-Apache--2.0-ffffff?style=flat-square&labelColor=d4eaf7&color=2e6cc4" alt="license">
  22. </a>
  23. </p>
  24. ## 💡 RAGFlow とは?
  25. [RAGFlow](https://ragflow.io/) は、深い文書理解に基づいたオープンソースの RAG (Retrieval-Augmented Generation) エンジンである。LLM(大規模言語モデル)を組み合わせることで、様々な複雑なフォーマットのデータから根拠のある引用に裏打ちされた、信頼できる質問応答機能を実現し、あらゆる規模のビジネスに適した RAG ワークフローを提供します。
  26. ## 🎮 Demo
  27. デモをお試しください:[https://demo.ragflow.io](https://demo.ragflow.io)。
  28. ## 📌 最新情報
  29. - 2024-05-23 より良いテキスト検索のために[RAPTOR](https://arxiv.org/html/2401.18059v1)をサポート。
  30. - 2024-05-21 ストリーミング出力とテキストチャンク取得APIをサポート。
  31. - 2024-05-15 OpenAI GPT-4oを統合しました。
  32. - 2024-05-08 LLM DeepSeek-V2を統合しました。
  33. - 2024-04-26 「ファイル管理」機能を追加しました。
  34. - 2024-04-19 会話 API をサポートします ([詳細](./docs/references/api.md))。
  35. - 2024-04-16 [BCEmbedding](https://github.com/netease-youdao/BCEmbedding) から埋め込みモデル「bce-embedding-base_v1」を追加します。
  36. - 2024-04-16 [FastEmbed](https://github.com/qdrant/fastembed) は、軽量かつ高速な埋め込み用に設計されています。
  37. - 2024-04-11 ローカル LLM デプロイメント用に [Xinference](./docs/guides/deploy_local_llm.md) をサポートします。
  38. - 2024-04-10 メソッド「Laws」に新しいレイアウト認識モデルを追加します。
  39. - 2024-04-08 [Ollama](./docs/guides/deploy_local_llm.md) を使用した大規模モデルのローカライズされたデプロイメントをサポートします。
  40. - 2024-04-07 中国語インターフェースをサポートします。
  41. ## 🌟 主な特徴
  42. ### 🍭 **"Quality in, quality out"**
  43. - 複雑な形式の非構造化データからの[深い文書理解](./deepdoc/README.md)ベースの知識抽出。
  44. - 無限のトークンから"干し草の山の中の針"を見つける。
  45. ### 🍱 **テンプレートベースのチャンク化**
  46. - 知的で解釈しやすい。
  47. - テンプレートオプションが豊富。
  48. ### 🌱 **ハルシネーションが軽減された根拠のある引用**
  49. - 可視化されたテキストチャンキング(text chunking)で人間の介入を可能にする。
  50. - 重要な参考文献のクイックビューと、追跡可能な引用によって根拠ある答えをサポートする。
  51. ### 🍔 **多様なデータソースとの互換性**
  52. - Word、スライド、Excel、txt、画像、スキャンコピー、構造化データ、Web ページなどをサポート。
  53. ### 🛀 **自動化された楽な RAG ワークフロー**
  54. - 個人から大企業まで対応できる RAG オーケストレーション(orchestration)。
  55. - カスタマイズ可能な LLM とエンベッディングモデル。
  56. - 複数の想起と融合された再ランク付け。
  57. - 直感的な API によってビジネスとの統合がシームレスに。
  58. ## 🔎 システム構成
  59. <div align="center" style="margin-top:20px;margin-bottom:20px;">
  60. <img src="https://github.com/infiniflow/ragflow/assets/12318111/d6ac5664-c237-4200-a7c2-a4a00691b485" width="1000"/>
  61. </div>
  62. ## 🎬 初期設定
  63. ### 📝 必要条件
  64. - CPU >= 4 cores
  65. - RAM >= 16 GB
  66. - Disk >= 50 GB
  67. - Docker >= 24.0.0 & Docker Compose >= v2.26.1
  68. > ローカルマシン(Windows、Mac、または Linux)に Docker をインストールしていない場合は、[Docker Engine のインストール](https://docs.docker.com/engine/install/) を参照してください。
  69. ### 🚀 サーバーを起動
  70. 1. `vm.max_map_count` >= 262144 であることを確認する【[もっと](./docs/guides/max_map_count.md)】:
  71. > `vm.max_map_count` の値をチェックするには:
  72. >
  73. > ```bash
  74. > $ sysctl vm.max_map_count
  75. > ```
  76. >
  77. > `vm.max_map_count` が 262144 より大きい値でなければリセットする。
  78. >
  79. > ```bash
  80. > # In this case, we set it to 262144:
  81. > $ sudo sysctl -w vm.max_map_count=262144
  82. > ```
  83. >
  84. > この変更はシステム再起動後にリセットされる。変更を恒久的なものにするには、**/etc/sysctl.conf** の `vm.max_map_count` 値を適宜追加または更新する:
  85. >
  86. > ```bash
  87. > vm.max_map_count=262144
  88. > ```
  89. 2. リポジトリをクローンする:
  90. ```bash
  91. $ git clone https://github.com/infiniflow/ragflow.git
  92. ```
  93. 3. ビルド済みの Docker イメージをビルドし、サーバーを起動する:
  94. ```bash
  95. $ cd ragflow/docker
  96. $ chmod +x ./entrypoint.sh
  97. $ docker compose up -d
  98. ```
  99. > 上記のコマンドを実行すると、RAGFlowの開発版dockerイメージが自動的にダウンロードされます。 特定のバージョンのDockerイメージをダウンロードして実行したい場合は、docker/.envファイルのRAGFLOW_VERSION変数を見つけて、対応するバージョンに変更してください。 例えば、RAGFLOW_VERSION=v0.6.0として、上記のコマンドを実行してください。
  100. > コアイメージのサイズは約 9 GB で、ロードに時間がかかる場合があります。
  101. 4. サーバーを立ち上げた後、サーバーの状態を確認する:
  102. ```bash
  103. $ docker logs -f ragflow-server
  104. ```
  105. _以下の出力は、システムが正常に起動したことを確認するものです:_
  106. ```bash
  107. ____ ______ __
  108. / __ \ ____ _ ____ _ / ____// /____ _ __
  109. / /_/ // __ `// __ `// /_ / // __ \| | /| / /
  110. / _, _// /_/ // /_/ // __/ / // /_/ /| |/ |/ /
  111. /_/ |_| \__,_/ \__, //_/ /_/ \____/ |__/|__/
  112. /____/
  113. * Running on all addresses (0.0.0.0)
  114. * Running on http://127.0.0.1:9380
  115. * Running on http://x.x.x.x:9380
  116. INFO:werkzeug:Press CTRL+C to quit
  117. ```
  118. > もし確認ステップをスキップして直接 RAGFlow にログインした場合、その時点で RAGFlow が完全に初期化されていない可能性があるため、ブラウザーがネットワーク異常エラーを表示するかもしれません。
  119. 5. ウェブブラウザで、プロンプトに従ってサーバーの IP アドレスを入力し、RAGFlow にログインします。
  120. > デフォルトの設定を使用する場合、デフォルトの HTTP サービングポート `80` は省略できるので、与えられたシナリオでは、`http://IP_OF_YOUR_MACHINE`(ポート番号は省略)だけを入力すればよい。
  121. 6. [service_conf.yaml](./docker/service_conf.yaml) で、`user_default_llm` で希望の LLM ファクトリを選択し、`API_KEY` フィールドを対応する API キーで更新する。
  122. > 詳しくは [./docs/guides/llm_api_key_setup.md](./docs/guides/llm_api_key_setup.md) を参照してください。
  123. _これで初期設定完了!ショーの開幕です!_
  124. ## 🔧 コンフィグ
  125. システムコンフィグに関しては、以下のファイルを管理する必要がある:
  126. - [.env](./docker/.env): `SVR_HTTP_PORT`、`MYSQL_PASSWORD`、`MINIO_PASSWORD` などのシステムの基本設定を保持する。
  127. - [service_conf.yaml](./docker/service_conf.yaml): バックエンドのサービスを設定します。
  128. - [docker-compose.yml](./docker/docker-compose.yml): システムの起動は [docker-compose.yml](./docker/docker-compose.yml) に依存している。
  129. [.env](./docker/.env) ファイルの変更が [service_conf.yaml](./docker/service_conf.yaml) ファイルの内容と一致していることを確認する必要があります。
  130. > [./docker/README](./docker/README.md) ファイルは環境設定とサービスコンフィグの詳細な説明を提供し、[./docker/README](./docker/README.md) ファイルに記載されている全ての環境設定が [service_conf.yaml](./docker/service_conf.yaml) ファイルの対応するコンフィグと一致していることを確認することが義務付けられています。
  131. デフォルトの HTTP サービングポート(80)を更新するには、[docker-compose.yml](./docker/docker-compose.yml) にアクセスして、`80:80` を `<YOUR_SERVING_PORT>:80` に変更します。
  132. > すべてのシステム設定のアップデートを有効にするには、システムの再起動が必要です:
  133. >
  134. > ```bash
  135. > $ docker-compose up -d
  136. > ```
  137. ## 🛠️ ソースからビルドする
  138. ソースからDockerイメージをビルドするには:
  139. ```bash
  140. $ git clone https://github.com/infiniflow/ragflow.git
  141. $ cd ragflow/
  142. $ docker build -t infiniflow/ragflow:v0.6.0 .
  143. $ cd ragflow/docker
  144. $ chmod +x ./entrypoint.sh
  145. $ docker compose up -d
  146. ```
  147. ## 🛠️ ソースコードからサービスを起動する方法
  148. ソースコードからサービスを起動する場合は、以下の手順に従ってください:
  149. 1. リポジトリをクローンします
  150. ```bash
  151. $ git clone https://github.com/infiniflow/ragflow.git
  152. $ cd ragflow/
  153. ```
  154. 2. 仮想環境を作成します(AnacondaまたはMinicondaがインストールされていることを確認してください)
  155. ```bash
  156. $ conda create -n ragflow python=3.11.0
  157. $ conda activate ragflow
  158. $ pip install -r requirements.txt
  159. ```
  160. CUDAのバージョンが12.0以上の場合、以下の追加コマンドを実行してください:
  161. ```bash
  162. $ pip uninstall -y onnxruntime-gpu
  163. $ pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/
  164. ```
  165. 3. エントリースクリプトをコピーし、環境変数を設定します
  166. ```bash
  167. $ cp docker/entrypoint.sh .
  168. $ vi entrypoint.sh
  169. ```
  170. 以下のコマンドでPythonのパスとragflowプロジェクトのパスを取得します:
  171. ```bash
  172. $ which python
  173. $ pwd
  174. ```
  175. `which python`の出力を`PY`の値として、`pwd`の出力を`PYTHONPATH`の値として設定します。
  176. `LD_LIBRARY_PATH`が既に設定されている場合は、コメントアウトできます。
  177. ```bash
  178. # 実際の状況に応じて設定を調整してください。以下の二つのexportは新たに追加された設定です
  179. PY=${PY}
  180. export PYTHONPATH=${PYTHONPATH}
  181. # オプション:Hugging Faceミラーを追加
  182. export HF_ENDPOINT=https://hf-mirror.com
  183. ```
  184. 4. 基本サービスを起動します
  185. ```bash
  186. $ cd docker
  187. $ docker compose -f docker-compose-base.yml up -d
  188. ```
  189. 5. 設定ファイルを確認します
  190. **docker/.env**内の設定が**conf/service_conf.yaml**内の設定と一致していることを確認してください。**service_conf.yaml**内の関連サービスのIPアドレスとポートは、ローカルマシンのIPアドレスとコンテナが公開するポートに変更する必要があります。
  191. 6. サービスを起動します
  192. ```bash
  193. $ chmod +x ./entrypoint.sh
  194. $ bash ./entrypoint.sh
  195. ```
  196. ## 📚 ドキュメンテーション
  197. - [Quickstart](./docs/quickstart.md)
  198. - [FAQ](./docs/references/faq.md)
  199. ## 📜 ロードマップ
  200. [RAGFlow ロードマップ 2024](https://github.com/infiniflow/ragflow/issues/162) を参照
  201. ## 🏄 コミュニティ
  202. - [Discord](https://discord.gg/4XxujFgUN7)
  203. - [Twitter](https://twitter.com/infiniflowai)
  204. ## 🙌 コントリビュート
  205. RAGFlow はオープンソースのコラボレーションによって発展してきました。この精神に基づき、私たちはコミュニティからの多様なコントリビュートを受け入れています。 参加を希望される方は、まず[コントリビューションガイド](./docs/references/CONTRIBUTING.md)をご覧ください。