You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

README_ja.md 13KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286
  1. <div align="center">
  2. <a href="https://demo.ragflow.io/">
  3. <img src="web/src/assets/logo-with-text.png" width="350" alt="ragflow logo">
  4. </a>
  5. </div>
  6. <p align="center">
  7. <a href="./README.md">English</a> |
  8. <a href="./README_zh.md">简体中文</a> |
  9. <a href="./README_ja.md">日本語</a>
  10. </p>
  11. <p align="center">
  12. <a href="https://github.com/infiniflow/ragflow/releases/latest">
  13. <img src="https://img.shields.io/github/v/release/infiniflow/ragflow?color=blue&label=Latest%20Release" alt="Latest Release">
  14. </a>
  15. <a href="https://demo.ragflow.io" target="_blank">
  16. <img alt="Static Badge" src="https://img.shields.io/badge/Online-Demo-4e6b99"></a>
  17. <a href="https://hub.docker.com/r/infiniflow/ragflow" target="_blank">
  18. <img src="https://img.shields.io/badge/docker_pull-ragflow:v0.7.0-brightgreen"
  19. alt="docker pull infiniflow/ragflow:v0.7.0"></a>
  20. <a href="https://github.com/infiniflow/ragflow/blob/main/LICENSE">
  21. <img height="21" src="https://img.shields.io/badge/License-Apache--2.0-ffffff?labelColor=d4eaf7&color=2e6cc4" alt="license">
  22. </a>
  23. </p>
  24. <h4 align="center">
  25. <a href="https://ragflow.io/docs/dev/">Document</a> |
  26. <a href="https://github.com/infiniflow/ragflow/issues/162">Roadmap</a> |
  27. <a href="https://twitter.com/infiniflowai">Twitter</a> |
  28. <a href="https://discord.gg/4XxujFgUN7">Discord</a> |
  29. <a href="https://demo.ragflow.io">Demo</a>
  30. </h4>
  31. ## 💡 RAGFlow とは?
  32. [RAGFlow](https://ragflow.io/) は、深い文書理解に基づいたオープンソースの RAG (Retrieval-Augmented Generation) エンジンである。LLM(大規模言語モデル)を組み合わせることで、様々な複雑なフォーマットのデータから根拠のある引用に裏打ちされた、信頼できる質問応答機能を実現し、あらゆる規模のビジネスに適した RAG ワークフローを提供します。
  33. ## 🎮 Demo
  34. デモをお試しください:[https://demo.ragflow.io](https://demo.ragflow.io)。
  35. <div align="center" style="margin-top:20px;margin-bottom:20px;">
  36. <img src="https://github.com/infiniflow/ragflow/assets/7248/2f6baa3e-1092-4f11-866d-36f6a9d075e5" width="1200"/>
  37. </div>
  38. ## 📌 最新情報
  39. - 2024-06-14 Q&A 解析メソッドは PDF ファイルをサポートしています。
  40. - 2024-06-06 会話設定でデフォルトでチェックされている [Self-RAG](https://huggingface.co/papers/2310.11511) をサポートします。
  41. - 2024-05-30 [BCE](https://github.com/netease-youdao/BCEmbedding)、[BGE](https://github.com/FlagOpen/FlagEmbedding) reranker を統合。
  42. - 2024-05-28 LLM BaichuanとVolcanoArkを統合しました。
  43. - 2024-05-23 より良いテキスト検索のために[RAPTOR](https://arxiv.org/html/2401.18059v1)をサポート。
  44. - 2024-05-21 ストリーミング出力とテキストチャンク取得APIをサポート。
  45. - 2024-05-15 OpenAI GPT-4oを統合しました。
  46. - 2024-05-08 LLM DeepSeek-V2を統合しました。
  47. ## 🌟 主な特徴
  48. ### 🍭 **"Quality in, quality out"**
  49. - 複雑な形式の非構造化データからの[深い文書理解](./deepdoc/README.md)ベースの知識抽出。
  50. - 無限のトークンから"干し草の山の中の針"を見つける。
  51. ### 🍱 **テンプレートベースのチャンク化**
  52. - 知的で解釈しやすい。
  53. - テンプレートオプションが豊富。
  54. ### 🌱 **ハルシネーションが軽減された根拠のある引用**
  55. - 可視化されたテキストチャンキング(text chunking)で人間の介入を可能にする。
  56. - 重要な参考文献のクイックビューと、追跡可能な引用によって根拠ある答えをサポートする。
  57. ### 🍔 **多様なデータソースとの互換性**
  58. - Word、スライド、Excel、txt、画像、スキャンコピー、構造化データ、Web ページなどをサポート。
  59. ### 🛀 **自動化された楽な RAG ワークフロー**
  60. - 個人から大企業まで対応できる RAG オーケストレーション(orchestration)。
  61. - カスタマイズ可能な LLM とエンベッディングモデル。
  62. - 複数の想起と融合された再ランク付け。
  63. - 直感的な API によってビジネスとの統合がシームレスに。
  64. ## 🔎 システム構成
  65. <div align="center" style="margin-top:20px;margin-bottom:20px;">
  66. <img src="https://github.com/infiniflow/ragflow/assets/12318111/d6ac5664-c237-4200-a7c2-a4a00691b485" width="1000"/>
  67. </div>
  68. ## 🎬 初期設定
  69. ### 📝 必要条件
  70. - CPU >= 4 cores
  71. - RAM >= 16 GB
  72. - Disk >= 50 GB
  73. - Docker >= 24.0.0 & Docker Compose >= v2.26.1
  74. > ローカルマシン(Windows、Mac、または Linux)に Docker をインストールしていない場合は、[Docker Engine のインストール](https://docs.docker.com/engine/install/) を参照してください。
  75. ### 🚀 サーバーを起動
  76. 1. `vm.max_map_count` >= 262144 であることを確認する:
  77. > `vm.max_map_count` の値をチェックするには:
  78. >
  79. > ```bash
  80. > $ sysctl vm.max_map_count
  81. > ```
  82. >
  83. > `vm.max_map_count` が 262144 より大きい値でなければリセットする。
  84. >
  85. > ```bash
  86. > # In this case, we set it to 262144:
  87. > $ sudo sysctl -w vm.max_map_count=262144
  88. > ```
  89. >
  90. > この変更はシステム再起動後にリセットされる。変更を恒久的なものにするには、**/etc/sysctl.conf** の `vm.max_map_count` 値を適宜追加または更新する:
  91. >
  92. > ```bash
  93. > vm.max_map_count=262144
  94. > ```
  95. 2. リポジトリをクローンする:
  96. ```bash
  97. $ git clone https://github.com/infiniflow/ragflow.git
  98. ```
  99. 3. ビルド済みの Docker イメージをビルドし、サーバーを起動する:
  100. ```bash
  101. $ cd ragflow/docker
  102. $ chmod +x ./entrypoint.sh
  103. $ docker compose up -d
  104. ```
  105. > 上記のコマンドを実行すると、RAGFlowの開発版dockerイメージが自動的にダウンロードされます。 特定のバージョンのDockerイメージをダウンロードして実行したい場合は、docker/.envファイルのRAGFLOW_VERSION変数を見つけて、対応するバージョンに変更してください。 例えば、RAGFLOW_VERSION=v0.7.0として、上記のコマンドを実行してください。
  106. > コアイメージのサイズは約 9 GB で、ロードに時間がかかる場合があります。
  107. 4. サーバーを立ち上げた後、サーバーの状態を確認する:
  108. ```bash
  109. $ docker logs -f ragflow-server
  110. ```
  111. _以下の出力は、システムが正常に起動したことを確認するものです:_
  112. ```bash
  113. ____ ______ __
  114. / __ \ ____ _ ____ _ / ____// /____ _ __
  115. / /_/ // __ `// __ `// /_ / // __ \| | /| / /
  116. / _, _// /_/ // /_/ // __/ / // /_/ /| |/ |/ /
  117. /_/ |_| \__,_/ \__, //_/ /_/ \____/ |__/|__/
  118. /____/
  119. * Running on all addresses (0.0.0.0)
  120. * Running on http://127.0.0.1:9380
  121. * Running on http://x.x.x.x:9380
  122. INFO:werkzeug:Press CTRL+C to quit
  123. ```
  124. > もし確認ステップをスキップして直接 RAGFlow にログインした場合、その時点で RAGFlow が完全に初期化されていない可能性があるため、ブラウザーがネットワーク異常エラーを表示するかもしれません。
  125. 5. ウェブブラウザで、プロンプトに従ってサーバーの IP アドレスを入力し、RAGFlow にログインします。
  126. > デフォルトの設定を使用する場合、デフォルトの HTTP サービングポート `80` は省略できるので、与えられたシナリオでは、`http://IP_OF_YOUR_MACHINE`(ポート番号は省略)だけを入力すればよい。
  127. 6. [service_conf.yaml](./docker/service_conf.yaml) で、`user_default_llm` で希望の LLM ファクトリを選択し、`API_KEY` フィールドを対応する API キーで更新する。
  128. > 詳しくは [llm_api_key_setup](https://ragflow.io/docs/dev/llm_api_key_setup) を参照してください。
  129. _これで初期設定完了!ショーの開幕です!_
  130. ## 🔧 コンフィグ
  131. システムコンフィグに関しては、以下のファイルを管理する必要がある:
  132. - [.env](./docker/.env): `SVR_HTTP_PORT`、`MYSQL_PASSWORD`、`MINIO_PASSWORD` などのシステムの基本設定を保持する。
  133. - [service_conf.yaml](./docker/service_conf.yaml): バックエンドのサービスを設定します。
  134. - [docker-compose.yml](./docker/docker-compose.yml): システムの起動は [docker-compose.yml](./docker/docker-compose.yml) に依存している。
  135. [.env](./docker/.env) ファイルの変更が [service_conf.yaml](./docker/service_conf.yaml) ファイルの内容と一致していることを確認する必要があります。
  136. > [./docker/README](./docker/README.md) ファイルは環境設定とサービスコンフィグの詳細な説明を提供し、[./docker/README](./docker/README.md) ファイルに記載されている全ての環境設定が [service_conf.yaml](./docker/service_conf.yaml) ファイルの対応するコンフィグと一致していることを確認することが義務付けられています。
  137. デフォルトの HTTP サービングポート(80)を更新するには、[docker-compose.yml](./docker/docker-compose.yml) にアクセスして、`80:80` を `<YOUR_SERVING_PORT>:80` に変更します。
  138. > すべてのシステム設定のアップデートを有効にするには、システムの再起動が必要です:
  139. >
  140. > ```bash
  141. > $ docker-compose up -d
  142. > ```
  143. ## 🛠️ ソースからビルドする
  144. ソースからDockerイメージをビルドするには:
  145. ```bash
  146. $ git clone https://github.com/infiniflow/ragflow.git
  147. $ cd ragflow/
  148. $ docker build -t infiniflow/ragflow:v0.7.0 .
  149. $ cd ragflow/docker
  150. $ chmod +x ./entrypoint.sh
  151. $ docker compose up -d
  152. ```
  153. ## 🛠️ ソースコードからサービスを起動する方法
  154. ソースコードからサービスを起動する場合は、以下の手順に従ってください:
  155. 1. リポジトリをクローンします
  156. ```bash
  157. $ git clone https://github.com/infiniflow/ragflow.git
  158. $ cd ragflow/
  159. ```
  160. 2. 仮想環境を作成します(AnacondaまたはMinicondaがインストールされていることを確認してください)
  161. ```bash
  162. $ conda create -n ragflow python=3.11.0
  163. $ conda activate ragflow
  164. $ pip install -r requirements.txt
  165. ```
  166. CUDAのバージョンが12.0以上の場合、以下の追加コマンドを実行してください:
  167. ```bash
  168. $ pip uninstall -y onnxruntime-gpu
  169. $ pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/
  170. ```
  171. 3. エントリースクリプトをコピーし、環境変数を設定します
  172. ```bash
  173. $ cp docker/entrypoint.sh .
  174. $ vi entrypoint.sh
  175. ```
  176. 以下のコマンドでPythonのパスとragflowプロジェクトのパスを取得します:
  177. ```bash
  178. $ which python
  179. $ pwd
  180. ```
  181. `which python`の出力を`PY`の値として、`pwd`の出力を`PYTHONPATH`の値として設定します。
  182. `LD_LIBRARY_PATH`が既に設定されている場合は、コメントアウトできます。
  183. ```bash
  184. # 実際の状況に応じて設定を調整してください。以下の二つのexportは新たに追加された設定です
  185. PY=${PY}
  186. export PYTHONPATH=${PYTHONPATH}
  187. # オプション:Hugging Faceミラーを追加
  188. export HF_ENDPOINT=https://hf-mirror.com
  189. ```
  190. 4. 基本サービスを起動します
  191. ```bash
  192. $ cd docker
  193. $ docker compose -f docker-compose-base.yml up -d
  194. ```
  195. 5. 設定ファイルを確認します
  196. **docker/.env**内の設定が**conf/service_conf.yaml**内の設定と一致していることを確認してください。**service_conf.yaml**内の関連サービスのIPアドレスとポートは、ローカルマシンのIPアドレスとコンテナが公開するポートに変更する必要があります。
  197. 6. サービスを起動します
  198. ```bash
  199. $ chmod +x ./entrypoint.sh
  200. $ bash ./entrypoint.sh
  201. ```
  202. ## 📚 ドキュメンテーション
  203. - [Quickstart](https://ragflow.io/docs/dev/)
  204. - [User guide](https://ragflow.io/docs/dev/category/user-guides)
  205. - [References](https://ragflow.io/docs/dev/category/references)
  206. - [FAQ](https://ragflow.io/docs/dev/faq)
  207. ## 📜 ロードマップ
  208. [RAGFlow ロードマップ 2024](https://github.com/infiniflow/ragflow/issues/162) を参照
  209. ## 🏄 コミュニティ
  210. - [Discord](https://discord.gg/4XxujFgUN7)
  211. - [Twitter](https://twitter.com/infiniflowai)
  212. - [GitHub Discussions](https://github.com/orgs/infiniflow/discussions)
  213. ## 🙌 コントリビュート
  214. RAGFlow はオープンソースのコラボレーションによって発展してきました。この精神に基づき、私たちはコミュニティからの多様なコントリビュートを受け入れています。 参加を希望される方は、まず[コントリビューションガイド](./docs/references/CONTRIBUTING.md)をご覧ください。