You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

README_ja.md 14KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293
  1. <div align="center">
  2. <a href="https://demo.ragflow.io/">
  3. <img src="web/src/assets/logo-with-text.png" width="350" alt="ragflow logo">
  4. </a>
  5. </div>
  6. <p align="center">
  7. <a href="./README.md">English</a> |
  8. <a href="./README_zh.md">简体中文</a> |
  9. <a href="./README_ja.md">日本語</a> |
  10. <a href="./README_ko.md">한국어</a>
  11. </p>
  12. <p align="center">
  13. <a href="https://github.com/infiniflow/ragflow/releases/latest">
  14. <img src="https://img.shields.io/github/v/release/infiniflow/ragflow?color=blue&label=Latest%20Release" alt="Latest Release">
  15. </a>
  16. <a href="https://demo.ragflow.io" target="_blank">
  17. <img alt="Static Badge" src="https://img.shields.io/badge/Online-Demo-4e6b99"></a>
  18. <a href="https://hub.docker.com/r/infiniflow/ragflow" target="_blank">
  19. <img src="https://img.shields.io/badge/docker_pull-ragflow:v0.10.0-brightgreen"
  20. alt="docker pull infiniflow/ragflow:v0.10.0"></a>
  21. <a href="https://github.com/infiniflow/ragflow/blob/main/LICENSE">
  22. <img height="21" src="https://img.shields.io/badge/License-Apache--2.0-ffffff?labelColor=d4eaf7&color=2e6cc4" alt="license">
  23. </a>
  24. </p>
  25. <h4 align="center">
  26. <a href="https://ragflow.io/docs/dev/">Document</a> |
  27. <a href="https://github.com/infiniflow/ragflow/issues/162">Roadmap</a> |
  28. <a href="https://twitter.com/infiniflowai">Twitter</a> |
  29. <a href="https://discord.gg/4XxujFgUN7">Discord</a> |
  30. <a href="https://demo.ragflow.io">Demo</a>
  31. </h4>
  32. ## 💡 RAGFlow とは?
  33. [RAGFlow](https://ragflow.io/) は、深い文書理解に基づいたオープンソースの RAG (Retrieval-Augmented Generation) エンジンである。LLM(大規模言語モデル)を組み合わせることで、様々な複雑なフォーマットのデータから根拠のある引用に裏打ちされた、信頼できる質問応答機能を実現し、あらゆる規模のビジネスに適した RAG ワークフローを提供します。
  34. ## 🎮 Demo
  35. デモをお試しください:[https://demo.ragflow.io](https://demo.ragflow.io)。
  36. <div align="center" style="margin-top:20px;margin-bottom:20px;">
  37. <img src="https://github.com/infiniflow/ragflow/assets/7248/2f6baa3e-1092-4f11-866d-36f6a9d075e5" width="1200"/>
  38. <img src="https://github.com/infiniflow/ragflow/assets/12318111/b083d173-dadc-4ea9-bdeb-180d7df514eb" width="1200"/>
  39. </div>
  40. ## 🔥 最新情報
  41. - 2024-08-22 RAG を介して SQL ステートメントへのテキストをサポートします。
  42. - 2024-08-02 [graphrag](https://github.com/microsoft/graphrag) からインスピレーションを得た GraphRAG とマインド マップをサポートします。
  43. - 2024-07-23 音声ファイルの解析をサポートしました。
  44. - 2024-07-21 より多くの LLM サプライヤー (LocalAI/OpenRouter/StepFun/Nvidia) をサポートします。
  45. - 2024-07-18 グラフにコンポーネント(Wikipedia/PubMed/Baidu/Duckduckgo)を追加しました。
  46. - 2024-07-08 [Graph](./graph/README.md) ベースのワークフローをサポート
  47. - 2024-06-27 Q&A解析方式はMarkdownファイルとDocxファイルをサポートしています。
  48. - 2024-06-27 Docxファイルからの画像の抽出をサポートします。
  49. - 2024-06-27 Markdownファイルからテーブルを抽出することをサポートします。
  50. - 2024-06-06 会話設定でデフォルトでチェックされている [Self-RAG](https://huggingface.co/papers/2310.11511) をサポートします。
  51. - 2024-05-30 [BCE](https://github.com/netease-youdao/BCEmbedding) 、[BGE](https://github.com/FlagOpen/FlagEmbedding) reranker を統合。
  52. - 2024-05-23 より良いテキスト検索のために [RAPTOR](https://arxiv.org/html/2401.18059v1) をサポート。
  53. - 2024-05-15 OpenAI GPT-4oを統合しました。
  54. ## 🌟 主な特徴
  55. ### 🍭 **"Quality in, quality out"**
  56. - 複雑な形式の非構造化データからの[深い文書理解](./deepdoc/README.md)ベースの知識抽出。
  57. - 無限のトークンから"干し草の山の中の針"を見つける。
  58. ### 🍱 **テンプレートベースのチャンク化**
  59. - 知的で解釈しやすい。
  60. - テンプレートオプションが豊富。
  61. ### 🌱 **ハルシネーションが軽減された根拠のある引用**
  62. - 可視化されたテキストチャンキング(text chunking)で人間の介入を可能にする。
  63. - 重要な参考文献のクイックビューと、追跡可能な引用によって根拠ある答えをサポートする。
  64. ### 🍔 **多様なデータソースとの互換性**
  65. - Word、スライド、Excel、txt、画像、スキャンコピー、構造化データ、Web ページなどをサポート。
  66. ### 🛀 **自動化された楽な RAG ワークフロー**
  67. - 個人から大企業まで対応できる RAG オーケストレーション(orchestration)。
  68. - カスタマイズ可能な LLM とエンベッディングモデル。
  69. - 複数の想起と融合された再ランク付け。
  70. - 直感的な API によってビジネスとの統合がシームレスに。
  71. ## 🔎 システム構成
  72. <div align="center" style="margin-top:20px;margin-bottom:20px;">
  73. <img src="https://github.com/infiniflow/ragflow/assets/12318111/d6ac5664-c237-4200-a7c2-a4a00691b485" width="1000"/>
  74. </div>
  75. ## 🎬 初期設定
  76. ### 📝 必要条件
  77. - CPU >= 4 cores
  78. - RAM >= 16 GB
  79. - Disk >= 50 GB
  80. - Docker >= 24.0.0 & Docker Compose >= v2.26.1
  81. > ローカルマシン(Windows、Mac、または Linux)に Docker をインストールしていない場合は、[Docker Engine のインストール](https://docs.docker.com/engine/install/) を参照してください。
  82. ### 🚀 サーバーを起動
  83. 1. `vm.max_map_count` >= 262144 であることを確認する:
  84. > `vm.max_map_count` の値をチェックするには:
  85. >
  86. > ```bash
  87. > $ sysctl vm.max_map_count
  88. > ```
  89. >
  90. > `vm.max_map_count` が 262144 より大きい値でなければリセットする。
  91. >
  92. > ```bash
  93. > # In this case, we set it to 262144:
  94. > $ sudo sysctl -w vm.max_map_count=262144
  95. > ```
  96. >
  97. > この変更はシステム再起動後にリセットされる。変更を恒久的なものにするには、**/etc/sysctl.conf** の `vm.max_map_count` 値を適宜追加または更新する:
  98. >
  99. > ```bash
  100. > vm.max_map_count=262144
  101. > ```
  102. 2. リポジトリをクローンする:
  103. ```bash
  104. $ git clone https://github.com/infiniflow/ragflow.git
  105. ```
  106. 3. ビルド済みの Docker イメージをビルドし、サーバーを起動する:
  107. ```bash
  108. $ cd ragflow/docker
  109. $ chmod +x ./entrypoint.sh
  110. $ docker compose up -d
  111. ```
  112. > 上記のコマンドを実行すると、RAGFlowの開発版dockerイメージが自動的にダウンロードされます。 特定のバージョンのDockerイメージをダウンロードして実行したい場合は、docker/.envファイルのRAGFLOW_VERSION変数を見つけて、対応するバージョンに変更してください。 例えば、RAGFLOW_VERSION=v0.10.0として、上記のコマンドを実行してください。
  113. > コアイメージのサイズは約 9 GB で、ロードに時間がかかる場合があります。
  114. 4. サーバーを立ち上げた後、サーバーの状態を確認する:
  115. ```bash
  116. $ docker logs -f ragflow-server
  117. ```
  118. _以下の出力は、システムが正常に起動したことを確認するものです:_
  119. ```bash
  120. ____ ______ __
  121. / __ \ ____ _ ____ _ / ____// /____ _ __
  122. / /_/ // __ `// __ `// /_ / // __ \| | /| / /
  123. / _, _// /_/ // /_/ // __/ / // /_/ /| |/ |/ /
  124. /_/ |_| \__,_/ \__, //_/ /_/ \____/ |__/|__/
  125. /____/
  126. * Running on all addresses (0.0.0.0)
  127. * Running on http://127.0.0.1:9380
  128. * Running on http://x.x.x.x:9380
  129. INFO:werkzeug:Press CTRL+C to quit
  130. ```
  131. > もし確認ステップをスキップして直接 RAGFlow にログインした場合、その時点で RAGFlow が完全に初期化されていない可能性があるため、ブラウザーがネットワーク異常エラーを表示するかもしれません。
  132. 5. ウェブブラウザで、プロンプトに従ってサーバーの IP アドレスを入力し、RAGFlow にログインします。
  133. > デフォルトの設定を使用する場合、デフォルトの HTTP サービングポート `80` は省略できるので、与えられたシナリオでは、`http://IP_OF_YOUR_MACHINE`(ポート番号は省略)だけを入力すればよい。
  134. 6. [service_conf.yaml](./docker/service_conf.yaml) で、`user_default_llm` で希望の LLM ファクトリを選択し、`API_KEY` フィールドを対応する API キーで更新する。
  135. > 詳しくは [llm_api_key_setup](https://ragflow.io/docs/dev/llm_api_key_setup) を参照してください。
  136. _これで初期設定完了!ショーの開幕です!_
  137. ## 🔧 コンフィグ
  138. システムコンフィグに関しては、以下のファイルを管理する必要がある:
  139. - [.env](./docker/.env): `SVR_HTTP_PORT`、`MYSQL_PASSWORD`、`MINIO_PASSWORD` などのシステムの基本設定を保持する。
  140. - [service_conf.yaml](./docker/service_conf.yaml): バックエンドのサービスを設定します。
  141. - [docker-compose.yml](./docker/docker-compose.yml): システムの起動は [docker-compose.yml](./docker/docker-compose.yml) に依存している。
  142. [.env](./docker/.env) ファイルの変更が [service_conf.yaml](./docker/service_conf.yaml) ファイルの内容と一致していることを確認する必要があります。
  143. > [./docker/README](./docker/README.md) ファイルは環境設定とサービスコンフィグの詳細な説明を提供し、[./docker/README](./docker/README.md) ファイルに記載されている全ての環境設定が [service_conf.yaml](./docker/service_conf.yaml) ファイルの対応するコンフィグと一致していることを確認することが義務付けられています。
  144. デフォルトの HTTP サービングポート(80)を更新するには、[docker-compose.yml](./docker/docker-compose.yml) にアクセスして、`80:80` を `<YOUR_SERVING_PORT>:80` に変更します。
  145. > すべてのシステム設定のアップデートを有効にするには、システムの再起動が必要です:
  146. >
  147. > ```bash
  148. > $ docker-compose up -d
  149. > ```
  150. ## 🛠️ ソースからビルドする
  151. ソースからDockerイメージをビルドするには:
  152. ```bash
  153. $ git clone https://github.com/infiniflow/ragflow.git
  154. $ cd ragflow/
  155. $ docker build -t infiniflow/ragflow:v0.10.0 .
  156. $ cd ragflow/docker
  157. $ chmod +x ./entrypoint.sh
  158. $ docker compose up -d
  159. ```
  160. ## 🛠️ ソースコードからサービスを起動する方法
  161. ソースコードからサービスを起動する場合は、以下の手順に従ってください:
  162. 1. リポジトリをクローンします
  163. ```bash
  164. $ git clone https://github.com/infiniflow/ragflow.git
  165. $ cd ragflow/
  166. ```
  167. 2. 仮想環境を作成します(AnacondaまたはMinicondaがインストールされていることを確認してください)
  168. ```bash
  169. $ conda create -n ragflow python=3.11.0
  170. $ conda activate ragflow
  171. $ pip install -r requirements.txt
  172. ```
  173. CUDAのバージョンが12.0以上の場合、以下の追加コマンドを実行してください:
  174. ```bash
  175. $ pip uninstall -y onnxruntime-gpu
  176. $ pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/
  177. ```
  178. 3. エントリースクリプトをコピーし、環境変数を設定します
  179. ```bash
  180. $ cp docker/entrypoint.sh .
  181. $ vi entrypoint.sh
  182. ```
  183. 以下のコマンドで Python のパスとragflowプロジェクトのパスを取得します:
  184. ```bash
  185. $ which python
  186. $ pwd
  187. ```
  188. `which python` の出力を `PY` の値として、`pwd` の出力を `PYTHONPATH` の値として設定します。
  189. `LD_LIBRARY_PATH` が既に設定されている場合は、コメントアウトできます。
  190. ```bash
  191. # 実際の状況に応じて設定を調整してください。以下の二つの export は新たに追加された設定です
  192. PY=${PY}
  193. export PYTHONPATH=${PYTHONPATH}
  194. # オプション:Hugging Face ミラーを追加
  195. export HF_ENDPOINT=https://hf-mirror.com
  196. ```
  197. 4. 基本サービスを起動します
  198. ```bash
  199. $ cd docker
  200. $ docker compose -f docker-compose-base.yml up -d
  201. ```
  202. 5. 設定ファイルを確認します
  203. **docker/.env** 内の設定が**conf/service_conf.yaml**内の設定と一致していることを確認してください。**service_conf.yaml**内の関連サービスのIPアドレスとポートは、ローカルマシンのIPアドレスとコンテナが公開するポートに変更する必要があります。
  204. 6. サービスを起動します
  205. ```bash
  206. $ chmod +x ./entrypoint.sh
  207. $ bash ./entrypoint.sh
  208. ```
  209. ## 📚 ドキュメンテーション
  210. - [Quickstart](https://ragflow.io/docs/dev/)
  211. - [User guide](https://ragflow.io/docs/dev/category/user-guides)
  212. - [References](https://ragflow.io/docs/dev/category/references)
  213. - [FAQ](https://ragflow.io/docs/dev/faq)
  214. ## 📜 ロードマップ
  215. [RAGFlow ロードマップ 2024](https://github.com/infiniflow/ragflow/issues/162) を参照
  216. ## 🏄 コミュニティ
  217. - [Discord](https://discord.gg/4XxujFgUN7)
  218. - [Twitter](https://twitter.com/infiniflowai)
  219. - [GitHub Discussions](https://github.com/orgs/infiniflow/discussions)
  220. ## 🙌 コントリビュート
  221. RAGFlow はオープンソースのコラボレーションによって発展してきました。この精神に基づき、私たちはコミュニティからの多様なコントリビュートを受け入れています。 参加を希望される方は、まず [コントリビューションガイド](./docs/references/CONTRIBUTING.md)をご覧ください。