NeuralOS
GuideIntermediate

ごまかしなしのRAG · どんなときに本当に必要か(そしてどんなときにお金の無駄か)

このシリーズでここまで来たなら、あなたはもうAIに記憶を与え、作業を失わない方法を学びました。次の一段は、AIが大量の情報を扱わなければならないときに現れます:何十ものPDF、巨大なマニュアル、文字起こし、あなたのビジネスの基盤。そこでRAGが輝きます:毎回すべてをAIに入れる(トークンで高くつく)代わりに、関連する小さな断片だけを渡す—そこで大量のお金を節約します。でも、ほとんど誰も言わない気まずい真実があります:あなたの情報が小さいなら、RAGを組むのは自分をややこしくして余計に払うことです。このガイドでは、やさしい言葉でRAGとは何かを理解し、なぜトークンを節約するのか、どんなときに本当に必要かを知るための(Anthropic自身の)正確なルール、そしてあなたのレベルに応じて実装する三つの方法を学びます:コードなし、オープンソースのリポジトリで、そしてスーパーアプリケーションのRAG—私たちが使っているのと同じもの、内側から。ごまかしなしで、順番に、一歩ずつ。

Jun 19, 202612 min
シリーズのステップ3にいます
このガイドは、[AIのための記憶](/recursos/memoria-para-tu-ia-herramientas)(ステップ1)と[GitHub](/recursos/guarda-todo-en-github-antes-de-que-la-ia-lo-rompa)(あなたのセーフティネット)をすでに見たことを前提としています。ここでは一段上がります。情報が多すぎてチャットに収まらないときにどうするか。プログラミングは不要です。

いつ必要になるのか?(その正確な瞬間)

必要性はとても具体的な瞬間に生まれます。AIが大量の情報を一度に扱わなければならなくなり、失敗し始めたときです。典型的なサイン:30個のPDFをアップロードするとAIが半分を「忘れる」;長いマニュアルを貼りつけると内容を混ぜて答えたり作り話をする;あるいは同じ長大な文書を毎回の会話で貼り直さなければならない、保持してくれないから。そういうときに誰かがこう言うのです、「RAGが必要だね」と。

このガイドが立ち向かう二重の痛み
痛みは二つあって、一つではありません。一つ目:AIがあなたの長い文書を作り話したり無視したりする、あるいは全体を何度も何度も丸ごと突っ込んでトークンの請求額を跳ね上げる → 高くて信頼できない。二つ目は逆で:足りなくなるのを恐れて、必要でもないRAGを組んでしまう → インフラと複雑さがタダで付いてくる。うまく置いたRAGは一つ目を解決し(そして大いに節約する);まずく置くと二つ目になる。このガイドは的中させるためのルールを渡します。

やさしい言葉でのRAG(専門用語なしで)

RAGは「検索拡張生成(retrieval-augmented generation)」を意味します。ひどい響きですが、考え方はシンプルです:AIに毎回すべての文書を突っ込む(多いと高すぎて不可能)代わりに、文書は別に保管しておき、何かを質問したときに検索エンジンが関連する小さな断片だけを取り出してAIに渡し、それをもとに答えさせるのです。まず検索、それから回答。

こう想像してください・司書
RAGなしだと、質問するたびにAIに図書館全体を読ませるようなもの—遅く、高く、目が回る。RAGありだと、棚を知っている司書がいます:質問すると、行って、役に立つ3冊を持ってきて、AIはそれで答える。全部は読まず、ちょうど必要な分だけ持ってくる。

大きな追加の利点:AIはあなたの文書の具体的な断片をもとに答えるので、出典を引用できます(「これはマニュアルの12ページから」)。これこそが作り話を殺すのです:あなたの文書になければ、でっち上げません。

大きなメリット:RAGは(コーパスが大きいとき)大量のトークンを節約する

ここにRAGが存在する主な理由があり、それは小さくありません:お金の節約です。AIに入れる一語一語がトークンを消費し、トークンはお金がかかります。5,000ページの文書があって、それを毎回の質問に丸ごと貼りつけたら、大金を払うことになります(しかも多くの場合そもそも収まりません)。RAGはそれを解決します:5,000ページを送る代わりに、あなたの質問に本当に答える3、4個の小さな断片だけを送るのです。

それを説明する計算
RAGなし:5,000ページ × 各質問 = 毎回何千トークン。RAGあり:関連する断片だけ = 数百トークン。同じ結果を、コストのわずかな一部で。 だからRAGは、破産せずにAIに大きな情報へのアクセスを与える標準的な方法なのです。その節約は本物で、継続的です…あなたのコーパスが本当に大きい限り。小さければ、計算は逆転します(下の黄金律で見ます)。

なぜ「チャンク」と呼ばれるのか?(RAGの鍵となる部品)

チャンク(chunk)は英語で「かけら」や「一片」を意味します。RAGの中心的な部品なので、理解しておく価値があります。あなたの文書は丸ごと保管されるのではありません:小さな断片に切り刻まれ—各チャンクは通常一段落かその数段落くらい—各断片は一種の「その意味の指紋」とともに保管されます。

なぜ細切れにして文書を丸ごと保管しないのか?
なぜなら何かを質問したとき、RAGに300ページの本を持ってきてほしくないからです—欲しいのは答えとなる正確な段落です。チャンクに細切れにすることで、まさにそれを持ってこられます:役に立つ小さく精密な単位、文書全体ではなく。ノイズが減り、回答がより的確になり、トークンもはるかに少なくなります。これがRAGを精密かつ同時に安くしているのです。

黄金律・本当にRAGが必要か?

ここに、ほとんどどの「グル」も教えてくれないデータがあり、それはAnthropic自身(Claudeの作り手)から来ています。ルールは驚くほど寛大です:

Anthropicが言っていること、そのまま
「もしあなたのナレッジベースが200,000トークン(およそ500ページ分の資料)より小さければ、ナレッジベース全体をモデルに与えるプロンプトに単に含めるだけでよく、RAGは不要です。」 翻訳:もしあなたの資料全部が約500ページに収まるなら、RAGは要りません。全部をAIに貼りつければそれで終わり。よりシンプルで、より精密で、そして今日の「プロンプトキャッシング」を使えば、より安くもあります。

なぜそんなに重要なのか?なぜなら500ページは、ほとんどのプロジェクトにとって膨大だからです。あなたのブランドマニュアル、テンプレート、事業のポリシー、本を数冊…普通は収まります。そして収まるなら、RAGを組むのは理由なく人生を複雑にすることです。RAGは本当にそのサイズを超えるときのためのものです:巨大な図書館、何千もの文書、絶えず変わるデータ。

RAGが(本当に)必要なのは…
あなたの資料が約500ページに収まらない(何千もの文書、大きなデータベース、何年もの文字起こし)。
情報が頻繁に変わり、毎回全部を貼り直したくない。
大きなコーパスを参照する多数のユーザー向けアプリを作っている(例:あなたの全ドキュメントについて答えるアシスタント)。
体系的かつ大規模に出典への引用が必要。
RAGが要らないのは(面倒を省ける)…
あなたの資料が約500ページに収まる → コンテキストに貼りつける。プロンプトキャッシングがあれば、繰り返しても安い—RAGを組むより安い。
AIにあなたのルールとプロジェクトを覚えていてほしいだけ → それは記憶(ステップ1)であって、RAGではない。
たまに参照するほんの一握りの文書がある → 必要なときにチャットにアップロードする。
始めたばかり → ほぼ確実にRAGの一つか二つ下のステップにいる。
判断の習慣(もっとも大切なこと)
ステップを上がる前に、自分にこう問うのを反射にしましょう:「これは一つの会話に収まるか、それとも本当に多すぎるか?」 流行で上がってはいけません。シンプルに始めて(記憶/コンテキスト)、下のステップが本当に足りなくなったときだけRAGに上がる。その問いが、何度も何度もあなたの時間とお金を節約してくれます。

完全なはしご(RAGがどこにはまるか見えるように)

RAGは最初のステップでも最後のステップでもありません—はしごの一段です。順番に上がりましょう、流行で段を飛ばさずに:

シンプルから強力へ
1 · 記憶/コンテキスト — あなたのルールとプロジェクトをファイルかチャットに。ほぼすべてに。(シリーズのステップ1。)
2 · 全部貼る+キャッシング — 資料が約500ページに収まるなら、全部突っ込む。RAGなし。
3 · コードなしのRAG — 多すぎるとき:関連する断片を持ってくる検索エンジン。(このガイド。)
4 · 「本物の」RAG — 大規模なアプリ向け、ベクトルデータベース付き。オープンソース、多少の技術が要る。
5 · ナレッジグラフ — さらにAIにすべてがどうつながっているかを理解させる必要があるとき。(Graphify、最後に。)

RAGを実装する3つの方法(あなたのレベルに応じて選ぶ)

RAGを組む方法は一つではありません:三つあり、手間と力が少ないものから多いものへと並びます。大事なのは、もっとも見栄えのするものではなく、本当にあなたに合うものを選ぶことです。それらを挙げて、あとで一つずつ見ていきます:

あなたの三つの選択肢
方法1 · コードなし — 出来合いのツール(NotebookLM、Custom GPT)に文書をドラッグする。技術ゼロ。ほとんどの人向け。
方法2 · オープンソースのリポジトリで — RAGFlowやAnythingLLMのようなものをインストールし、完全なコントロール、無料。あなたのコードエージェントが手伝ってくれる。
方法3 · オーダーメイド(スーパーアプリケーション) — 大規模なアプリ向けに自前のエンジンを構築する。エンジニアレベル。私たちのものがどんなものか見せます。

方法1 · コードを一切書かずにRAGを組む(かんたんな道)

もしフィルターを通り抜けて、本当にRAGの番になったなら、良い知らせです:プログラミングもデータベースの構築も不要です。文書をドラッグするだけで、引用付きの賢い検索エンジンが手に入るツールがあります。今日、誰でも使える二つを:

NotebookLM(Google・無料)
文書(PDF、ウェブ、テキスト)を「ノートブック」にアップロードし、自然言語で質問します。各主張の正確な出典を引用して答えてくれます—作り話にさよなら。純粋なRAGです、RAGが何かを知る必要もなく。(サイズやソース数の上限はプランによって変わります;使うときに有効なものを確認してください。)
Custom GPT(ChatGPT・有料プラン)
GPTを作り、ファイルをアップロードすると、ChatGPTが内部で自動的に検索エンジンを組み立てます。あなたは話すだけ。すでにChatGPTを払っていて、あなたの文書を知るアシスタントが欲しいなら理想的です。
作り話を防ぐルール
コードなしのRAGを組んだら、必ずこの指示を与えてください:「私の文書にあることだけで答え、出典を引用すること;なければ作り話をせず、はっきりとそう言うこと」。それがあなたのRAGを、自信たっぷりの占い師ではなく、信頼できる情報源に変えます。

方法2 · オープンソースのリポジトリで(よりコントロール)

プロジェクトが成長したり、自前のサーバーでコントロールを握りたくなったりしたら、強力で無料のオープンソースツールがあります。非専門家に最もやさしい二つ(あなたのAIがインストールを手伝ってくれます):

infiniflow/ragflow
REPO

RAGFlow — 非開発者を念頭に置いた、業界をリードするオープンソースのRAGエンジン:パイプラインをビジュアルに組み立て、複雑な文書(Word、PDF、Excel、スキャン、画像)を理解します。出典への引用付きで答えます。RAGとエージェント機能を融合します。

PythonApache-2.0View on GitHub
Mintplex-Labs/anything-llm
REPO

AnythingLLM — あなたの文書についてRAG付きの自前チャットを持つための、ローカルでプライベートな「オールインワン」デスクトップアプリ。「知性をレンタルするのをやめて、自分のものにしよう。」データをマシンの外に出したくないなら理想的です。

JavaScriptMITView on GitHub
エージェントに貼りつける・リポジトリで本格的なRAGをインストールtexto
これらのリポジトリのどれかを使って、私の文書についてオープンソースのRAGを組みたい:
- RAGFlow (https://github.com/infiniflow/ragflow) — ビジュアルなRAG、完全なものが欲しいなら理想的。
- AnythingLLM (https://github.com/Mintplex-Labs/anything-llm) — デスクトップアプリ、ローカルでプライベート。

プログラミングを知らない前提で、簡単な言葉で一歩ずつ導いて:
1. 私のケースに応じてどちらが向くか選ぶのを手伝って:[あなたの文書を説明、すべてをローカル/プライベートにしたいか、あなたのOS]。
2. どうインストールするか教えて(その要件、例:Docker)、できるところは君がやって。
3. 私の文書をアップロードしてナレッジベースを作るのを手伝って。
4. 私の文書にあることだけで答え、常に出典を引用するように設定して。
5. 私の文書をちゃんと読んでいるか確認するためのテスト質問を3つちょうだい。

もし手作業でやらなきゃいけないステップがあれば、正確な指示とともに教えて。
あなたのコードエージェントに任せよう
Claude Codeのようなエージェントを使うなら、手作業で何もインストールしないでください:上のプロンプトが重い作業を彼に負わせます。あなたはリポジトリを選び、文書を提供し、確認するだけ。新しいものをインストールする前に、GitHubに進捗を保存するのを忘れずに(シリーズのGitHubガイドを参照)。

方法3 · スーパーアプリケーションのRAG(私たちのものはこう動く)

三つ目の方法は最も本格的です:スーパーアプリケーション—膨大な情報と多数のユーザーを持つプラットフォーム—を作るとき、どんな出来合いのツールも間に合いません。そこでは自前のRAGエンジンをオーダーメイドで構築します。エンジニアレベルです(あなた、またはコードエージェントを指揮するあなたのチームがやります)が、どこまで到達しうるか見えるように、ごまかしなしで内側を見せます:私たちのアプリケーションで使っているRAGエンジンはこう動きます。

注意・これはRAG、一つの部品—脳全体ではない
混同しないように大事なことをはっきりさせておきましょう:ここで見ているのは検索エンジン(RAG)で、これは一つの部品です。アプリの完全な「脳」—brainと呼ばれるもの—はもっとです:このRAGを各ユーザーの記憶と、時には接続のグラフと組み合わせます。RAGは「あなたの文書について何を知っているか」;brainは脳全体です。それはシリーズの次のリソースで見ます。
私たちのRAGの部品(本番稼働中)
ベクトルベース: pgvector拡張付きのPostgreSQL(Supabase上)+何十万ものベクトルの間を速く検索するHNSWインデックス。
エンベディング: 各チャンクを「意味の指紋」に変換するモデル—768次元のGemini、無料ティア(コスト $0)。
スケール: 15,000以上のチャンクをインデックス済み(文書、コード、ノート)—チャットに突っ込むのは不可能;ここではRAGは贅沢ではなく、唯一の方法。
ハイブリッド検索: 70%が意味による(ベクトル)+30%が正確な語による(テキスト)、最も関連性の高いものを上げる再ランキング付き。どちらか単独よりも的確。
自己修復するインデックス: システムが壊れたものを再インデックスし、古いものに印を付け、使えないものを捨てる—RAGは自力で健全に保たれる。(これは検索エンジンの保守であって、「ユーザーの記憶」ではない—それは別の部品、brainのもの。)
各約200トークンのチャンク: 「ちょうどの段落を持ってくる」と「コンテキストを失わない」の間の甘いサイズ。
これが教えてくれること
パターンに注目してください、これがシリーズ全体の教訓だからです:安く始めて(無料のエンベディング、すでに持っているデータベース)、スケールが要求したときだけ洗練させる(15,000以上の断片)。始めるのにこれは要りません—でも今、本当に大きなものを作るときRAGがどこまで育つか分かりました。下のステップが本当に足りなくなったときだけ、ステップを上がりましょう。
NeuralOSでは、このRAGエンジンは製品の一部
そのオーダーメイドのRAGエンジンこそ、私たちがNeuralOSに持ち込んでいるものです:各アプリ、各エージェントが、あなたがpgvectorもエンベディングも組まずに、大規模な自分の文書について自前の検索を持つ。ビジョンはすでにインターフェースに描かれています;クラウドのエンジンは私たちが構築している道の一部です。狙いは:あなたがエンジニアでなくても方法3を持てるように。
プロンプトの前に:正直な期待
方法3は一発で完璧に出てくるコピペではありません—それはごまかしを売ることになります。数日がかりのエンジニアリング・プロジェクトで、アーキテクチャの決定を伴います。だから下のプロンプトは「今すぐ作って」とは言いません:AIにプログラミングの前に設計させる建築家のプロンプトです。その順番—まずアーキテクチャを決め、あとでコードを書く—こそが、序盤の高くつく間違いを避けるものです。

オーダーメイドのRAGを構築するとき、コピーしてあなたのコードエージェント(Claude Code、Cursor)に貼りつけてください。私たちに効いている決定が組み込まれているので、即興ではなく堅い地盤の上から出発できます:

エージェントに貼りつける・オーダーメイドRAGの建築家(方法3)texto
大規模なアプリケーション向けにオーダーメイドのRAGを構築するのを手伝ってもらう。まだコードは書かないで。まず私と一緒に設計して、なぜなら一番高くつく間違いはアーキテクチャを決めずにコードを書くことだから。

ステップ1 — 私にインタビューして(一度に一つの質問、簡単な言葉で):
- RAGは何の情報をどれくらいインデックスする?(文書の種類、おおよその量)
- 何人のユーザーと、一日あたり何回のクエリを見込む?
- データは頻繁に変わる?チャンクを削除/更新する必要はある?
- マルチテナント(複数の顧客がデータを分離)?機密データはある?
- すでに使っているスタックは?(データベース、言語、どこにホスティングされているか)

ステップ2 — アーキテクチャを提案して、これらの実証済みの決定を出発点として使い(私のケースで変えたほうがいいか、なぜかも教えて):
- ベクトルベース:PostgreSQL + pgvector、HNSWインデックス付き(すでにPostgres/Supabaseを使っているなら再利用)。
- エンベディング:安価か無料のモデル(例:Gemini)、選んだ次元を保存する。
- チャンキング:約200トークンの断片、少し重なりを持たせ、メタデータ(出典、日付、セクション)を保存。
- ハイブリッド検索:ベクトル+正確なテキストを組み合わせ、最も関連性の高いものを上げる再ランキング。
- 分離:マルチテナントなら、各クエリで常に顧客のidでフィルタする。

ステップ3 — フェーズごとの計画をちょうだい(まず何を作り、何を後回しにするか)、最適化の前にエンドツーエンドで動く最小フェーズ付きで。

ステップ4 — 本番RAGでもっとも一般的な5つの間違いと、初日からそれを避ける方法を挙げて(例:テナントでフィルタしない、チャンクの切り方が悪い、更新を扱わない、出典を引用せず信じる、回答の質を測らない)。

計画を承認したら、そのときこそフェーズ1を一歩ずつ作り始め、動いた各フェーズでGitHubに進捗を保存する。
シリーズの残りと組み合わせよう
ここが、シリーズのすべてが集まる瞬間です:各フェーズをGitHub(あなたのセーフティネット)に保存し、フェーズを良しとする前にC-A-Rプロトコルで監査し、プロジェクトが巨大になったら、その上にグラフを乗せる(Graphify)。よくできた本番RAGは、それまでのすべてのステップに支えられています。

プロンプト1 · 診断 — RAGが必要か、それとも不要か?

何かを組む前に、あなたが本当にどのステップにいるかAIに言わせましょう。コピーしてChatGPT、Claude、あるいはあなたのエージェントに貼りつけてください:

あなたのAIに貼りつける・ステップの診断texto
本当にRAGが必要なのか、それとも自分が話をややこしくしているだけなのか知りたい。次の質問を一つずつして、私の答えを待って、最後に私がどのステップにいてなぜかを教えて:

1. 文書はおおよそ何個、どれくらいのサイズがある?(全ページ数のざっくりした見積もり)
2. その情報は頻繁に変わる、それとも安定している?
3. 各回答の出典を引用してほしい?
4. 自分だけのため、それとも多くの人が使うアプリのため?
5. 今日どのAIツールを使っている?

君の推奨のためのルール:
- 私の資料全部が約500ページ(およそ200,000トークン)に収まるなら、RAGは要らないと言って:全部コンテキストに貼れば、そのほうがシンプルで精密。
- 明らかにそれより多い、もしくは頻繁に変わる、もしくは多くのユーザー向けなら、RAGを勧めて、コードなしの道(NotebookLM / Custom GPT)で間に合うか、オープンソースが要るか教えて。
- 過剰設計に押しやらないで。私のケースを解決する最もシンプルなステップを勧めて、それを正当化して。

プロンプト2 · コードなしで作り話を防ぐミニRAGを組む

診断が「はい、コードなしのRAG」と言ったなら、このプロンプトが組み方を、そして何より本当にあなたの文書を読んでいて作り話をしていないかを検証するよう導きます:

あなたのAIに貼りつける・RAGを組んで検証するtexto
私の文書を参照するためにコードなしのRAGを組もうとしている。プログラミングを知らない前提で、簡単な言葉で一歩ずつ導いて。

1. 私のケースに応じてNotebookLM(無料)とChatGPTのCustom GPTのどちらがいいか勧めて:私は[あなたの文書を説明:何個、どんな種類、何のために参照するか]を持っている。
2. スペースを作って文書をアップロードする正確な手順(クリック付き)を教えて。
3. 私の文書にあることだけで答え、出典を引用し、作り話をする代わりに「文書にありません」とはっきり言うために設定すべき指示を書いて。
4. 本当に私の文書を読んでいる(一般的な記憶で答えていない)ことを確認するためのテスト質問を3つちょうだい。
5. 作り話をしているかどう気づくか、もしそうなったら何を調整すべきか教えて。

シンプルにして。もし何かを私がウェブでやるしかないなら、正確なクリック付きで教えて。

よくある間違い(あなたが陥らないように)

文書を貼るだけで足りたのにRAGを組む
間違いナンバーワン。資料がコンテキストに収まるなら、RAGは複雑さとコストを足すだけです。まず500ページのルール、そのあとに決める。
RAGと記憶を混同する
RAGはあなたの会話も好みも覚えません—それは記憶(ステップ1)です。RAGはあなたの文書の中を検索します。違うもので、補い合うもの、ライバルではありません。
引用を検証せずに信じる
RAGは間違った断片を持ってきて、とても自信ありげに聞こえることがあります。だからプロンプト2にはテスト質問が入っています:信じるけれど、出典を引用しているか、その出典が主張していることを実際に言っているか検証する。

次のステップ · 一つの部品から脳全体へ

RAGは強力な部品ですが、それは一つにすぎません:あなたの文書の中を検索する。本当のアプリを作るとき、そのアプリはさらに各ユーザーを覚えることと、時にはすべてがどうつながっているか理解することも必要とします。この三つを合わせたもの—RAG + 記憶 + グラフ—が、brainと呼ばれるもの、あなたのアプリ自身の脳を形づくります。それが次のリソースで、あなたが見てきたすべてを集めます。

brain · あなたのアプリに自前の脳を(次のステップ)
RAGはその部品の一つです。brainはそれらすべてを集めます:あなたのアプリが知っていることと、各ユーザーについて覚えていること。
あなたのAIの記憶 · ステップ1(飛ばしたなら)
RAGの前に、たいていあなたに必要なのはシンプルな記憶です。ここから始めましょう。
#rag#documentos#contexto#sin-codigo
Ready to build?

Start building in
under 3 minutes

Join 4,200+ builders. No credit card. Build your first app with AI in minutes.