社内RAGの構築費用｜9割は人件費で、AI利用料は数%でした

「社内の問い合わせ対応をAIチャットボットに任せたい」「マニュアルを探す時間をなくしたい」——生成AIの社内活用でまず名前が挙がるのが、この RAG（検索拡張生成） を使った社内ナレッジ検索です。

費用の話から入る記事が多いのですが、順番を変えます。先に言うと、RAGを検討している会社の相当数は「作らないほうがいい」側だと思います。月額数万円のSaaSで足りる要件に数百万円をかける、という構図になりやすいからです。

なので、この記事は「作るべきかを4つの条件で判断する」ところから始めます。相場（PoC 150〜500万円、小規模実装 300〜1,000万円）はその後に置きました。作ると決まった方は、費用の内訳のところまで読み飛ばしてください。

先に結論を言うと、この手の案件でいちばん高くつくのは初期構築費ではありません。 作ったあとに使われずに放置される時間です。費用の話の前に「作るべきかどうか」の分岐から入ります。

RAGチャットボットとは

RAGは、ChatGPTのような生成AIに「自社の文書」を参照させて回答させる仕組みです。業務マニュアル・議事録・規程集などを取り込んでおくと、社員の質問に対して根拠となる文書つきでAIが答えてくれます。

• 新人からの「これどうやるんでしたっけ？」対応が減る
• ベテランの頭の中にしかなかった知識を全員が使える
• SlackやTeamsから普段のチャット感覚で聞ける

技術的には「①質問に近い文書を検索する → ②見つけた文書を一緒に渡してAIに答えさせる」の2段構えです。AIに社内文書を覚え込ませている（学習させている）わけではないのがポイントで、だから文書を差し替えれば回答もその日から変わります。「学習に時間がかかりますよね？」という問いは検索でもよく見かけますが、そうではありません。

その前に：そもそも作るべきか

いちばん節約になるのは、作らないで済ませることです。判断は次の4点で決まります。

右の列に2つ以上当てはまらないなら、まずSaaS型のチャットボット（月額数万円〜）を試すべきです。 数十万円の年間コストで済むものに数百万円をかける理由はありません。逆に、右に3つ以上当てはまるならSaaSでは早晩詰まるので、最初から作るほうが結果的に安く済みます。

「試してから決める」は逃げではなく、正しい順序です。SaaSで2か月使うと、社員が実際にどんな質問をするのかというデータが手元に残ります。これは後で作る場合の要件定義そのものになるので、無駄になりません。

構築費用の相場（2026年）

AI専業ベンダーの見積もりは高めに出る傾向があり、大手に頼むと同じ構成でも1.5〜2倍になることもあります。この価格差は技術力の差というより、人月単価と多重下請け構造の差です。仕組みはシステム開発の見積もりはなぜ高いのかに書きました。

なお、この表の幅が広いのは相場が不安定だからではなく、「どこまでやるか」が案件ごとに違いすぎるからです。同じ「社内RAG」でも、PDFを50本入れるだけの構成と、権限管理つきで基幹システムを参照する構成では、別のシステムと言っていいほど作業量が違います。見積もりを比べるときは金額より先に、次章の内訳が揃っているかを見てください。

費用の内訳はほぼ人件費

RAG構築の費用は、サーバー代やAI利用料よりも設計と作り込みの人件費が大半を占めます。ざっくり、人件費が9割前後、インフラとAI利用料を合わせても数%という配分になります。

1. 文書の前処理（全体の3〜4割） — PDFやWordをAIが検索しやすい形に分割・整形する。ここの丁寧さが回答精度を決めます。スキャンPDFが混ざっていればOCRが要りますし、Excelの表は素直に分割すると意味が壊れるので個別対応になります。見積もりが安すぎる会社は、たいていこの工程を軽く見積もっています。
2. 検索と回答の設計（3割前後） — 質問の意図に合う文書を探し、根拠つきで答えさせる部分。「該当なし」と正直に答えさせる調整も含みます。
3. 管理画面・運用設計（2〜3割） — 文書の更新、回答ログの確認、精度改善の仕組み。
4. インフラ・AI利用料（数%） — 検索基盤とLLM APIの従量課金。月額では数千円〜数万円のオーダーに収まることが多く、初期費用の議論では誤差です。

「作って終わり」だと精度が上がらないまま使われなくなるので、運用しながら改善する前提で計画するのが重要です。逆に言えば、運用の話が出てこない見積もりは、その分だけ安く見えているだけです。

ランニングコストの内訳

見落とされがちですが、月々かかるのは次の3つです。

• AI利用料・検索基盤：数千円〜数万円／月（利用者数と質問数に比例）
• 保守：初期費用の10〜15%／年が一般的な目安
• 社内の運用工数：文書更新と回答ログ確認で月数時間。ここが実質的に最大のランニングコストで、担当者を決めずに始めた組織はほぼ確実に放置します。

「月額10〜50万円」と書いてある記事との差について

RAGの費用を調べると、月額の運用費として 10〜50万円 という数字を挙げている記事によく当たります。 上に書いた「数千円〜数万円」と桁が2つ違うので、ここは説明が要ると思います。

結論から言うと、両方とも間違っていません。数えているものが違います。 10〜50万円という金額は、 保守運用契約の月額——つまり人件費を含んだ委託費と読むのが自然です。一方こちらの数千円〜数万円は、 AIと検索基盤の従量課金の実費だけを指しています。

判断を誤らないために大事なのは、実費のほうは自分で計算できるという点です。やってみます。

1問あたりに流れるトークン（社内RAGの標準的な構成での目安）

単価（OpenAI 公式の料金表・2026年8月23日閲覧。gpt-5-mini）

gpt-5-mini: $0.25 input / $2.00 output（100万トークンあたり）

——Pricing｜OpenAI API（2026年8月23日閲覧）

1問あたり

• 入力：4,500 ÷ 1,000,000 × $0.25 = $0.001125
• 出力：400 ÷ 1,000,000 × $2.00 = $0.0008
• 合計：$0.0019／問（1ドル155円換算で 約0.3円）

月額（50人が1日4問・月20営業日 ＝ 4,000問）

• 4,000問 × 0.3円 ＝ 約1,200円／月

数千円という数字はこうして出てきます。検索基盤（ベクトル検索）を既存のPostgreSQLに載せるなら追加費用はほぼゼロ、 専用のマネージドサービスを使っても月数千円のレンジです。

なので、AI利用料を理由に導入を止める判断はほぼ成立しません。 止まる理由になるのは初期構築費と運用工数のほうです。

ただし、この計算が崩れる条件は3つあります。ここは見積もりの段階で確認しておいてください。

1. 取り込む文書を増やす（上位5件→20件にすると入力が4倍＝費用も約4倍）
2. 推論の重いモデルを使う（上の表の gpt-5.5 は入力$5.00・出力$30.00で、gpt-5-mini の20倍と15倍）
3. 質問数が桁で増える（社内50人と全社1,000人では単純に20倍）

3つ全部が重なると、月1,200円が月100万円近くになり得ます。桁が動くのは単価ではなく使い方のほうです。 自社の想定で上の式に数字を入れ替えてみると、見積書の月額が何を含んだ金額なのかを聞く準備ができます。

失敗する3つのパターン

RAG導入がうまくいかなかった、という話には型があります。公開されている導入事例や失敗談で繰り返し挙がるのは、次の3つです。

1. 最初から全社の文書を入れようとする

対象が広いほど「関係ない文書が混ざって精度が落ちる」「文書の権限整理が終わらず着手できない」の両方が起きます。問い合わせが多い1部門・1業務から始めるのが正解です。範囲を10分の1にすれば費用も期間もおおむね10分の1になりますが、体感できる効果は10分の1にはなりません。

2. 精度の目標が主観のまま進む

「もっと賢くしてほしい」は仕様になりません。着手前に想定質問を30〜50問リスト化し、「このうち何問に根拠つきで正答できたら合格か」を数字で決めてください。これがないと、検収がいつまでも終わらないか、逆に使えないまま検収が通ります。

3. 運用担当者を決めずに納品を迎える

文書が古くなればAIの回答も古くなります。「誰が」「どのタイミングで」文書を差し替えるのかを決めていないシステムは、半年で信用を失って使われなくなります。構築費より、この決めごとのほうが成否を分けます。

コストを抑える3つの方法

1. 対象を絞って小さく始める

全社の文書を最初から入れる必要はありません。問い合わせが多い1部門・1業務のマニュアルから始めれば、初期費用は大きく下がり、効果もすぐ確認できます。うまくいってから広げるほうが、社内の説得もはるかに楽になります。

2. マネージドサービスを活用する

いまはRAGの部品（ベクトル検索・LLM API）がクラウドサービスとして揃っています。Azure AI Search、Amazon Bedrock のナレッジベース、Google の Vertex AI Search などがそれにあたり、検索基盤を自前で構築する理由はほぼありません。組み合わせて業務に合わせ込むのが最短ルートです。

「独自のAIを開発します」という提案が来たら、何を独自に作るのかを具体的に聞いてください。多くの場合、独自に作る価値があるのは業務ロジックの部分だけで、検索やモデルそのものではありません。

3. AIフル活用の開発会社に頼む

開発プロセス自体にAIを組み込んでいる会社なら、同じ構成をより少ない工数で作れます。当社の場合、標準的な社内RAG（文書取込＋Slack連携＋管理画面）で中小の開発会社相場の約半額を目安にしています。

補助金は使えるのか（ここは正直に書きます）

「デジタル化・AI導入補助金（旧IT導入補助金）でRAGを作れませんか」とよく聞かれます。

オーダーメイドで開発してもらう場合、この補助金は使えません。対象になるのは事務局に登録されたITツール（パッケージ・サブスク型）で、カスタマイズが前提の受託開発は対象外という制度設計だからです。逆に言うと、SaaS型のチャットボットで登録済みのツールなら対象になり得ます。

ここは前章までの話と繋がります。補助金を当てにするなら、選択肢は自動的に「SaaSを使う」側に寄る。そして多くの会社はSaaSで足りる。であれば、補助金が使える構成のほうが素直です。

気をつけたいのは逆のパターンで、補助金が使えるほうに寄せて要件を歪めてしまうこと。基幹システムとの連携が本当に必要なのに、補助金対象のツールに合わせて連携を諦めた結果、二重入力が残った——という話を何度か聞いています。補助金は数十万〜数百万円の話ですが、業務が変わらないまま残るコストは毎年発生します。対象範囲の詳細はデジタル化・AI導入補助金2026の対象範囲と落とし穴にまとめました。

発注前に聞いておくべき5つの質問

見積もりを取るときは、金額より先にこれを揃えて聞くと各社の差が見えます。

1. 文書の前処理はどこまでやってもらえるか。 スキャンPDF・Excelの表・画像入り資料の扱いを具体的に。
2. 精度の合格ラインをどう定義するか。 想定質問リストで合意できるか。
3. 回答の根拠（出典）は必ず表示されるか。 出典なしのRAGは業務では使えません。
4. 文書更新の手順は誰が何分でできるか。 開発会社に依頼しないと更新できない構成は避けます。
5. 運用フェーズの費用と体制は。 保守範囲と、精度改善を含むかどうか。

この5問を同じ文面で各社に投げると、金額差の理由がはっきりします。比較の考え方は相見積もりの取り方にまとめました。

まず、概算を見てみる

自社のケースでいくらになるかは、文書の種類・量・連携先で変わります。当社の「AI見積もり」に作りたいものを入力すると、AIが約3分で概算を作成し、一般的な開発会社の相場と並べて表示します（無料・営業からのしつこい連絡なし）。

「そもそもRAGでいいのか分からない」という段階なら、お問い合わせから壁打ちのご相談も歓迎です。SaaSで足りると判断できればそうお伝えします。

---

出典・参考（2026年8月時点。料金は各社の公式ページで最新をご確認ください）

• Azure AI Search の価格（Microsoft）
• Amazon Bedrock の料金（AWS）
• Vertex AI Search の料金（Google Cloud）
• OpenAI API Pricing
• Anthropic Pricing
• ソフトウェア開発分析データ集（IPA）