検索拡張生成の予算設計

社内文書RAGの費用とトークン数の計算方法

RAGの運用費は文書庫全体の容量だけでは決まりません。初回のインデックス作成と、質問ごとに繰り返す検索・生成を分け、実際にモデルへ渡す検索コンテキストから月額費用を見積もります。

初期費用と運用費を分ける

インデックス作成費用には、文書の解析、OCR、チャンク分割、埋め込み生成、ベクトルストレージへの保存が含まれます。初回は文書全体が対象ですが、その後は追加・変更された文書だけを処理できる構成もあります。

質問ごとの運用費には、ユーザーの質問、システム指示、会話履歴、検索されたチャンク、引用形式、回答出力が含まれます。検索や再ランキングを外部サービスで行う場合は、その呼び出し料金も別項目にします。

入力トークン＝システム指示＋質問＋会話履歴＋（検索チャンク数×実測した平均チャンク長）＋引用・ツール結果です。400トークンのチャンクを8件送る場合、検索コンテキストだけで約3,200入力トークンになります。

設定上のチャンク長とAPIへ届く長さは一致しない場合があります。タイトル、メタデータ、前後の重複、区切り文字も含め、代表的な日本語の質問を実行してAPIレスポンスの使用量を記録してください。

従業員100人が月30回ずつ質問すると月3,000件です。1件あたり4,500入力トークン、700出力トークンなら、再試行前の月間使用量は入力1,350万トークン、出力210万トークンです。再生成や失敗が10%ある場合はそれぞれ1.1倍し、利用時点の公式な入力・出力単価を別々に適用します。

文書全体のトークン数は、初回の埋め込み、定期的な再インデックス、文書要約の費用に使います。通常の質問では検索された一部だけをモデルへ送るため、文書庫全体のトークン数に質問数を掛けると過大な見積もりになります。

重複文書を除き、見出しや節の境界を保ってチャンク化すると、不要な検索結果を減らしやすくなります。質問の種類に応じて取得件数を調整し、権限と文書更新を確認できる場合だけ回答をキャッシュします。検索件数を減らすテストでは、費用だけでなく回答の正確性と根拠の引用率も比較してください。

各リクエストの入力・出力トークン、検索チャンク数、再試行、成功率を記録します。平均値だけでなく入力が大きい上位10%も見ると、長い会話や特定文書が予算を押し上げているか確認できます。モデルや検索ツールの価格は変わるため、購入前に提供元の公式価格表を確認してください。