AI ADOPTION PARTNER社内AIとは ― なぜ普通のChatGPTでは答えられないのか
ここで言う社内AIとは、自社の文書(規程・マニュアル・議事録・過去の見積もりなど)の中身を根拠に質問へ答えてくれるAIのことです。「有給の繰越ルールは?」「この製品の過去のクレーム対応は?」に、社内文書を引きながら答えてくれる存在だと思ってください。
ChatGPTをそのまま使っても、これはできません。AIは世の中の公開情報で学習しているだけで、あなたの会社の中身を知らないからです。知らないことを聞くと、それらしい嘘(ハルシネーション)を返すこともあります。そこで必要になるのが、次に説明する仕組みです。
RAGとは ― わかりやすく言うと「資料を開きながら答えるAI」
社内AIを調べると必ず出てくるのがRAG(ラグ)という専門用語です。英語の頭文字をとった言葉ですが、名前を覚える必要はありません。仕組みは単純で、質問が来るたびに次の3ステップを踏む、というだけの話です。
- 質問に関係する文書を、社内の資料置き場から検索して見つける
- 見つかった文書をAIに渡す
- AIがその文書を根拠に回答を作る(どの文書を根拠にしたかも示せる)
つまりRAGは「AIに社内情報を丸暗記させる」のではなく、「試験中に教科書の持ち込みを許可する」仕組みです。根拠が文書にあるため、回答の出どころを確認でき、文書を差し替えれば知識も更新されます。社内AIの作り方として、現在の主流です。以降この記事では、専門用語を使わず「社内AI」と呼んで進めます。
作り方は3段階 ― まず月数千円の方法から
| 段階 | やり方 | 費用と期間の目安 |
|---|---|---|
| ① 既存サービスで試す | NotebookLM、Claude の Projects、ChatGPT のプロジェクト機能などに文書をアップロードして質問する | 月0〜数千円/人 今日から使える |
| ② 小さく構築する | 特定の業務と文書に絞った社内AIを、専用サービスや小規模な開発で用意する | 初期 数十万〜300万円程度+運用費 1〜3か月 |
| ③ 本格構築する | 全社の文書・ノウハウを対象に、閲覧権限の管理・既存システムとの連携・社内サーバーへのAI設置(ローカルLLM)などを含めて構築する | 数百万円〜+運用費 3か月〜 |
大事なのは、①だけで足りる会社が実際には多いということです。「営業マニュアルについて答えてくれればいい」程度なら、NotebookLMなどに文書を入れるだけで今日から動きます。②③に進むのは、①で効果を確認し、対象文書が増えて手作業の管理が追いつかなくなってからで十分です。
費用を左右する4つの要素
②③の構築費用に大きな幅があるのは、次の4要素で工数が桁違いに変わるからです。見積もりの前に、自社の状況を整理しておくと話が早く進みます。
1. 文書の状態
費用に最も効く要素です。文書がフォルダごとに整理され、最新版がどれか分かる状態なら安く済みます。逆に、個人のPCに散らばり、旧版と新版が混在している状態なら、構築の前に「文書整備」という工程が必要になります。社内AIプロジェクトの実態は、半分くらい文書整理です。
2. 求める精度
「参考情報として8割合っていればいい」のと「間違いが許されない」のでは、作り込みがまったく違います。用途に対して必要十分な精度を先に決めることが節約になります。
3. アクセス権限とセキュリティ
「人事評価の文書は管理職しか見えないようにする」といった権限制御を入れると、難易度が一段上がります。機密性の高い文書を外部サービスに出せない場合は、AIを社内のサーバーに置く構成(ローカルLLM)が選択肢になり、これも費用が上がる要因です。
4. 更新の運用
文書は増え続けます。誰がいつ追加・差し替えするのか、その運用設計まで含めて初めて「使われ続ける社内AI」になります。
精度の現実 ― 100%は出ません
正直にお伝えすると、この仕組みでも回答精度100%にはなりません。検索が的外れな文書を拾うこともあれば、AIが文書の読み違えをすることもあります。実用レベルにするための現実的な打ち手は次の3つです。
- 根拠(引用元)を必ず表示する。利用者が元文書をワンクリックで確認できるようにする。これだけで「AIの間違いを人が拾える」仕組みになります。
- 答える範囲を絞る。「何でも答えるAI」より「就業規則に答えるAI」のほうが、精度もユーザーの信頼も出ます。
- 最終判断は人に残す。対外的な回答や重要な判断には人の確認を挟む前提で設計します。
自社はどの段階から始めるべきか? 3分の無料AI活用診断で、①で足りるのか、構築に進むべきかの見当がつきます。
よくある失敗パターン
- 文書がぐちゃぐちゃのまま構築に入る。散らかった文書からは、散らかった答えしか返ってきません。先に対象文書を絞って整えるほうが、結果的に早くて安い。
- いきなり全社導入。対象部署も文書も絞らずに始めると、精度が出ず「使えないね」で終わります。1業務で成功体験を作ってから広げてください。
- 作って放置。文書が更新されないAIは、数か月で「古いことを言うAI」になります。更新運用の担当を決めていない構築は失敗します。
- 精度100%を要求する。100%が必要な業務は、そもそもAI向きではありません。人の確認を挟む設計に切り替えましょう。
進め方 ― 現実的な最短ルート
- 1業務を選ぶ。「問い合わせが多い」「新人が毎回先輩に聞いている」領域が狙い目です。
- ①の方法で2週間試す。NotebookLMなどに関連文書を入れ、実際の質問をぶつけてみる。費用はほぼゼロです。
- 効果を測る。回答の的中感、調べ物の時間短縮を確認します。
- 広げるか、構築するかを判断する。文書量・利用者・権限管理の要件が①の限界を超えたら、②の構築を検討するタイミングです。
どの業務が狙い目かは業種によっても違います。業種別AI活用ガイドもあわせてご覧ください。費用の全体像はAI導入費用の相場で解説しています。
AIDENの場合
当社(株式会社AIDEN)は、社内AI(RAG)の構築、誤答を減らす精度改善、外部にデータを出さない自社専用AI環境(ローカルLLM)の構築を手がけています(事業内容)。ただし最初のご相談で「まずはNotebookLMで十分です」とお答えすることも多くあります。構築ありきではなく、①→②→③の順で身の丈に合う段階から始めることを大事にしています。初回相談は無料です。