社内専用ChatGPTをDifyで構築する手順：RAG（検索拡張生成）の基礎

「ChatGPTは便利だけど、自社のマニュアルや過去の顧客データを知らないから、業務の核心部分では使えない」
これは、AIを導入しようとする企業の9割が直面する壁です。この壁を越えるための技術が「RAG（Retrieval-Augmented Generation：検索拡張生成）」です。

本記事では、ノーコードツール「Dify」を使って、非エンジニアでもたった数時間で「自社の社内規程や製品マニュアルを完璧に記憶した専用AI」を構築する具体的な手順を解説します。

なぜ「社内データ」をAIに読ませるのが難しいのか？

通常のChatGPTに「うちの会社の経費精算のルールを教えて」と聞いても、「わかりません」と返ってくるか、一般的な経費精算のルールをでっち上げて回答（ハルシネーション）してしまいます。

これを防ぐためには、質問のたびに「関連する社内ルール」をAIのプロンプトに貼り付ける必要がありますが、PDF数千ページにも及ぶマニュアルを毎回貼り付けることは不可能です。そこで登場するのがRAGです。

RAG（検索拡張生成）の仕組み

RAGは、AIが回答を生成する前に、「専用のデータベース（社内文書）から関連する情報を検索し、その情報をベースに回答を作る」という技術です。

ユーザーが「交通費の上限は？」と質問する。
システムが社内規程PDFの中から「交通費」に関するページを検索・抽出する。
抽出したテキストとユーザーの質問をセットにしてAIに渡し、「このテキストに基づいて回答して」と指示する。
AIが「社内規程によると、交通費の上限は月額3万円です」と正確に回答する。

この一連のシステムをプログラミングでゼロから作ると非常に大変ですが、Difyを使えば「ナレッジ」機能として標準で用意されているため、コードを一行も書かずに実現できます。

Difyで社内専用AIを構築する3ステップ

ステップ1：Difyの「ナレッジ」にPDFをアップロードする

Difyの管理画面から「ナレッジ（データセット）」を作成し、社内規程や製品マニュアルのPDFファイルをドラッグ＆ドロップします。
Difyが自動的に文章を細かいブロック（チャンク）に分割し、AIが検索しやすい形（ベクトルデータ）に変換して保存してくれます。これだけで準備は完了です。

ステップ2：チャットボットを作成し、ナレッジを連携する

次に「スタジオ」画面から新しいチャットボットを作成します。
設定画面にある「コンテキスト（文脈）」の項目に、ステップ1で作成したナレッジを追加します。これにより、このチャットボットは回答する前に必ずそのナレッジを検索するようになります。

ステップ3：システムプロンプトを設定する

最後に、AIの振る舞い（役割）を指示するプロンプトを記述します。
「あなたは当社の優秀な総務部アシスタントです。提供されたコンテキスト（ナレッジ）の情報のみに基づいて回答してください。コンテキストに記載がない場合は『わかりません』と答えてください。」
このように設定することで、嘘をつかず、社内ルールに厳密に従う安全なAIアシスタントが完成します。