2026.11.03 · 技術と道具

いまやRAGの時代ではない――組織のAI活用を「検索」から「仕事」へ

少し刺激的なタイトルですが、RAGが不要になったと言いたいわけではありません。

RAGは今も重要な技術です。社内規程、業務マニュアル、過去の提案書、法令、製品情報など、組織固有の情報を検索し、その内容に基づいてAIに回答させる価値は変わっていません。

しかし、組織のAI活用という大きなテーマから見れば、RAGは必要な技術の一つに過ぎなくなりました。

RAGが企業のAI活用の中心だった時代

1年半ほど前まで、企業における生成AI活用を考えるとき、RAGを押さえておけばかなりの部分を説明できました。

ChatGPTなどの汎用AIは、企業内部の情報を知りません。そこで、自社の文書を検索してAIへ渡し、自社の事情に即した回答を生成させます。この仕組みは分かりやすく、「社内版ChatGPTを作りたい」という相談の多くも、実際にはRAG付きチャットを求めていました。

私が開発してきたGen2Goも、この時代の要請に応えるものでした。ナレッジを登録し、プロンプトを設定し、チャットやAPIから利用します。特定分野の情報を検索して回答する仕組みとして、RAGには現在も明確な用途があります。

単純にその仕組みが欲しいのであれば、いまはDifyなどの既存基盤を利用すればよいでしょう。以前は自社開発が必要だった機能の多くが、すでに一般的な機能になっています。

問いが「何を知っているか」から「何ができるか」へ変わった

現在のAI活用で問われているのは、AIが社内情報を検索して回答できるかだけではありません。

集めた情報を比較する。資料を作る。不足している情報を探し直す。表計算ファイルを更新する。既存のシステムを操作する。結果を検証し、問題があれば修正する。判断が必要なところでは人間に確認を求める。

つまり、「何を知っているか」から、「その情報を使って仕事をどこまで進められるか」へ、問いが変わっています。

このとき必要になるのが、AIエージェントであり、広い意味でのコンテキストエンジニアリングであり、AIを安全に動かすハーネスであり、結果を評価しながら処理を繰り返すループです。

RAGはコンテキストを与える手段の一つ

AIへ与えるコンテキストは、検索した文書だけではありません。

業務の目的、守るべき規程、作業手順、判断基準、過去の事例、現在の進捗、利用できるツール、操作してよい範囲、期待する成果物の形式なども必要です。

RAGは、このうち必要な情報を外部から取り出す手段です。一方、Skillsのような仕組みは、業務を進めるための手順や判断基準をAIへ渡します。ツール連携は、AIが検索や回答を越えて実際の作業を行えるようにします。ハーネスは、権限、実行環境、ログ、人間への確認、停止条件などを管理します。そしてループによって、AIは結果を確認し、不足があれば調べ直し、成果物を修正します。

こうした全体の中にRAGが組み込まれるのであって、RAGが全体を代表するわけではありません。

「RAGを導入する」から始めない

組織のAI活用を考えるとき、「RAGを導入したい」という技術起点の相談から始めると、実際の業務課題を見失うことがあります。

まず考えるべきなのは、どの仕事を、どこまでAIに任せたいかです。

根拠文書を示しながら質問に答えることが目的なら、RAG中心の構成でよいでしょう。処理が定型的で頻度も高いなら、従来型のシステムにAIを一部組み込む方が安定することもあります。調査、分析、資料作成のように、状況によって手順が変わる仕事なら、汎用AIやエージェントが適しています。

目的を決めた後で、必要な場所にRAGを使えばよいのです。

中小企業を一世代前のAI活用に縛らない

私は少なくとも半年前から、いくつかの場所で「Gen2Goの世界に止まってはいけない」と話してきました。2026年7月に公開した「業務AI化マトリクスをもっと整理」でも、この問題意識に触れています。

これはGen2GoやRAGに価値がないという意味ではありません。私が作った製品を守ることを優先して、中小企業のAI活用をチャットとRAGの世代に固定してはいけない、という意味です。

中小企業は、限られた予算と人員でAIを活用します。だからこそ、一つの製品を導入して終わりにするのではなく、汎用AI、エージェント、既存システム、RAG、業務固有のアプリケーションを適切に組み合わせる必要があります。

デジタル庁のガバメントAI「源内」も、当初のWebインターフェースや行政実務用RAGから、エージェントチャット、スキル、コード実行、ファイル操作、個人用のエージェント開発環境へと射程を広げています。デジタル庁自身が、複雑な業務では既存のAIアプリケーションを使うだけでは十分ではないと説明しています(デジタル庁「ガバメントAI 源内においてAIエージェント利用環境の提供を開始」)。

この変化は、RAGの価値が失われたことを示すものではありません。AIが担う範囲が、情報検索から仕事の遂行へ広がったことを示しています。

自社製品の都合より、顧客が進むべき方向を考える

私自身、RAGを中心としたGen2Goを開発し、企業への導入を進めてきました。だからこそ、RAGの有効性も限界も実感しています。

技術や市場が変わったとき、自社製品の都合で顧客を以前の世代に引き留めるべきではありません。必要であればDifyなどの既存基盤を使えばよいですし、汎用AIやエージェントが適している仕事には、そちらを勧めるべきです。

これから問うべきなのは、「どのRAGを導入するか」ではありません。

組織のどの仕事を、AIと人間がどのように進めるのか。

RAGは、その答えを実現するための重要な技術の一つです。しかし、組織のAI活用は、すでにその先へ進んでいます。

2026/11/03 12:03
← 中小企業向けAX推進ガイドラインの公開について
一覧に戻る →
井上 研一
経済産業省推進資格ITコーディネータとして中小企業のDX・AI活用の現場で伴走支援を行う。「ITCプロセスガイドライン4.0」および「中小企業向けAI活用ガイド」執筆メンバー。著書・講演多数。ITエンジニアとして25年以上の実務経験。AI導入の実務に10年以上携わる。自ら開発したAIサービス「Gen2Go」が北九州発!新商品創出事業の認定を受ける。2026年4月より北九州市立大学大学院マネジメント研究科の学生としての顔も持つ。

本サイトおよびブログに掲載している内容は、特に明記のない限り、井上研一個人の見解に基づくものです。所属・関与する組織、団体、企業、研究会等の公式見解を示すものではありません。