生成AIの未来予測5年後
モデルは「安く・早く・専門化」へ、使い分けの設計が勝敗を分ける
5年後、汎用LLMの差は「総合点」よりも「用途特化の最適さ」に寄ります。ChatGPTやClaude、Geminiのような汎用モデルは推論の信頼性が上がり、長文・マルチモーダル・ツール実行を前提に“業務の中で静かに動く”存在になります。一方で、社内ナレッジや特定ドメインに強い小型モデル（オンデバイス含む）が台頭し、推論ルーターがタスクごとに最適モデルへ自動配車します。
価格は1Mトークンあたり数十〜数百円帯が現実味を帯び、短いプロンプトならレイテンシは100ms台に。音声・画像・表データの混在入力が標準化し、構造化出力（JSON/スキーマ）が前提になります。意思決定として重要なのは、単一モデルへのロックインを避けた「モデル可換アーキテクチャ」へ今から舵を切ることです。
意思決定ポイント
- ビルド vs バイ：推論ルーターとナレッジ検索（RAG）は内製、中核モデルは外部サービスを併用
- RAG優先：微調整は「反復タスクでデータが十分」「RAGで限界」の順で採否判断
- SLA設計：コスト上限（円/1Mトークン）、回答厳密度（ハルシネーション率）、遅延（p95）を運用指標に固定
エージェント×業務フロー統合が“地味に効く”
表面的なチャット導入から、裏方で動くエージェントの時代に移ります。メール、カレンダー、CRM、在庫、RPA、DWHとつながり、LLMは「判断ノード」としてワークフローに埋め込みます。CopilotやGeminiで人の作業を補助しつつ、API経由でChatGPTやClaudeを業務ロジックに組み込み、監査ログと評価を常時収集する構えが実用的です。
現実解のアーキテクチャ（最小構成）
- データ基盤：社内文書を埋め込み＋メタデータ管理（更新頻度/機密区分/バージョン）
- RAG：ソース引用と信頼度スコアを必須化し、出典なし回答をブロック
- モデルルーター：短文・即応は小型、精密推論は高性能、機密は社内推論に分岐
- 評価と観測：サンプルセットで月次自動評価（正答率/幻覚率/コスト/遅延）
- 権限・監査：個人データの自動マスキング、外部送信のドメイン制御、完全ログ化
身近な企業活用例：町工場ECの“やり直し”導入
海外からのEC引き合い増を受け、ChatGPTで英語メール対応、Copilotで見積書フォーマット化、Geminiで画像説明文生成を一気に展開。しかし初期は失敗します。プロンプトが属人化し品質が揺れる、個人アカウント利用で監査不能、在庫や工数の前提が古いまま回答するため、納期トラブルが発生しました。
やり直しでは、まずRAGを導入。製品カタログと最新在庫、加工可否基準をベクタDB化し、回答時に必ず出典リンクを付与。見積は「仕様→疑問点の抽出→標準質問テンプレ→見積案→人の承認」の5段階に分割し、Claudeを疑問点抽出、ChatGPTを見積案起草に使い分け。CopilotでWord/Excelの社内標準を固定しました。さらに月5万円のコスト上限を設定し、1件あたりトークン使用量を可視化。結果、見積リードタイムは24時間→4時間、追加質問の往復は30％減、納期遅延は半減。失注理由のタグ付けが自動化され、次月のプロンプト改善に回りました。
現場がうまく回った要点
- 「人の最終承認」位置を明示し、エージェントの権限を受信ボックス内に限定
- プロンプトはリポジトリで共有し、A/B評価で勝ち筋だけを残す
- 在庫・原価の更新を夜間バッチからイベント駆動に変更し“古い前提”を撲滅
ガバナンスとKPI設計、5年スパンのロードマップ
規制や取引先監査は厳格化します。個人情報の自動マスキング、ソース保持、合成メディアの透かし検知、プロンプト/レスポンスの機密区分タグ付けは必須です。モデルは世代交代が速いため「モデル・プロンプト・評価データのレジストリ化」で再現性を担保します。
KPI例（意思決定に使える粒度）
- 品質：正答率≥90％、幻覚率≤2％、出典付き回答比率100％
- 速度：p95レイテンシ≤1.0秒（短文）、バッチ処理は1時間内完了
- コスト：1Mトークン単価上限、案件あたりコスト≤粗利の3％
- 採用：自動化率（人手→AI移管比率）を四半期ごとに+10％
ロードマップは①検索強化（RAG）→②ワークフロー分割と権限設計→③自動評価→④選抜タスクの微調整→⑤オンデバイス/エッジ展開の順が現実的です。モデル選定は四半期ごとに再評価し、可換性を維持しましょう。
5年後、生成AIは単体製品ではなく「共通レイヤー」を持つ基盤として機能します。異なるモデルや業務システムをつなぎ、観測・評価・権限を一元で回せる土台があるほど、変化の速さに耐えられます。生成AIプラットフォーム事業は、その土台を社会実装レベルで整える役割として、静かに重要度を増していきます。
