広告枠を募集中 ご相談ください

Writerのナレッジグラフがベクトルチャンキングなしで企業データを高精度グラウンディングする仕組み

365Finds Editorial
Wiki 記事 11,430 本収録

あなたの AI で 365 Wiki を使う

下のプロンプトをコピーして、普段使っている AI に貼り付け、そのまま質問してください。

完全版 Skill をダウンロード

まずはプロンプトでお試しください。よく使う場合は完全版 365Wiki Skill をインストールすると、毎回貼り付ける必要がありません。普段使う AI がなければ、Gemini や Microsoft Copilot のウェブ版でも使えます。

エンタープライズアーキテクトやナレッジマネジメント責任者が社内生成AIアプリケーションを本番運用する際、共通して直面する技術的障壁があります。それが、従来の**ベクトルチャンキング(Vector Chunking)**に依存したRAG(検索拡張生成)の限界です。ドキュメントを一律に100〜200文字や数百トークン単位で機械的に分割し、ベクトル埋め込み(Embedding)を計算して近似最近傍探索(ANN/KNN)を行うアプローチは、構造化された企業ドキュメントと極めて相性が悪く、コンテキストの断片化や深刻なハルシネーション(幻覚)を招きます。

企業の表データや契約書、業務マニュアルでは、見出しとセル、条項と定義、親文書と子文書の相互関係が不可欠です。テキストを一律に切り刻むと、これらの論理構造が破壊されます。

エンタープライズAIプラットフォームのWriterは、この課題を根本から解決する**独自のナレッジグラフ(Writer Knowledge Graph:グラフ型RAG)**を採用しています。社内の構造化・非構造化データをエンティティ(ノード)と意味関係(エッジ)からなるネットワークとして直接モデリングし、独自の検索認識圧縮(Retrieval-Aware Compression: RAC)と自社製LLM「Palmyra」を連携させることで、従来のベクトルチャンキングを完全にバイパスします。

本ガイドでは、Writerが企業データソースを統合し、構造を維持したままグラフを構築・圧縮し、高精度で監査可能なエンタープライズAIを実現するアーキテクチャの全貌を解説します。


従来のベクトルチャンキングが企業データで破綻する根本原因

グラフ型アプローチの優位性を理解するために、まず従来のベクトル検索が直面する4つの構造的欠陥を整理します。

1. コンテキスト喪失とドキュメント構造の破壊

エンタープライズデータの大半は、複雑なコンテキストと階層構造を持っています。

2. 密マッピングと疎マッピングによる「次元の呪い」

ベクトルデータベースは、埋め込みベクトル間の幾何学的距離(コサイン類似度など)で関連性を判定します。企業データでは、この計算が以下の問題を引き起こします。

3. マルチホップ推論(Multi-Hop Reasoning)の不可能性

企業実務における問い合わせは、単一の段落だけで完結することは稀です。「第3四半期に更新を迎え、かつSLAペナルティ条項が5%を超える大企業顧客はどれか?」といった質問は、CRMの契約情報、法務リポジトリの契約書、サポートシステムの稼働履歴を横断して結びつける必要があります。ベクトル検索でこれを行うには推測に基づく連鎖検索が必要となり、検索誤差が乗数的に拡大してハルシネーションが発生します。

4. インデックスの硬直性と高額な運用コスト

ベクトルデータベースでは、埋め込みベクトルの全体分布がデータセット全体に依存します。企業ドキュメントが日々更新される環境では、大規模な再インデックス処理が必要となり運用負担が膨らみます。また、長大な生テキストチャンクをプロンプトに詰め込むためトークン消費が激増し、自前で構築したベクトルRAGのTCO(総所有コスト)は跳ね上がります。


Writerのアーキテクチャ:データ統合からナレッジグラフ生成まで

Writerは、従来のベクトル分割に頼るのではなく、データソース接続からエンティティ抽出、グラフ探索、モデル回答生成までを一気通貫で設計しています。

+-----------------------------------------------------------------------------------+
|                            エンタープライズデータソース層                         |
|   SharePoint  |  Google Drive  |  Notion  |  Confluence  |  Salesforce  |  社内ファイル  |
+------------------------------------------+----------------------------------------+
                                           |
                                           v
+-----------------------------------------------------------------------------------+
|                       コネクタ&構造認識パーシング層                               |
|   表、スプレッドシート、プレゼンテーション、PDF、マニュアルの階層構造を保持        |
+------------------------------------------+----------------------------------------+
                                           |
                                           v
+-----------------------------------------------------------------------------------+
|                       グラフ構築&RAC検索認識圧縮                                 |
|   - 専用LLMがエンティティ(ノード)と意味関係(エッジ)を自動抽出                 |
|   - 検索認識圧縮(RAC):高密度ファクトを凝縮し、全メタデータをインデックス化     |
+------------------------------------------+----------------------------------------+
                                           |
                                           v
+-----------------------------------------------------------------------------------+
|                    クエリエンジン:意図分解とハイブリッド探索                     |
|   - 複雑なプロンプトをターゲットを絞ったサブ質問に自動分解(max_subquestions制御) |
|   - システム横断で関係性パスをトラバースし、キーワードと意味閾値を統合            |
+------------------------------------------+----------------------------------------+
                                           |
                                           v
+-----------------------------------------------------------------------------------+
|                      Palmyraモデル生成&インライン根拠提示                        |
|   - Palmyra LLM(Palmyra X 004 / Med / Fin)がグラフファクトに基づき回答生成      |
|   - 出典ドキュメントと該当箇所に直接リンクするクリック可能なインライン引用を生成  |
+-----------------------------------------------------------------------------------+

1. 前処理パイプライン不要のネイティブコネクタ

開発チームがテキスト抽出やクリーニング、チャンキング用の複雑なETLパイプラインを構築する必要はありません。Writerは企業の主要リポジトリに直接接続します。

取り込み時にドキュメントの章立て構造、見出しレベル、表のセル座標、権限属性が完全に保持されます。

2. 特化型LLMによるエンティティ・リレーション自動抽出

ベクトルチャンキングからの最大の転換点は、グラフ構築フェーズにあります。

3. 検索認識圧縮(Retrieval-Aware Compression: RAC)

大規模ナレッジグラフの肥大化を防ぎ、効率的な推論を実現するために、Writerは独自技術「RAC(Retrieval-Aware Compression)」を採用しています。

4. クエリ分解とマルチホップグラフ探索

ユーザーやAIエージェントから複雑な質問が入力された際、単純な最近傍探索は行われません。

  1. サブ質問への自動分解: 複雑な問い合わせを複数の具体的なサブ質問へと自動分解します(APIパラメータの max_subquestions で最大数を制御可能、デフォルトは最大6個)。
  2. 関係ネットワークのトラバース: エンジンはグラフのエッジを辿り、システム間のサイロを超えて関連ノードを探索します(Salesforceの顧客情報からSharePoint上の契約条項へシームレスに横断)。
  3. ハイブリッドマッチング: グラフ探索と語彙キーワード検索を動的に組み合わせ、高次の概念的推論から部品型番やエラーコードの完全一致まで正確に捉えます。

5. Palmyraモデルによる事実根拠に基づく生成とインライン引用

取得されたサブグラフと圧縮コンテキストは、Writer独自のエンタープライズ特化型モデル群「Palmyra」(Palmyra X 004、Palmyra-Med、Palmyra-Finなど)に供給されます。


従来のベクトルチャンキングRAGとWriterナレッジグラフの比較

比較項目従来のベクトルRAG(Chunking)Writer ナレッジグラフ(Graph RAG)
データ分割単位機械的なテキスト分割(100〜200文字/500トークン)構造と意味を認識したエンティティ(ノード)モデリング
コンテキスト表現多次元空間における孤立した幾何学座標型定義された意味関係と構造ネットワーク(エッジ)
高頻度・密集データベクトル衝突が発生し、ANNの適合率が低下明示的な関係性により曖昧さを迅速に排除
表・数値データの扱い分割によって表頭と行の関係が破綻スキーマ、セル座標、属性リンクを完全に維持
マルチホップ質問連鎖検索で誤差が累積しハルシネーションが発生システムを横断した関係性エッジを自然にトラバース
データ更新と拡張全体分布に依存するため、大規模な再計算が必要ノードとエッジの局所的・増分更新が可能
監査可能性と引用大まかなドキュメント単位の推測に留まる出典ファイル・該当箇所に直結するインライン引用
運用総コスト(TCO)プロンプトトークン肥大化とベクターストアの維持費大RAC圧縮とフルスタック最適化により最大67%削減

性能ベンチマーク:RobustQAにおける検証結果

グラフ型アプローチの実力を検証するため、WriterはAmazonの研究チームが開発したオープンドメイン質問応答ベンチマーク「RobustQA」を用いて性能評価を実施しました。このベンチマークは、バイオテクノロジーから先端技術まで8領域にわたり、3,200万件以上のドキュメントを対象に50,000件の質問で検証を行います。

実測データにより、精度と応答速度の双方で圧倒的な優位性が実証されています。


開発者向け実装:API設定とAIエージェント連携

Writer AI Studioおよび開発者APIでは、ナレッジグラフに対する直接クエリや詳細な探索挙動のチューニングが可能です。

ナレッジグラフ問合せAPIの実装例

curl -X POST https://api.writer.com/v1/graphs/question \
  -H "Authorization: Bearer $WRITER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "graph_id": "graph_f83a9102c",
    "question": "医療ソフトウェア契約における当社の補償責任限度額はどう規定されていますか?",
    "query_config": {
      "inline_citations": true,
      "search_weight": 60,
      "grounding_level": 0.85,
      "max_snippets": 5,
      "max_subquestions": 4
    }
  }'

query_config の主要パラメータ

AIエージェントのツールとしてのナレッジグラフ

Chat Completions APIや自律型AIエージェントの定義において、ナレッジグラフをネイティブツールとして連携させることができます。エージェントが必要と判断した際に自律的にグラフを呼び出し、ファクトに基づいた回答を返します。

{
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "knowledge_graph_search",
        "description": "社内ナレッジグラフを検索し、検証済みの業務データとファクトを取得します。",
        "parameters": {
          "type": "object",
          "properties": {
            "query": { "type": "string" },
            "query_config": {
              "type": "object",
              "properties": {
                "inline_citations": { "type": "boolean" },
                "search_weight": { "type": "integer" }
              }
            }
          },
          "required": ["query"]
        }
      }
    }
  ]
}

セキュリティ、ガバナンス、チーム権限分離

企業データを扱う上で、セキュリティとプライバシーの確保は必須要件です。Writerは以下の保護策を標準で備えています。

  1. 顧客データでのモデル再学習を行わない: ナレッジグラフに取り込まれた社内文書やAPIリクエストが、公開ベースモデルの学習に使用されることはありません。
  2. チーム単位の権限分離(Team-Scoped Graphs): ナレッジグラフは組織全体(Org-wide)または特定チーム(Team-scoped)単位でスコープ設定が可能です。チーム専用のAPIキーを使用することで、他部署のデータへのアクセスを厳格に遮断します。
  3. 国際的なセキュリティ認証: プラットフォーム全体でSOC 2 Type II、HIPAA、GDPRに準拠しています。
  4. 完全な監査追跡性: 生成結果のすべての根拠が元のファイルとページに直接紐づくため、法務やコンプライアンス部門による事後監査が容易です。

導入と実践へのロードマップ

PoC(概念実証)から本格運用への移行を検討している技術責任者に向けて、以下の実践的な推奨事項を提示します。

  1. ドキュメントの構造的複雑度を事前評価する: 複数列の表、改訂履歴、相互参照が多いマニュアルが中心である場合、従来のベクトルチャンキングは避け、最初からグラフベースのアーキテクチャを選択してください。
  2. 信頼できる主要データソースから接続を開始する: 全社ポータル(SharePoint)や公式ナレッジベース(Confluence)など、信憑性の高いソースを優先的に連携させ、堅牢なエンティティ構造を構築します。
  3. 業務領域に応じてパラメータを最適化する:
    • 法務・財務・コンプライアンス領域: grounding_level を0.85以上に高め、search_weight を30〜40に設定して、厳格な文言一致と完全なトレーサビリティを確保します。
    • 営業支援・カスタマーサクセス領域: search_weight を50〜60に設定し、部門横断的な概念の関連付けと柔軟な要約を可能にします。
  4. マルチホップ質問の評価シナリオを整備する: システム間を横断する複雑な問い合わせに対して、サブ質問の分解機能が正しく作動しているかを定期的にテストしてください。

Writerのナレッジグラフは、従来のベクトル分割に伴う精度の劣化やコストの高騰を解消し、企業が生成AIを安全かつ確実に業務の中核へと組み込むための基盤技術を提供します。


参考文献