生成AIの回答精度を高めるためのRAG構築サービス、シナモンAIが開始

　シナモンAIの「Super RAG パッケージ版」は、生成AI（人工知能）システムにおいて自然言語処理を担うLLM（Large Language Model：大規模言語モデル）を、自社データへ対応可能にするためのサービス。社内文書をRAG（Retrieval Augmented Generation：検索拡張生成）技術で取り込み、LLMの回答精度を高める。

　Super RAGの特徴は、社内文書の構造を解析し、タイトルや段落、表、図などの要素に分割したうえで要素間の関係性をグラフ構造で把握すること（図1）。各要素を本文との関係を保持してデータベースに保存することで、検索や関連情報の抽出を容易にすることで、LLMが文脈に沿って回答できるようにする。同社の検証では、一般的なRAGを利用した場合の回答精度が40％だったタスクに対し、90％超の精度が得られたという。検索や推論時のデータ処理数も減り計算負荷の低減にもつながるとしている。

図1：「Super RAG」では文書を構成要素の別に分解し構造化を図ることで回答精度を高める

　取り込める文書の形式は、ExcelやWord、PowerPointなどのファイル。決算書や技術情報、社内規定などを取り込み、問い合わせ対応やビジネスプランの創出、報告書の作成、インシデントの予測などに利用できるようにする。専門知識が必要な業務や、暗黙知が求められる製造業務への活用が考えられる。

　導入環境は、シナモンAIが用意する「シナモンAIクラウド」環境または外部のクラウド環境。いずれも「Microsoft Azure」を使用した環境で使用し、「Azure OpenAI Service」（米Microsoft製）を含むLLMと組み合わせる。

　シナモンAIによると、企業が保有する資料の8割は図や表を多数含む資料である。一般的なRAGでは、繰り返しや類似テキストが多いと検索精度が低下し、ハルシネーション（幻覚）を起こすという課題がある（図2）。

図2：構成要素の構造を含め管理することで回答精度が高まる例

　Super RAG パッケージ版の利用料金は、データ入力が2.5円（税別、以下同）／1000トークン、出力が5円／1000トークン。シナモンAIクラウド環境の利用料は、初期導入費用が170万円（キャンペーン価格）、月額運用費としての保守サービス費が30万円。別途、LLMとサーバーの利用料が発生する。