自社専用の生成AI利用環境の構築支援サービス、NSSOLが開始

　日鉄ソリューションズ（NSSOL）の「Alli LLM App Market プライベート環境サービス」は、企業のプライベート環境に生成AI（人工知能）技術を使ったアプリケーションの開発・実行環境を構築するサービス（図1）。セキュリティポリシーなどの観点から外部環境にデータを送信したり、外部のサーバーを利用したりするのが難しい企業にあっても、自社利用に閉じた環境下で生成AIアプリケーションを利用できる用にする。

図1：日鉄ソリューションズ（NSSOL）の「Alli LLM App Market プライベート環境サービス」では、企業ニーズに合わせて大規模言語モデルなどを選択できる

　生成AIアプリケーションの開発・実行環境は、Allganize Japanが提供するソフトウェア「Alli LLM App Market」を米Microsoftのクラウド環境「Microsoft Azure」上で動作させて実現する。Azure環境には、NSSOLが持つ構築ノウハウを元に、セキュリティや運用性などの非機能要件を設定し、プライベートクラウドとして運用できるようにする。

　Alli LLM App Marketは、100個以上の生成AI・LLM（Large Language Model：大規模言語モデル）アプリケーションや、ノーコードでの生成AI・LLMアプリケーションの開発機能、生成AIのハルシネーション（幻影）を防ぐためのRAG（Retrieval Augmented Generation：検索拡張生成）、プロンプト管理、セキュリティ、監査機能などを提供する基盤ソフトウェア。導入企業ごとに回答精度を高めたり、独自のアプリケーションを作成・カスタマイズしたりができるという。

　構築時には、企業ニーズに合わせたLLMを選択できる。Azure環境も既に利用している環境があれば、同環境を利用した構築もできる。サービスのオプションとして、SaaS(Software as a Service)として提供されているAlli LLM App Marketからのデータ移行や、RAGの回答精度のチューニングなども用意する。

　サービスには、Alli LLM App Marketのライセンスと保守サポート、Alli LLM App Marketを動作させるためのAzure環境一式、対象となるAzure環境のサブスクリプション契約、Azureの利用料と保守サポートが含まれる。

　生成AI技術の企業内業務への適用は急速に進みつつある。だがNSSOLによれば、RAGなどを活用し自社データと連携する際には、取り扱うデータによって高いセキュリティが求められたり、企業のセキュリティポリシーによっては外部サーバーやクラウドサービスの利用が禁止されたりすることがある。企業専用のプライベートな生成AI技術の利用環境が有効だが、プライベート環境の整備には高度な専門知識や時間とコストが求められ、ハードルが高い。