- Column
- AI技術を競争力に変える、実装から定着までの道筋
デジタル主権時代、データとモデルの持ち方は企業が主体的に定める
「インプレス AI Days 2026」より、カナダCohere日本法人 カントリーマネージャーの趙 顕周 氏
- 提供：
- Cohere
配備先やモデルまでを企業自らが選択可能にする
責任の線引きを実装するため、CohereはAIエージェント開発基盤「North」を提供している（図3）。インフラからガバナンス、RAG（Retrieval-Augmented Generation：検索拡張生成）、モデル、アプリケーションまでの5層を、1つの基盤で管理する構成だ。
インフラ層は、パブリッククラウドのVPC（Virtual Private Cloud：仮想プライベートクラウド）内に加え、オンプレミスのデータセンターや、インターネットから物理的に切り離したエアギャップ環境への配備に対応する。
ガバナンス層は、各種認証基盤と連携し、RBAC（Role-Based Access Control：ロールベースアクセス制御）によって社内システムやフォルダの閲覧権限を役職や役割ごとに割り当てる。AIの挙動は、監査ログで記録し、可視化する。趙氏は「ガバナンスを確保しながら組織内での利用を広げられる」と話す。
RAG層は、利用者の問い合わせを起点に、社内文書や画像、音声などから関連情報を探し出すマルチモーダル検索に対応する。見つかった候補は重要度順に並べ直し（リランク）、回答の生成に用いる。
モデル層は、同社独自の生成モデルや検索モデルのほか、音声認識やコード生成に特化したモデル、米OpenAIや米Anthropicの商用モデルも呼び出しの対象とする。趙氏は、「特定のモデルにロックインされない柔軟性を確保している」と強調する。
アプリケーション層は、対話型のチャット画面に加え、定型業務をワークフロー化して自動実行する仕組みをノーコードで構築する機能を備える。利用者が自然言語でプロンプト（指示文）を入力すると「処理に用いるAIエージェントやモデルを、自動で選ぶ」（趙氏）という。
大手製造業は自社データセンターの閉域環境に導入
実際の運用では、高価なGPU（Graphics Processing Unit：画像処理半導体）を効率よく使うため、モデル層は部門間で共用し、データやツールは部門ごとに保有・管理する（図4）。Web検索や外部LLMの利用可否も部門ごとに切り替えられるとともに「管理者画面からは部門内でさらに細かく設定可能」（趙氏）にしている。
国内大手製造企業では、自社データセンター内の閉域環境にNorthを配備した。「推論基盤を全社で共通化しながら、データは事業部ごとに分離する構成」（趙氏）にしている。これにより各事業部の機密性を保ったまま、全社の業務効率化につなげている。
同社には厳しい制約があり「機密データを扱う部門同士でもデータを相互に共有できない」（趙氏）背景があった。扱いの判断が難しい機密情報については社外に出さず「自社の管理下に置いたままAI技術を活用したいと考えていた」（同）という。
閉域環境への配備に加え、同社がNorthを選定した決め手は2点ある。1つ目は、トークンの利用上限を管理してコスト超過を防ぐ運用設計に対応する点、2つ目は、図面や手書き書類を高い精度で解析するRAG性能である。
安心・実用性・費用対効果がソブリンAI基盤の定着を左右する
講演の最後に趙氏は、エンタープライズの現場に定着するソブリンAI基盤の条件として、次の3つを挙げる。
条件1＝安心して使える環境
自社のセキュリティ基準に準拠した環境で、従業員から経営層までが不安なくAIを利用できる。ただし、外部ベンダーの都合による一方的なサービス停止や規約変更に左右されず、自社がコントロールを握る基盤が前提となる。
条件2＝仕事で使える実用性
最新モデルの汎用的な賢さにとどまらず、自社固有のデータや業務の文脈を正しく理解し、実務に貢献できる。そのためには、現場の専門用語やニュアンスをくみ取り、業務を正確に遂行する能力が欠かせない。
条件3＝優れたコストパフォーマンス
高度なモデルであっても、費用対効果が見合わなければ現場に定着しない。従って、タスクごとに最適なモデルを使い分け、トークン消費やGPUの使い方に無駄を出さない仕組みが必要になる。
趙氏は「Northはこれら3つの条件を満たしている。ソブリンAI基盤を選ぶ際の選択肢に加えていただきたい」と呼び掛ける。
