AIガバナンスが求めるプラットフォームとデータガバナンス【第6回】

　AI（人工知能）ガバナンスは、これまで説明してきたように、AIシステムの企画段階から運用に至るまでのライフサイクル全般において、リスクを効果的かつ効率的にコントロールしていくものである。AI技術の利用によって生じるリスクを受容可能な水準で管理しつつ、その価値や効果を最大化することを目的に、事業の成長につながるものでなければならない。

プラットフォームを活用し生産性とコントロールを確保

　AIは発展途上の技術である。今後も急激な変化や進展の可能性があり、その利用機会や用途（ユースケース）が、ますます増えていくことが想定される。企業は、AIシステムが企業の営みや提供する製品／サービスの随所に組み込まれ、その構築業務や運用対象が飛躍的に増加していくことを念頭に、AIガバナンスのあり方を考えていく必要がある。

　一般的なITシステム同様に、AIシステムを構築する際には、その目的や効果、費用、開発方法などと合せて、リスクとその対策を検討する必要がある。AIシステムは総じてリスクが高いと認識されている。なぜなら、社会的な関心や注目度が高いことや、法規制対象になり得ること、倫理観などの社会受容性の論点を内包すること、進化し続ける新しい技術であることなどが、その理由だ。

　従って、AIシステムに限定したプロセスやルールを整備することにより、AIガバナンスを構築する企業が多くなっていくことが想定される。AIガバナンスの目的を鑑みれば、AIガバナンスがAIシステムの導入を躊躇（ちゅうちょ）させる足枷にならないよう、適切なリスクベースアプローチと効率化を実現する環境を整備し、積極的な利用促進とリスクの統制、つまり“攻めと守り”の両方を実現する方法を考えていくべきである。

　そのための手段の1つが、効果的なプラットフォームによる生産性向上とコントロールの実現である（図1）。

図1：AIガバナンスのプラットフォーム

　その前提として、AIシステムのリスクを抑えるためには、その源泉であるAIシステムを把握し、組織としての管理対象であることが認識できていなければならない。

　そのためには、AIシステムの資産目録である「AIインベントリー」を作成し、インシデントの管理対象を特定できるようにしたい。AIインベントリーの作成は、AIシステムのライフサイクルにあってスタート地点になる。開発工程を経てリリースされ利用停止（廃止）されるまでAIインベントリーはデータとして保持される。

AIインベントリーの管理がAIガバナンス実現の基盤

　AIインベントリーを整備したうえでの、AIシステム構築の流れとプラットフォームの利用を時系列で見てみよう。

　まず企画段階において、組織内の申請と承認手続きをAIインベントリーとワークフローによって実行する。

　承認されたAIシステムは、設計・開発工程に進む。規定したライフサイクルにおける所定のタイミングでのリスクアセスメントや、デプロイもしくはリリース時点での各種クライテリアに基づく検証などを当該プラットフォーム上で実施する。その記録もまたAIインベントリーに蓄積されていく。

　デプロイもしくはリリース後の運用段階では、モニタリング結果が適宜付加されるなどしながら、AIインベントリーは更新されていく。

　このようにAIインベントリーは、ライフサイクルを通じてマネジメントされ、更新・蓄積されていく。そこに蓄積される種々の結果は、透明性の確保や説明責任を果たすための情報であり、AIガバナンスを実現するための基盤になるわけだ（図2）。

図2：AIインベントリーに基づくライフサイクル管理