AI倫理とAIガバナンス【第8回】

　その他にも、人の命に係わる安全性に配慮すべき案件や、軍事利用が想定される機材への搭載、生体情報を基にした解析、司法判断に活用され得る場合など、専門的・学術的な分析を必要とする例もあるだろう。

　AIモデルやAIシステムを開発・提供する企業などは、最終的な利用者（エンドユーザー）や利用によって影響を受ける第三者など、社会に対して配慮する必要がある。それだけに他者の基本的権利（人権）への影響に鑑み、ESG（環境・社会・ガバナンス）やサスティナビリティの観点と関係付けて推進している。

　株主などの投資家向け情報開示として、AI倫理に関する取り組みを紹介し、自社の体制やポリシーなどを公表している事例もある。これらは時代背景に合った対応であり、AIシステム開発やユースケースの多くない状況下では評価に値する対応だと言える。

AIガバナンスは、より具体的・実務的な対応を求める

　上述したAI技術の開発・利用に先進的に取り組んでいる企業などにおけるAI倫理の取り組みは、企業としてのリスクマネジメントの一環と言える。リスクを踏まえて実行可否を適切に判断し、意思決定する枠組みということだ。

　一方、近年よく見聞きするようになった「AIガバナンス」も、基本的には同じリスクマネジメントの一環である。AIにまつわるリスクを抑え、事業上の効果やメリットの享受を最大化するものだ。

　以下では敢えて、企業などの取り組みの傾向やAIガバナンスの国際的な議論の趨勢などから、両者の違いを述べる。ただし、両者の定義化を図るものではなく、全てのケースに該当するものではないことには留意いただきたい。

　AI倫理を重んじてきた企業は、AI技術の開発や利用などの実行可否を判断する仕組みを構築している。起案・計画時など、可能な限り早い段階で判断することを志向していることだろう。

　おそらく、ほとんどの場合、AI技術の用途・使用方法（ユースケース）によって、倫理的な観点から問題はないか、つまりそのような使い方をしてよいのか、提供して利益を求めることが一般的に許容されるのかなどを多角的な視点から検討し、リスクと必要な対応を含め、実行可否を判断することになる。

　一方のAIガバナンスは近年、ライフサイクル全体でのマネジメントを志向する。起案・計画時点だけではなく、AIモデル／AIシステムの設計・開発から運用にわたってリスクを抑えるというのが基本的な考え方になる。

　従って、ユースケースから想起される社会的な影響や利用者などに不利益を与える可能性だけではなく、システムの設計・開発段階で実施すべきこと、運用段階におけるモニタリングや是正など、構築プロセスや技術的な対応に踏み込むもので、より具体的・実務的な対応を求めていくことになる（図2）。

図2：AIガバナンスの取り組みは、より具体的・実務的な対応になっていく

　例えば、AIモデル構築時の大量データの入手方法や保管時点の安全管理、当該ユースケースにとってのデータサンプルとしての十分性の担保、AIモデルやAIシステム構築におけるサイバーセキュリティ対策、人の介在を前提とする業務設計とシステム設計（ヒューマン・イン・ザ・ループ）、稼働後の劣化を検知・防止するためのモニタリング計画、透明性確保のための関係者に提供する情報の特定などである。

　これらの項目を起案・計画段階で全て明らかにすることは難しい。設計・開発段階などでの実施状況や検討結果によって、より具体的にリスクを識別し、評価することになる。

　つまり、AIガバナンスはリスク評価だけではなく、AIモデル／AIシステムの設計・開発・運用を適切に実施するため、その標準的な方法や管理方法、実施状況の監視などのライフサイクル全般を予めマネジメントするという考え方だ。

　両者はけっして排他的ではなく、明確な境界があるものでもない。相互に補完するものであり、時として同じ意味で使われることもあるかもしれない。近年では、特にリスクの高いAIモデル／AIシステムは起案・検討着手時点のみならず、ライフサイクル全体でマネジメントしていくことがAIガバナンスに求められている。

　AIガバナンスの構築や、さらなる改善・高度化を志向する企業には、改めてその視点で再評価し、是非取り入れていただきたい。

　次回は、最終回として、企業などが今後、AIガバナンスの構築と実践の取り組みをどのように進めるべきか、プロジェクト計画やプロジェクトマネジメントについて事例を交えて解説する。