AIのリスクをどのように特定するのか（前編）【第2回】

AIのリスクは段階的に評価・分析する必要がある

　AI技術の導入に際し、そのリスクを評価したうえでAIシステムを構築・利用するケースが、大手企業を中心に増えている。その手法はさまざまだが、各社とも創意工夫によりAIのリスクを導出し、対策を講じているものと推察される。

　しかし、AIのリスクに限らず、一般的にリスクの検討においては、明確な定義やカテゴリーを表すオーソリティ（権威）や学術的な文献がないことが悩ましく、その特定において網羅性の確保が難しい。組織の関係者が認識する負の事象を単なる思いつきで挙げるだけでは、経営者や組織の上席者の理解や承認は得られず再考を求められるなど、推進担当者は頭を抱えることも多い。

　現時点でデファクトスタンダード（事実上の標準）と呼べる確立された方法は存在しないが、リスクの評価・分析方法をいくつか紹介する。

　1つは、AIの原則を評価の観点に活用する方法だ。AIの原則とは、AIの実装が急速に普及した2016年を基点に、多くの国や地域、国際機関・団体などが公表しているものである（『AI技術の進歩が企業AIガバナンスを求める【第1回】』参照）。

　構成項目（原則）には、「公平性」「透明性」「説明可能性」「安全性」「堅牢性」「信頼性」「プライバシー保護」などが並ぶことが多い（図2）。専門家や研究者などがAIの持つ性質に着目してまとめているため、AIの重要なリスクと表裏一体の関係にあると言えるだろう。

図2：AIのリスクを導出する際の基点・観点としてAI原則を利用する

　先進的な企業では、これらの原則を参考にポリシーを定めている。ポリシーとは遵守すべきものであり組織の目標でもある。構築するAIモデルやAIシステムについて、各原則（目標）を照らし合わせ、阻害要因をリスクとして洗い出したうえで、発生の可能性や影響などを評価する。

　AIモデル構築の初期段階（例えば企画段階）で実施した評価や実施するとした対策を、AIシステム構築の後工程（例えばシステムへの組み込みや統合テストの段階）で再評価し、残余リスクを認識したうえで、AIシステムをリリースすることが望ましい。

　もう1つの方法は、AIのリスクを技術的リスクと社会的リスクに区分し、両者を掛け合わせるものである。技術的リスクは、訓練用データや、構築するモデル、出力データなどを念頭に、主にAIモデルやAIシステムの開発・運用に焦点を当てる。一方の社会的リスクは、ユースケースや利用シーンに着目し、特定の取引先やマーケット全体などへの社会的な影響を評価する。

　いずれも評価の前提には、基礎になるAIの性質を一定程度理解しておく必要がある。AI原則を用いるケース同様に、AIモデルや具体的な利用方法などは、企画段階と構築終了段階など構築過程で明確になったり変化したりすることが多いため、段階的に評価することが望ましい。

人間が定めたロジックで動くITシステムとは異なる考え方が必要に

　一般的なITシステムは、人間が定めたロジックを100％完璧に、何度繰り返しても同じ結果が生まれるよう仕込むものである。一方、AIモデルは、ディープラーニング（Deep Learning：深層学習）のようにブラックボックス化した処理過程や、構築過程での結果の微調整、稼働後の変化なども考えなければならない。しかもAIの利用方法は、無限の可能性があるだけに、極めて汎用性の高いモデルに大きな期待を寄せ、活用する機会が増えていくだろう。

　このような違いがあるため、AIのリスクを特定し、評価・分析する方法は、従来とは異なる考え方や方法を採用すべきではないだろうか。抑えるべきポイントとしてはまず、前述したように、構築初期から稼働後まで一貫性のある段階的な手法を採用することだろう。

　次に、AIはその利用方法が無限にあり、ユースケースに依拠することが多いため、どのようなビジネスシーンや業務にも適応できる網羅的な評価項目は設定しにくい。よって、予め設定された項目に従った一律の評価よりも、評価者が自ら能動的・積極的に、かつ柔軟にリスクを導出する方法を採用したい。

　ほかにも、企業が構築・利用する全てのAIモデルやAIシステムのリスクを評価する必要があるのかといった重要な論点がある。次回、後編では具体的なリスク評価方法を例示しながらポイントを解説する。