• Column
  • 信頼できるAIのためのAIガバナンスの実戦的構築法

AI技術の進歩が企業AIガバナンスを求める【第1回】

熊谷 堅（KPMGコンサルティング 執行役員 パートナー）
2025年1月8日

生成AIの登場は、AI技術に対する認識を大きく変えた。あらゆる可能性に対し大きな期待が持てる一方、リスクに対する認識も変わってきており、AIガバナンス構築の必要性・重要性が高まっている。今回は、AIガバナンスを構築していくに当たり、AI規制に関わる世界的な動きや、その考え方、AIガバナンスの方向性などについて解説する。

　EU（欧州連合）理事会は2024年5月21日、生成AI（人工知能）を含むAI技術に対する包括規制「EU AI規制法」を成立させた。同年7月にEU官報にて公布した後、8月から発効および適用が始まっている。EU域内にAIシステムを提供する域外企業も適用の対象であり、そうした多くの日本企業も規制法の対象になる。

　EU AI規制法の目的は、“人間中心の信頼できるAI”の導入促進に加え、AIシステムの負の影響に対し、健康、安全、民主主義、法の支配、環境保護といった基本的権利を高い水準で保護することと、イノベーションを支援することである。

技術の進歩や発展につきまとうリスクの議論

　振り返れば2022年11月、米OpenAIが生成AIチャットサービス「ChatGPT」を発表。5日間での登録ユーザー数は100万人に達し、2カ月後には世界中の月間アクティブユーザー数が1億人に達したとされる。衝撃的なChatGPT登場後、AI技術に関する社会の状況が一変した。生成AIという極めて高性能のAI技術が市場を席巻し、DX（デジタルトランスフォーメンション）を推進するドライバーの代表格のように映っている。

　AI技術の進歩や発展にはリスクの議論が付きまとう。AI技術が人間の能力を超越する分岐点を「シンギュラリティ」と呼ぶ。それは当初、SF（サイエンスフィクション）の世界のように語られることも多かった。そこから、やや現実的な議論ではあるものの「トロッコ問題」のような哲学的論点に推移し、生成AIの登場によりAI技術が、より身近になったことで、より具体的に起こり得るリスクが論じられるようになってきている。

　冒頭に挙げたEU AI規制法は、ChatGPT登場前の2021年に欧州委員会（EC：European Commission）が提案したものだ。生成AIの基礎技術になっている深層学習モデル「Transformer」を米Googleの研究者らが発表した2017年以降、AI技術がもたらすリスクや諸原則の国際的な議論が盛んになり、現在に至っている。EUの規制は、EU基本権憲章の精神に則り、AIリスクに係る国際的な議論を反映し、法制化されたと考えられる（図1）。

図1：AI技術の進化過程で見えてきたAIリスクの論点

急激に進み始めたAIガバナンスの検討

　AI技術は、1950年代後半から1960年代に迷路や簡単なゲームをクリアする第1次ブームがあり、1980年代に専門分野の知識を取り込む第2次ブームを迎えている。それぞれが“冬の時代”に入り、2000年代から第3次ブームを迎えた。機械学習が実用化され、深層学習が登場した。冬の時代を迎える前に生成AIによるブレークスルーが起きたと考えられる。既にブームと捉えるレベルを超えたと言えるだろう。

　米国の巨大IT企業が提供するAIモデルなどは、次々に新たなバージョンや機能が展開され、そのAIモデルを使いやすくするためのプラットフォーム（基盤）やアプリケーションも充実が図られている。

　そこでは、クラウド型だけではなく、エッジコンピューティングへのAI技術の搭載（エッジAI）や、タスクの設定と実行を自ら実現するAIエージェント、人間の知性に匹敵あるいは超える汎用人工知能（AGI：Artificial General Intelligence）の登場、さらには、これら全てが自動的につながる未来が想像できる（図2）。

図2：種々のAI技術がつながる未来が想像される

　このような世界観が共有されていたか否かは定かではないが、2016年頃からAI技術に関わる原則が、世界各国・地域や関係機関などで議論されてきた。日本の「人間中心のAI社会原則」や、先進国各国の原則、EUの「信頼できるAIのための倫理ガイドライン」、経済協力開発機構（OECD）の「人工知能に関する理事会勧告」などだ。

　これらに沿ってAI技術に先進的に取り組む企業が増え、企業のポリシーやガイドラインとして掲げる事例も増えていった。その多くには、公平性や透明性、安全性、説明可能性、プライバシーといったキーワードが含まれる。

　そして今、AIガバナンスが、国際的な議論や国家レベルでの規制、企業内でのマネジメントのあり方など、異なる立場から複数の意味や用途で語られている。諸原則や各国の法律（ハードロー）やガイドライン（ソフトロー）などが制定されてはいるものの、AIガバナンスの明確な定義や、達成すべきこと、方法論などは確立されているとは言えない。そもそもAIの定義さえ、国際的に統一されたものは存在していない。

　しかしながら、ここ数年の技術の進展や発展・普及と合わせて、EUの法規制をはじめ、AIガバナンスの検討は急激に進んでいる。その方向性や主要な論点が、おぼろげながらに見えてきたというのが現状だ。