リターン上げるAI技術活用の加速が規制強化も生む【第46回】

AI技術活用の原動力となるデータを巡る議論も活発に

　AI技術の活用を広げていくうえでの課題も明らかになっている。データに関する問題だ。

　AI技術では、ロジックに基づいてプログラミングするのではなく、データから経験を学習し認識・推論・言語理解などのタスクを実行する。そのためデータが不足していたり偏っていたりすると、誤った答えを出したり正しい判断ができなかったりする。

　実際、AIチャットボットなどで、偏ったチャットが入力された結果として、ヘイトスピーチを話すようになったり、AIが偏った評価基準を作ったりして中止されたサービスも少なくない。AI技術の活用が広がることによって、データの独占とAI技術活用の倫理が課題になってくる。

　データに関しては、GAFA（Google、Amazon.com、Facebook、Apple）などによるデータの独占が問題になっている。彼らは、EC／決済／SNS／スマホなど、生活や仕事に不可欠になったプラットフォームを提供し、そこからデータを収集している。

　データ活用やデータ分析／AI分析などによって、製品／サービスを強化して利用者を囲い込み、さらに利便性を増すことで利用者を増やしていく仕組みは、独占や寡占につながり、競争に影響を与えたり、個人情報の不適切な活用など利用者に不利益を招いたりする可能性がある。人権侵害につながる可能性もある。

　これらデータの独占防止や利用に関しては、データ活用についての利用者の確認を始めとした大企業への規制や、EU（欧州連合）のGDPR（一般データ保護規則）に代表されるようなデータのポータビリティや使用に関する規制が強化されている。

　一方、AI技術活用における倫理に関しては、AI技術の無制限な利用が、人への危険や社会への重大な脅威を招く可能性がある。悪用によって過度の監視や検閲にもつながりかねず、誤動作による事故、誤った判断によるトラブル、自動化による誤った動作、誤った活用などを防ぐための対策が必要になる。

　そのための倫理規定や品質保証のルール、倫理面での安全性の審査などの設立の動きがを国や企業で起きている。例えばGoogleは2018年に「AI倫理憲章」を決め、Microsoftは17年に「AI倫理の委員会」を発足している。日本では、パナソニック、ソニー、日立製作所がAI活用のルール作りを進めている。

EUはリスクが高いAIシステムの利用を禁止へ

　EUは、AI技術の有益な活用を目指し2021年4月、AI技術の利用を制限する包括的な規制案を公表した。同規制では、個人の自由や権利の保護を重視し、禁止するAI活用を決め、リスクの高いAI活用には、システム要件の順守と「事前審査」の導入を目指す。違反には巨額の罰金が科される。

　禁止するAIシステムとしては、（1）人の脆弱性を利用して、その人を物理的または心理的に害するもの、（2）スコアリングなど公的機関や、その代理が、人の社会的行動や特性をAIシステムによって分類し、それが不利益や不利な扱いにつながるもの、（3）犯罪捜査以外で法執行につながるリアルタイムの生体認証に使われるものが挙げられている。

　加えて、重要インフラでの利用、危険を伴う箇所で使用するロボット、採用などにおけるAI判断なども、リスクが高いAIシステムにされている。

　これらリスクが高いAIシステムを導入するには、下記の要件を満たさなければいけない。

Transparency（透明性） ：AIシステムのプロセス全体や各工程内の内容が分かること
Human Oversight（人による監視） ：人の健康、安全など基本的な権利へのリスクを最小限にするよう、人による監視がされること
Risk management system ：システムのライフサイクルに亘ってリスクの検証や分析がおこなえる仕組みを持つこと
Training and Testing ：適切なトレーニングやデータの検証やテストが正確で確実に行われること
Technical Documentation ：AI規制への対応を示すテクニカルドキュメンテーションが完備され保守されること

　さらに、AIシステムを提供する要件として、コンプライアンス、適合性評価、通知や是正措置、品質管理、登録、市販後のモニタリングが要件として挙げられている。

　厳しい規制内容で、企業の負担の増加やイノベーションが阻害される可能性から、産業側から危惧が表明されるなど議論は続いている。だが、この規制で取り上げている要件は、AIシステムの安全で安心して使うための要件である。

　このような規制が出て来ることは、AI技術が様々なところで活用され、AIシステムの力と影響力が大きくなったことの証でもある。PwCの調査からは、多くの企業で全社的なAI活用がされ、リターンを生み出しつつあることを示している。

　AIは普及期に差し掛かり、製品／サービスやCX改革、プロセス変革など、企業にとって重要なテクノロジーになってきた。技術動向や事例から、AI技術の価値やAI技術でできることを認識し、多くの業務変革への活用検討を進めることが、企業競争力としてのAI技術の活用を実現する。