AIのリスクをどのように特定するのか（前編）【第2回】

　生成AI（人工知能）技術が世界的に認知され、その技術の進化に伴って、AI技術を利用する際のリスクに対する社会的関心が高まっている。AIリスクを巡っては、国際協調や各国・地域内での動きが活発になっており、AIに対するガバナンスの機運が急速に高まりを見せている。AIに対する人間の関与のあり方や監視の必要性についても言及されることが多い。

AIの可能性の高さが人間に恐れや不安を感じさせる

　では、なぜ人間はAIを恐れるのか、危険性や不安に駆られるのだろうか。最大の理由は、AI技術の未知の可能性だろう。AI技術は現時点においても発展途上の段階にあり、今後も急速・急激に進化を遂げる可能性が極めて大きい。その可能性の広がりも、人間と同等のことができるリアリティを感じさせ、機械が人間に近しい反応や、人間と見間違える行為を行えそうなことに、一種の恐怖を覚えることさえある。

　しかも、機械ならではのデータ処理量や速度を備えることから、生命体ではない機械自らが、自身を増幅させる世界を想像してしまう。リスクを論じる背景や根底には、このような潜在意識があるのではないだろうか。

　直面する目の前の世界では、生成AIの登場以後、ビジネスシーンでの活用が急速に始まるなど、一瞬で身近な存在になった。ユースケースが話題に上ることが多くなり、社会的に注目を集める出来事が増えている（図1）。

図1：生成AI技術の利用拡大に伴い社会的にリスクへの認識が高まっている

　社会的出来事の一例としては著作権問題が挙げられる。2023年には全米映画俳優組合が、映画業界における生成AI活用は俳優などの仕事を奪うとして、長期間にわたるストライキを慣行した。また生成AIによる高精度な生成物は、偽情報や誤情報の蔓延、すなわち「ディープフェイク」と呼ばれる悪質な行為が民主主義に悪影響を及ぼすと各方面が警鐘を鳴らしている。

　一方で、生成AIの進化過程においては、識別能力の問題や誤検知、差別的判断といった事象が象徴的に取り上げられることが多い。国際的にも兵器への使用の禁止や危険性について議論がなされているなど、生成AIに対する懸念点は枚挙にいとまがない。

　このようにAIの技術的進化の可能性が無限であることに加え、その用途も無限の可能性を秘めている。AIは人間の能力同様に、極めて汎用性が高く、さまざまな技術革新や先端技術と相まって、検討すべきリスクもしばらくは増加の一途を辿っていくだろう。

AIリスクにはAI技術によるものと結果の利用によるものがある

　AIには特有のリスクがある。正確には「AIの性質から強調されることの多い事象」というべきだろう（表1）。比較的古くから認知され検討されているリスクに「バイアス」がある。画像データなどの誤認識も関係し、結果的に差別的な事象として出現するケースもあり、問題は根深い。

表1：AIの性質から生じる代表的なリスク

　例えば、肌の色や頭髪などに特徴がある顔写真があったとしよう。それをAIが人間以外の動物と識別すれば、笑い話で済むこともあるだろうが、結果の使われ方によっては、極めて不愉快な思いや差別的だと憤るケースも考えられる。

　大規模言語モデル（LLM：Large Language Model）をベースにした生成AIが登場して間もなく、「ハルシネーション（幻覚）」がAIリスクとして強く認識された。ハルシネーションは、生成AIが事実とは異なる内容や文脈と無関係な内容を生成する事象である。高性能であるがゆえに、もっともらしい答えを導き出すのだが、それを正しい回答として扱うことによって問題が生じる。

　一方で、本番稼働するAIの精度が低下する現象がある。これは「ドリフト」と呼ぶ。次世代のAIモデルを訓練するために、AIが作り出した人工的なデータを使う過程を繰り返すと、「モデル自己消費障害（Model Autophagy Disorder：MAD）」という循環が起こり、モデルの質（精度）や多様性（網羅性）が徐々に低下してしまうとされている。

　AIモデル自体の懸念や問題だけでなく、使用した結果が社会課題になる場合もある。社会的影響力を持つインターネット上のWebサイトやSNS（ソーシャルネットワーキングサービス）などで注目されている「エコーチェンバー」や「フィルターバブル」といった現象だ。

　エコーチェンバーは、自分と同じ意見が繰り返され増幅されることによって信じ込むこと。フィルターバブルは関心のある情報にのみ触れることで、反対の情報を排除する傾向になることである。いずれもAIのみに原因があるわけではないが、人間の判断や意思決定に対し間接的に影響を与え得る現象である。