そもそもAIは信頼できるのか【第27回】

　近年のAI（人工知能）システムは、予測や分類といった限定されたタスクであれば人間を超える精度を示しています。では自分が就職する会社を決めてもらう場合はどうでしょう。予測精度は人間より確かなのですから、きっと内容的には妥当です。しかし、AIエージェントが就職先を決め、自分の意思を介在させずに、そこに入社するというのは、何となく腑に落ちないのではないでしょうか。

　ドイツの社会学者であるニクラス・ルーマン氏は、信頼には（1）馴れ親しみ、（2）人格的信頼、（3）システム信頼の3つがあるとしています。

（1）慣れ親しみ ：繰り返し同じ体験をして当たり前になっていること。明日も東から太陽が昇るように、疑う必要性のない種類の信頼です
（2）人格的信頼 ：その人と関わった結果「この人なら信じられる」と感じること。慣れ親しみとは異なり、疑う余地はありますが、それでも信じようと思うことです
（3）システム信頼 ：他の人も信じているので仕組みとして頼ろうと思えること

AIシステムには“慣れ親しみ”や“人格”は期待薄

　これを参考にすればAIシステムは、まず2番目の人格的信頼が壊滅的です。そもそも人格らしきものを有しません。例えば「ChatGPT」（米OpenAI製）など現在主流のAIシステムは、強い口調のプロンプトを投入すると発言がコロッと変わるため信念が感じられません。

　1番目の慣れ親しみは、十分に同じことを繰り返した結果、不確定なことが起こらなそうなので信じられるという趣旨ですが、AIシステムのような新しいものにおいては、最初のうちは関係ありません。というわけで、AIが信頼できるかどうかの議論は3つ目に掛かってきます。

　このシステム信頼とは、例えば紙切れである紙幣が、どうして価値を持つと思えるかというような話です。確かに多くの人が紙幣を信じて使っていますから、少なくとも日本で紙幣の価値に疑問を抱くことはありません。しかし考えてみれば、米国の金本位制が廃止されて50年しか経っていないこと、2023年にすら取り付け騒動で銀行が破綻したことから、紙幣ほど裏打ちのあるシステムですら脆さを持つことは確かです。ましてやAIがシステムとして社会に信頼されるのは簡単ではないでしょう。

　少しだけルーマン氏から離れ、別の切り口からも考えてみましょう。「善管注意義務」という言葉を聞いたことがあるでしょうか。「善良な管理者の注意義務」の略で「仕事を引き受けたときに、その立場にある人として一般的な注意を払って遂行しなくてはならない」という極めて常識的な話です。

　さて、AIシステムに仕事を頼んだとき、AIシステムは善管注意義務を果たしているでしょうか。ここには2つの疑問があります。

疑問１ ：AIシステムが備えるべき注意力はどの水準なのか。つまり、人間に仕事を依頼するのと異なり「AIシステムが払ってくれそうな一般的な注意の程度」が分かりません
疑問2 ：AIシステムはその水準を維持しようと努力してくれているのか。これはルーマン氏の「人格的信頼」とも関係しますが、仮にAIシステムが途中で計算を簡略化していても、説明が上手すぎて、いつ手抜きをしているのかを判断できません

　これらの状況を想像すると「AIに善管注意義務を求めていいか分からない」という意味で「AIは信頼できない」とも言えそうです。