“非決定論”的なAI時代の信頼は、組織のガバナンスとガードレールの設計で守る

　「3つの単語で問いたい。人に価値はあるのか（Will people matter？）」--。分析ツールを手掛ける米SAS エクゼクティブ・バイス・プレジデント（EVP）兼CTO（最高技術責任者）のブライアン・ハリス（Bryan Harris）氏は、基調講演の冒頭でこう切り出した（写真1）。「AI（人工知能）技術が重要になるという信念が揺らいでいるのではなく、人が重要であり続けるという信念の方こそが崩れている」というのがハリス氏の見立てだ。

写真1：米SAS Institute エクゼクティブ・バイス・プレジデント（EVP）兼CTO（最高技術責任者）のブライアン・ハリス（Bryan Harris）氏

　基調講演の開会に立った同社 アジア太平洋担当バイス・プレジデントのウィルソン・ホー（Wilson Ho）氏は、SASが2026年に創業50周年を迎えたことを紹介した。米ノースカロライナ州立大学発の統計研究を出自とする同社は「いまや150カ国以上に顧客を抱える」（ホー氏）

　SASの分析技術は「クレジットカードの不正請求を検知する仕組みや、安全性を確かめたうえで服用する医薬品の試験など、幅広い場面で稼働している。その歩みをホー氏は「これはテクノロジーの物語ではなく、人をどう支援して価値を守り続けるかに寄り添ってきた物語だ」と力を込める。

　そのホー氏に迎えられたハリス氏がまず示したのは、企業が扱うデータ量の増加曲線と、それを解釈する人員の増加曲線のかい離である。データは増え続ける一方で、それを読み解く担当者の数は同じペースでは増えない。この差が「情報過多を生み、混乱と疲弊、そして機会を同時にもたらしてきた」（ハリス氏）という。

　SASの50年をハリス氏は「人を技術で強化し、人間の観察と意思決定の規模を広げることで、このギャップを埋めてきた歴史だった」と強調する。そしてSASの技術を最も体現するのが「エージェンティックAI」だという。

複合エラーが静かにリスクを膨らませる

　ハリス氏は、エージェンティックAIを巡る論点を3つ挙げる。

　第1の論点が「複合エラー（Multiple Errors）」である。その要因をハリス氏は「企業の業務ワークフローは（1）決定論的（Deterministic）な要素、（2）非決定論的（Non-diterministic）な要素の2つで構成される」ことから説明する。

　決定論的な処理は、あらかじめ定義された規則と論理に沿って動くため、同じ入力からは常に同じ出力を得る。融資審査で言えば、所得や債務、信用の要件を満たす申込者は、いつ申し込んでも承認という同じ結果に行き着く。「ルールベースのシステムが得意としてきた領域」（ハリス氏）だ。

　一方の非決定論的な処理を代表するのが、LLM（Large Language Model：大規模言語モデル）を組み込んだ処理だ。LLMは固定された規則や論理を持たず「確率的に出力を組み立てるため、同じ入力を与えても出力が揺れる」（ハリス氏）

　例えば、マネーロンダリング対策のアラートに優先順位を付ける業務を挙げる。AIエージェントは、疑わしい取引の情報に加えて、顧客のプロファイルや過去の事案、調査員が残したメモを読み込む。ここからどのアラートから対応すべきかの推奨と、その理由の説明を生成する。

　ところがLLMには固定的な判定ルールがないため「同じ入力（取引情報）を与えても、あるときは低リスクに、あるときは高リスクと判定してしまう余地が残る」（ハリス氏）。優先順位を誤ったアラートを追い掛ければ、銀行は本来より大幅に高いリスクを負うことになる。ハリス氏は「ワークフロー全体で精度を担保し、規模が拡大しても複合エラーを防ぐガードレールを組み込む必要がある」と強調した。