企業のAI活用は、”人が主導権を握る”設計で成否が決まる

――AI活用で競争力を高めようとする日本の組織はどこに向かうべきか。

　日本は、AI活用で世界の模範になり得る。世界では「AI技術が人間の仕事を奪う」と言われるが、人口／労働人口が減る日本では、AI活用がGDP（国内総生産）を伸ばす手段になる。

　加えて日本には、厳しい品質を守る「オペレーショナル・エクセレンス（卓越した業務遂行力）」の文化がある。粗悪な製品を出せない環境だからこそ、AI活用で成果を示す条件が整っている。

　取り組みの起点は、顧客に近い業務に置く。例えば銀行なら、顧客が自行のウェブサイトを使っている最中に、クレジットカードや新たなローンを提案する「次善の行動（Next Best Action）」が考えられる。保険会社なら、保険金請求の手続きを簡単にし、盗難事故の対応や支払い時期といった細部まで改善して、顧客のロイヤリティ（忠誠心）を高める道がある。SASも、日本においてこの取り組みに関わりたいと考えている。

――AIエージェントの運用で、企業が陥りやすい落とし穴は何か。

　落とし穴は（1）使うべき場面と使うべきでない場面の見極め、（2）複数のエージェントが連携する際の「複合エラー（Multiple Errors）」の2つがある。

　場面の見極めは、解決したい問題から始めて逆算し、その必要性を支えるための技術を選ぶ。実際には逆の組織が多く、企業内の標準的な自動化で済む業務にまでAIエージェントを導入している。より単純で効率の良い解決策があるのに、過剰な費用を投じているわけだ。AIエージェントはLLMの処理トークンを大量に消費するため、この過剰投資は運用コストに直結する。

　複合エラーは、エージェントの連携によってLLMの出力の揺れが連鎖し、誤差が膨らむ問題である。SASは意思決定自動化基盤「SAS Intelligent Decisioning」で、ビジネスユーザー自身が機械学習モデルとLLMの組み合わせの制御を担い、ワークフローが決定論的に動いているかをその場で確かめられる。LLMをいつ使い、いつ使わないかも、ここで判断する。

ガバナンスは責任を残し、事業の資産に変える

――AI技術による意思決定を統治するガバナンスは、どう設計するのか。日本企業の稟議や押印の文化とは、どう整合するのか。

　要点は、意思決定を可視化し、責任の所在を人に残すことだ。AI基盤の構造は多層である。データ、モデル、エージェントと依存する要素のそれぞれにガバナンスがあり、最上位には意思決定がもたらす成果の測定がある。

　経営陣と取締役会は、どこでAI技術が意思決定を下し、どのような成果を生んでいるかを把握する。可視化がなければ、意思決定は組織内に隠れ、リスクの種になる。各部門のAI活用の“レシート”つまり証拠を残せば、承認を重んじる文化でも、責任は人が担い続ける。この運用層として、SASは全社のAI活用のユースケースを棚卸しするための「SAS AI Navigator」を提供している。

　個々の意思決定には、可観測性（Observability）を組み込む。自動で決定するシナリオでは、決定と結果を分析して顧客への意図と合っているかを確かめる。人が判断の過程に入る「Human-in-the-loop」のシナリオもあり、ワークフローに応じて両方に対応する設計にする。成果を可視化すれば、誤りを見つけたときに根底のワークフローを改善できる。この改善の速さ、つまり「組織の学習速度」を最大にすることが企業に問われる。