- News
- 共通
“非決定論”的なAI時代の信頼は、組織のガバナンスとガードレールの設計で守る
「SAS Innovate on Tour Tokyo 2026」の基調講演より
ガバナンスとデータの品質が信頼を支える
第2の論点は「信頼の広がり方が個人利用と企業利用とで異なる」（ハリス氏）点だ（図1）。コーディングや調査といった個人のユースケースでは、LLMが介在しても人が誤りを見つけて都度軌道修正できる。つまり「信頼は最終的に利用者個人の側にとどまる構図」（同）である。
一方、多くの人が依存する業務ワークフローをまるごと自動化する企業戦略の曲面になると話は変わる。その信頼の宿り先は「個人から、プロセスそのものの正確性と再現性へと移る」とハリス氏は説明した。
では、企業の信頼を組織としてどう支えていくか。SAS AI倫理・ガバナンス・社会的インパクト担当VPのレジー・タウンゼント（Reggie Townsend）氏は、技術が社会を作り替えるなかでも守る価値のあるものとして「文化（Culture）と仕組み（System）」の2つを挙げる。
両者は互いに影響し合う関係にあり「文化を保つために設計した仕組みが、やがて新たな文化そのものを生み出し始める」（同）という。採用の場面でAI技術が算出したスコアをそのまま採否の判断に使う担当者を例に「AIシステムが少しずつ人間の判断を置き換えている」と指摘した。
タウンゼント氏は「ガバナンスは仕組みだ。私たちの判断の規模を広げ、その結果として文化を保存するための仕組みになる」と話す。その実装として挙げたのが、企業全体のAI資産をユースケース単位で可視化するSaaS（Software as a Service）「SAS AI Navigator」である。いわばAI活用の“台帳”に当たるサービスである。
同じ信頼を実務にどう根付かせるかを、同社 マーケティング担当VPのミシェル・エガース（Michele Eggers）氏は「業種別サービスを展開する戦略を敷いている」とする。「LLMは予測も生成も要約もこなす。だが数十年にわたって積み上げた実務経験までをかき集めることはできない」（同）
戦略の一例としてエガース氏が挙げるカナダの大手銀行は、行内で稼働する数千のモデルを統制するために分析モデル管理ソフトウェア「SAS Model Risk Manager」を導入。2025年初めに移行に着手して本番稼働に至り「実務知を反映したモデル管理を信頼の担保にしている」（エガース氏）という。
ガードレールの組み上げが企業の信頼を強固にする
第3の論点は、信頼のためのガードレールを実際にどう組み立てるのか、という点だ。ハリス氏は、最も普及したユースケースであるAI支援型のソフトウェア開発を例に（1）設計：Design、（2）実行：Execute、（3）検証：Verify、（4）妥当性確認：Validate、という4段階の作業手順を示した。
設計段階についてハリス氏は「人の価値はコードを書くことから、AIエージェントが正しい判断を下すように条件や制約を与える『コンテキストエンジニアリング』という新しい規律に移る」とみる。ここでの人の仕事は「実現したい機能、満たすべき技術要件、テストして確かめるべき目的を定義する作業」（同）であり、同時に作業には強い業務ドメインの知識を要する。この定義を受けて、AIエージェントがテストケースを自動で作成する。
続く実行段階ではAIエージェントが設計仕様とテストを条件として受け取り、両方を満たすコードが仕上げるまで生成を繰り返す。そして検証段階は「出来上がったソフトウェアが設計段階の技術仕様を満たしているかどうかの確認」（ハリス氏）であり、妥当性確認は「テストの結果が、そもそものビジネス上のニーズを満たしているかどうかの確認」（同）に当たる。「2つの確認がコードの精度と再現性を支えるガードレールになる」（同）
ガードレール構築の4段階をハリス氏は「業種ごとの業務ワークフローに当てはめれば、ROI（Return On Investment：投資対効果）を生む土台になる」と説明する。この考え方を具体的な製品として体現するのが、意思決定自動化基盤「SAS Intelligent Decisioning」である（図2）。
SAS Intelligent Decisioningは、業務のルールと予測モデルを画面上でつなぎあわせ「この条件ならこう判断する」という意思決定の流れを構築する。そのためにワークフロー全体を統括するAIエージェントと、その回答を検証・確認するAIエージェントを役割分担する構成で「制御と創造性、そしてガバナンスに適切な均衡を与える」とハリス氏は説く。