企業のAI活用は、”人が主導権を握る”設計で成否が決まる

――AI（人工知能）技術は何のために使い、その場面で人はどのような役割を担うのか。

　AI技術を使う目的は、人間の知性と推論能力を拡大することであり、その主導権は常に人間が握らなければならない。

写真1：米SAS Institute エクゼクティブ・バイス・プレジデント（EVP）兼CTO（最高技術責任者）のブライアン・ハリス（Bryan Harris）氏

　組織は毎日、膨大な情報を集め、生み出しており、人はその量に圧倒されている。AI技術は、この情報過多を乗り越えて日々の意思決定を改善する手段だ。整理した情報を判断に生かし、その改善を事業全体に広げれば、市場や顧客に対する企業全体の判断が変わる。構図はこれだけで、あえて複雑にする必要はない。

　人類が存在し始めて以来、技術は人の繁栄を追い求めて生まれてきた。使い方は人が判断し、使うべきでない場面では人が意思決定を下す。介入を望まない場面も存在するからだ。統計を評価し、検証し、洗練された仕組みを正確に作るのも、専門知識を持つ人の仕事である。

――企業がAI（人工知能）技術を信頼して使うために、重要な設計思想は何か。

　LLM（Large Language Models：大規模言語モデル）に意思決定の全てを下させず「決定論的」な手法に担わせることだ。LLMには、なぜその決定に至ったのかの説明を任せる。

　LLMの土台は統計的な確率であり、その確率は均一ではない。出力を確率で組み立てる「非決定論的」な技術のため、事実と異なる内容を出力するハルシネーション（幻覚）が起きる。LLMが特定の決定を下す際に問題を抱えているのは確かで、この欠点は適切なツールで補うしかない。

　我々はその限界を認識しており、モデルの性能や用途を記した「モデルカード」のような仕組みで、精度を長期にわたって評価しようとしている。誤った判断をしていないかを文書にし、証拠として残す取り組みだ。性能を透明にすることで、非倫理的な結果を招くバイアスを避ける。

　特に銀行、保険、ライフサイエンス、公共部門などはコンプライアンスが厳しく、正確性は100％でなければならない。信頼できる結果と再現性を求める要件に応えていきたいと考える。我々は、予測、最適化、機械学習といった決定論的な定量手法に数多く実績があり、これらをAI分析基盤「SAS Viya」上でLLMの説明力と結び付けている。

コスト削減だけのAI活用では競合に敗れる

――AI活用をコスト削減の手段と捉えることに、どのような危うさがあるのか。

　ビジネスの重要な指標は、常に売上とコストの2つである。売上を伸ばすのか、コストを削るのか。この問いから、変えるべき事業の部分が見えてくる。

　コスト削減だけを狙えば、AI技術で新たな価値を生み出す競合企業に敗れるリスクを負う。AI技術で人件費を減らすという考え方は、競合も同じように採るからだ。

　リーダーが問うべきは、その上へとどう新たな価値を積み上げるかだ。インターネット、クラウド、統計、アナリティクスと、技術は一貫して組織の価値創造を支えてきた。ところがAI技術になると「従業員が生み出す価値そのものを変えたい」と考えるリーダーが増える。今後20年、強靭な企業であり続けるためにどのような価値を創るのか、という議論は置き去りになっている。

　全員が1つのプロンプト（指示文）で同じ知識（ナレッジ）に触れられる世界を想像してほしい。差を生むのは、知識の使い方だ。創造性とビジョン、新しい価値を創り出せるのだという「信念」が必要だと考える。