AI＋ブレインテックで“思考”を企業のインフラに再設計する【第5回】

AIと人間の関係性は結果の承認にとどまらない

　ブレインテックによる人間と思考システムの接続によって起こる変化を脳の側から見ると、別の輪郭が浮かんでくる。人間は、ある対象に注意を向け、その作業中に保持できる情報量には限界がある。何かを判断する際も経験だけでなく、思い込みや直近の情報、周囲の意見、疲労、時間的な圧力などに左右される。

　半面、曖昧な状況に意味を与え、言葉になっていない潜在的な問題を見つけ、相手の感情や組織の力学を読みながら判断したりができる。とりわけ正解が1つではない経営判断では、人間が対立する価値の優先順位を定め、その結果を引き受けなければならないだろう。生成AI技術が思考の速度と範囲を広げるほど、人間が担うべき役割は、かえって鮮明になってくる。

　そこでの問いは、AI技術をどの業務へ導入するかだけではない。AI技術が広げた情報や選択肢を前にした時に、人の注意や認知負荷、疲労をどのように捉え、AI技術が提示する内容と人の判断をどのように設計するかにある。

　人間の認知の制約と強みを起点に、何をAI技術へ委ね、限られた注意と時間をどこへ振り向けるのか。知的生産と意思決定を、認知特性から組み直すことが、思考を組織のインフラとして設計する際の中核になる。

　では、人間とAI技術の役割を実務ではどう分ければよいのか。「資料作成はAI技術に委ね、人間が承認する」といった業務単位だけで分担を決めると実態を見誤りやすい。業務の内側には、探索、構造化、発想、評価、決定、説明といった性質の異なる思考工程がある。それぞれのリスクを見ながら、誰が担うかを決める必要があるからだ。

　例えば「広い範囲を探索する」「情報を整理する」「複数案をつくる」「形式をそろえる」「過去のパターンと照合する」などの高速性や網羅性、反復性が効く工程はAI技術との相性がよい。

　これに対して、人間がより重く担うのは「何を問うか」を定め「事業や社会にとっての意味」を読み「対立する価値の優先順位を決める」工程である。計算上もっともらしい選択肢が、組織として選ぶべき答えと一致するとは限らない。

　こうした分担を考える際の基本が、AI技術の処理過程に人間を組み込み、必要な場面で人間が確認や判断を行う「ヒューマン・イン・ザ・ループ（Human-in-the-Loop：HITL）」である。

　ただし、常に人間が最後に確認すれば安全になるわけではない。AI技術が扱う情報量や自律性が高まるほど、人間は物理的に全てを精査できなくなる。確認がボトルネックになるだけでなく、承認プロセスが形式化し、AI技術の出力を十分に疑わない“追認のループ”に陥ることもある。

判断結果を業務ルールなどに反映させる“循環”が重要に

　そこで必要になるのが、案件の重要度や、不確実性、やり直しの可否、誤りの検知可能性に応じて、AI技術への委任範囲を変える設計である。定型的で修正可能な判断はAI技術に進めさせる一方、前例が乏しい、価値が衝突する、影響が大きい場合は人間へ戻す。AI技術の側にも、根拠の不足や情報の矛盾、許容範囲の超過を検知し、判断を差し戻す仕組みが必要になる。

　実務では、権限配分は案件のリスクで決め、認知状態の推定は情報量や通知、休憩の促し方など、作業環境の調整に使う。計測値だけで人の権限を変えてはならない。これが「適応的な委任」の基本線である。

　委任の設計は、一度決めれば終わりではない。人間が目的と基準を示し、AI技術が情報、選択肢、反証を広げる。人間はその結果から前提や欠落を確かめ、必要なら問いや判断基準を修正する。

　さらに、最終的な判断と、その後の結果を記録し、AIシステムの参照知識だけでなく、業務ルール、委任条件、人材育成にも反映していく。こうした循環が回ることで、1つひとつの意思決定が、次の判断をより良くする組織の学習資産になる（図2）。

図2：リスクに応じた「適応的な委任」と判断実績から学ぶ循環が必要に

　こうした循環が回れば、人間が時間を使う場所も変わってくる。会議は情報共有の場から、前提や選択基準を議論する場へと変わる。研究開発の現場では、人間が新規性の評価や、実験結果に覚えた違和感の解釈へ集中できるようになる。プロフェッショナルサービスでも、調査や資料作成の時間を圧縮し、顧客理解や合意形成、実行支援へ専門性を振り向けられる。

　繰り返すが、人間に求められるのは、AI技術の出力を最後に確認するだけの役割ではない。目的、価値、責任を担う「意思決定の設計者」としての役割である。