- News
- 共通
「AI投資には“良い投資”と“悪い投資”がある」、ガートナーが指摘
AIの完全自律は必ずしもゴールではない
AI技術の急速な進化に伴い、AIの自律性をどこまで許容するかも大きな問題に浮上してきた。ガートナーはAIの自律性を次の5段階に分ける(図3)。
レベル1 :単純な質問応答
レベル2 :定型タスクの代行
レベル3 :部門横断業務の連携・調整
レベル4 :専門領域の自律遂行
レベル5 :完全自律
それぞれのレベルにおいて人間は、説明責任(誰が負うか)と可逆性(元に戻せるか)、結果の重大性(損害規模)を判断し行動する。つまり、AIシステムが顧客やサプライヤーに対し自律的なアクションを起こしエラーが起きれば「それを人間が撤回したり、元に戻したりする仕組みが担保されているかが極めて重要になる」(鹿内氏)ということだ。
損害規模や責任の所在を鑑みれば「後戻りできないアーキテクチャーへのAI投資は避けるべきだ」と鹿内氏は強調する。「現実的なところはレベル2かレベル3だろう。完全自律を目指すことが必ずしも正解ではない」(同)と人間の役割の重要性を示唆する。
またAI技術による自動化が進む中では技能継承のあり方も変化している。過去の知見をテキストや音声、画像、動画などのデータとして残す作業はAIシステムが担うようになる一方で、人間にしか担えない領域が明確になってきている(図4)。鹿内氏は人間の役割として次の4つを挙げる。
役割1 =判断力と文脈理解:マニュアル化できない暗黙のルールを判断するなど
役割2 =創造性:既存ルールを全否定する“ちゃぶ台返し”をするなど
役割3 =倫理的判断と共感力:「最後は自分が責任を負う」と腹をくくる覚悟
役割4 =技術的直感:AIシステムが出した答えに対し「何かおかしい」という違和感を抱くこと
いずれも、人間として泥臭い技能をマネジメントに生かすことを指している。そのうえで鹿内氏は「特定のITベンダーやシステムに依存し過ぎず、柔軟性を持ったシステムアーキテクチャーを描くことが重要だ」とアーキテクチャーの重要性を改めて強調する。
加えて「AI技術の利用額が一定の基準に達すれば強制的に遮断する“上限設定”の導入も不可欠だ」(同)とする。さらに「予算を期初に一括投下するのではなく、四半期や月単位でマイルストーンを設け、達成できなければ次の資金を出さないという考え方を採り入れる必要がある」という。すなわち野放図なAI投資を防ぐためのガバナンスが、無駄になる“悪い投資”を防ぐことにつながるというわけだ。
田中 克己(たなか・かつみ)
IT産業ジャーナリスト 兼 一般社団法人ITビジネス研究会代表理事。日経BP社で日経コンピュータ副編集長、日経ウォッチャーIBM版編集長、日経システムプロバイダ編集長などを歴任。2010年1月にフリーのIT産業ジャーナリストに。2004〜2009年度まで専修大学兼任講師(情報産業)。2012年10月からITビジネス研究会代表理事も務める。40年にわたりIT産業の動向をウォッチしている。主な著書に『IT産業崩壊の危機』『IT産業再生の針路』(日経BP社)、『2020年 ITがひろげる未来の可能性』(日経BPコンサルティング、監修)などがある。

