- Column
- 信頼できるAIのためのAIガバナンスの実戦的構築法
AIガバナンスが重視するAIライフサイクル【第4回】
「AIシステム」と「AIモデル」を区別する
ではAIのライフサイクルとは、具体的には、どのようなものか。AIライフサイクルを検討する場合は、まず「AIシステム」と「AIモデル」があることを認識・区別したうえで、それぞれの工程を含めた一体として捉える必要がある。
AIシステムとは、さまざまなレベルの自律性で動作するように設計され、学習する機能を有するソフトウェアを含むシステムを指す。一方AIモデルは、AIシステムに含まれ入力データに応じた推論または予測を生み出すものを指す。
AIのライフサイクルに言及する場合、両者が統合された枠組みであり、より広義となるAIシステムのライフサイクルであることが一般的である。もちろん、AIモデルの開発に従事する場合などは、その限りではない。
AIシステムのライフサイクルは、一般的なITシステムの開発・運用工程と利用段階を基本に、そこにAIモデルを組み込み検証し、AIシステムとして完成させることが加わると考えればよい（図2）。
AIモデルは、近年「AI基盤モデル」と呼ばれるLLM（Large Language Model：大規模言語モデル）の生成AIを活用するケースが多くなっている。だが、学習済みのAIモデルに各社独自のデータを追加学習させるファインチューニングによって自社専用モデルを構築する場合もあれば、ディープラーニング（Deep Learning：深層学習）以外の機械学習による独自モデルを構築する場合などもある。規定化・標準化などに取り組む場合には、AIモデルの構築や活用法のケースに分けて整備するとよい。
このようにAIシステムの構築を開始し、運用・利用状況を踏まえて改善する一連の流れがライフサイクルであり、それを組織内に定着させることがAIガバナンスには欠かせない。
AIシステムに限らず、一般的にシステム構築では、システム化を検討する事業部門や利用部門、データサイエンティスト、システム開発部門、運用部門、ITベンダーやサプライヤーなど多くの組織が関係する。AIシステムの品質管理やリスク管理の基礎となるライフサイクルと、その構成要素を関係者間の共通言語にし、役割やタスクを定め、プロジェクトマネジメントを実践することが重要になる。
帰納的アプローチで構築されるAIモデル
AIモデルの開発工程は、AIシステムのライフサイクルの構成要素の1つである。人がルール（仕様）を設定し、その通りにプログラミングする一般的な開発手法と異なり、AIモデルは、帰納的アプローチと呼ばれる手法で構築される。
帰納的アプローチでは、目的に応じてデータを収集し、クレンジングなどの前処理や特徴量エンジニアリングなどを経て、反復的に学習する。先にデータがあり、そこからプログラムを作り出すという意味から帰納的であるとされる。
統計的に構築されることから開発者自身も挙動を完全には把握できず、テストケースの作成や問題の再現・特定なども難しい。ソフトウェア工学で確立されている品質管理や、そのベースになる工程・タスクなどとは異なるプロセスになる（図3）。
AIモデルのライフサイクルとしては「MLOps」を実践する企業が増えてきている。MLOpsは「Machine Learning（機械学習））と「Operations（運用））を組み合わせた言葉で、開発工程と運用工程をパイプライン化しデータ処理やコミュニケーションを円滑にするとともに、バージョン管理やデプロイなどを統一されたプラットフォーム上で処理することで生産性を高めるものだ。
MLOpsでは、モデルのパフォーマンス監視や更新（適切なタイミングでの再学習など）をシステム化することで、より多くのモデルを迅速にデプロイし、より短期間での実装が可能になる。
オープンソースを含め、プロセス間をシームレスにつなぐソリューションも提供されている。このような構築手法や環境整備は文字どおり“パイプライン”となり、AIモデルに関わる者のタスクと、そのつながりを明確にし、定めたプロセスやルールに基づくAIガバナンス構築に寄与するであろう。
次回は、AIライフサイクルのうち稼働後の「モニタリング」について解説する。
熊谷 堅（くまがい・けん）
KPMGコンサルティング 執行役員 パートナー。システム開発等に従事した後、外資系コンサルティング会社を経て、2002年KPMGビジネスアシュアランス（現KPMGコンサルティング）入社。デジタル化やデータに関わるガバナンス、サイバーセキュリティ、IT統制に関わるサービスを数多く提供。現在はKPMG各国事務所と連携し、KPMGジャパンにおけるTrusted AIサービスをリード。法規制対応を含むAIガバナンス構築プロジェクトを手掛ける。