『金融生成AIガイドライン』は業界の“攻め”と“守り”の両立を目指す

ガイドラインは生成AI活用のリスクを11項目に整理

楠戸 ：ガイドラインではレベル3の先行事例としてAIアバターによる接客の実証実験や融資申請プロセスの自動化を紹介しています。しかし顧客接点領域での活用は効果は大きいものの、その裏側にあるリスクや留意点も増えています。レベル1からレベル2、そしてレベル3へとステップを踏みながら進める必要もあります。

山田 敦 氏（以下、山田） ：日本IBM コンサルティング事業本部 技術理事の山田 敦です（写真4）。社内ではAI倫理委員会の日本チームリーダーとして数百件に上るAIリスク審査も担当しています。

写真4：日本IBM コンサルティング事業本部 技術理事 山田 敦 氏

　“攻め”の生成AI活用が進む一方で“守り”のガバナンスをいかに構築するかは金融機関にとって避けられない課題です。ガイドラインでは生成AI活用のリスクを11項目に整理しています。

　『第1.0版』で、個人情報・機密漏えい、ハルシネーション、プロンプトインジェクション、サードパーティリスク、著作権侵害の5つを挙げました。『第1.1版』では、AIエージェントの想定外動作、処理のブラックボックス化、責任所在の不透明化、エージェントジャック、複数エージェント間の相互作用リスクの6項目を追加しました。

　AI活用に向けては、いろいろな法律やガイドラインがあります。著作権法や個人情報保護法、金融規制法、AI事業者ガイドライン、セキュアAIシステム開発ガイドラインなどです。これら多岐にわたる規制の要点を金融機関向けに整理した上で、それぞれとの関係性の整理にも踏み込みました。基本的な考え方は、AI事業者ガイドラインの10の原則を踏襲しながら金融業界に合わせるということです。

　所属企業ではAIプロジェクトの審査を担当していますが、そこで心掛けているのは「基本的にブレーキではなくガードレールだ」という考え方です。前に進めるための“安全装置”という考え方は絶対に崩しません。審査は「重箱の隅を突く」のではなく「安全なルートを見つけて前進を促す」ものなのです。

佐藤 ：まさに『金融生成AIガイドライン』が目指すのが“攻め”のガバナンスです。膨大な考慮事項の中から生成AI活用を支援するノウハウを注入しました。

AIエージェント時代にも役立つガイドラインに

佐藤 ：今後はAIエージェントの利用が一般化してきます。そこでの課題と、ガイドラインの役割は何でしょうか。

楠戸 ：AIエージェントが自律的に動作するようになれば、情報の探索や判断などを任せられる可能性があり、新しい価値の創造につながります。一方で情報管理の面では非常に高いレベルの統制が求められるだけに、AIエージェントが自由度を持てば持つほど、その統制は難しくなります。そこでのガイドラインの役割は「目利きを養う参考書・教科書」になるでしょう。

山田 ：Human in the Loopが重要ですが、それも万能ではありません。既に日常業務で承認依頼メールが届けば、あまり考えずに「イエス」とか押していないでしょうか。近い将来、AIエージェントから承認依頼メールが多数、届くようになります。その時に無意識に「イエス」と押してしまわないように、Human in the Loopのデザインが鍵を握るでしょう。ガイドラインは「困った時のお守り」です。

阪本 ：AIエージェントに、どこを任せ、どこに人が介在するのかが問われるはずです。業務プロセスやデータを整備し、どこを抑えなければならないのかに地道に取り組まなければなりません。遠回りのように見えますが、それこそが生成AI活用の近道のはずです。

　そうした負荷を軽減し、より前向きなところに力を割けられるようにガイドラインも常にブラッシュアップしていきたいと考えます。