AIで作成した対顧客メッセージに内在する偏見や差別を検知する機能、米PegasystemsがCRMに追加

　米Pegasystemsが発表した「Ethical Bias Check」は、種々の顧客チャネルにおいてAI（人工知能）が対顧客向けに生成するメッセージを対象に、差別的と判断される可能性があるものを顧客に届く前に検知し通知するサービス。同社製CRM（顧客関係管理）サービス「Pega Customer Decision Hub」の追加機能として提供する。

　Customer Decision HubはAIを搭載し、Webで見込み顧客に配信するコンテンツであるマーケティングオファーや、メールで送信する各種の販促メッセージや推奨などのコンテンツを生成できる。

　しかし、AIの学習によっては、AIモデルの判断に影響を及ぼし、年齢や性別などに起因する企業が意図しないバイアス（偏見や差別）が発生する可能性がある。Ethical Bias Checkは、そうしたバイアスの発生を低減し、顧客との関係性を改善し、顧客に提供できる生涯価値を高められるようにする。

　意図しないバイアスの検出では、事前に予測分析を実行し、戦略を実行した結果をシミュレーションする。シミュレーションは全チャネルのエンゲージメント戦略全体を対象に一括で実施する。またバイアスを持つコンテンツが作成される理由と、その場所については詳細なバイアス検出レポートを提供する。

　企業は、年齢や性別など、バイアスを引き起こす可能性のある要素に対する許容範囲となる、しきい値を設定できる（図1）。

図1：「Ethical Bias Check」におけるバイアスしきい値の設定画面の例

　たとえば、医療機関が関連するメディケアサービスに関する情報を配信し、主に高齢者に接触した場合では、年齢層が偏った結果が正当化されるシナリオを考慮し、しきい値を調整する。またエンゲージメント戦略を実行した後の結果を最適化するために、しきい値を拡大／縮小することもできる。

　戦略実行の結果をシミュレーションする際にも、バイアステストが実施できる。シミュレーション結果に基づき戦略が調整され、新しいコンテンツが作成された後も継続してバイアスの発生を防止できるとしている。