- Column
- 大和敏彦のデジタル未来予測
ChatGPTが加速した企業や社会のAI活用【第67回】
ChatGPTを巡る課題や懸念における5つの論点
論点1：生成物の正確性
機械学習によるAIシステムは、学習するデータが十分でなければ正しい答えが返せない。ChatGPTは、データが十分でない、あるいは、ない場合でも、答えを出そうとするため、学習したデータにない情報を推測する「幻覚（hallucination）」現象を起こすことがある。この特性を理解した上で、答えをそのまま使うのではなく、正確性やデータの情報源を確かめる必要がある。
論点2：情報漏洩
ChatGPTでは、「入力されたデータは、モデル改善に使用する場合がある」とされており、利用者はデータの流通・利用をコントロールできない。機密情報を入力してしまうと、その機密情報を元に第三者への回答として新たな文章が生成されれば、情報が漏洩してしまうリスクが発生する。ただAPI経由で活用する場合はデータは利用されない。APIとして活用したり、APIとして活用しているサービスを使ったりする方法がある。
論点3：情報の勝手な使用
生成するコンテンツの元になる学習データには、他の人やクリエーター、エンジニアなどが作ったものが含まれる。それらが使われても出典は明らかにされない。誰かが苦労して得た知識や考えが、その人の功績として明示されないまま情報源として使われてしまうケースがある。
論点4：学習への悪影響
米ニューヨーク市教育局は、「ChatGPTの使用は、クリティカルテシンキングや問題解決のスキル育成につながらない」と指摘している。ChatGPTに頼ってしまうと学習の機会を失うと考えられる。
論点5：不正への利用
質の高いアウトプットが可能になれば、論文作成やテストなどに利用されるケースが考えられる。OpenAPIのサービス規約では明確に禁止されているものの、ChatGPTを使って、マルウェアやウィルスなど害を与えるソフトウェアやフィッシングメールが作成させることが考えられる。
生産性を高めるために課題を考慮したガイドやルールを作る
図1に挙げたように、さまざまな用途に対応するChatGPTの活用は、仕事の生産性を大きく高められる。AIシステムの精度や性能が高まるにつれ、適用可能な分野も広がる。
ChatGPTによって生産性などの成果が見込めるのであれば、「100%完璧でなければ使えない」と考えるのではなく、ChatGPTをツールとして利用して、製品／サービスの改善や生産性をどれだけ高められるかを考えることが重要だ。その活用に向けた課題や懸念が、どこにあるのかを理解し、それらのリスクを回避できるようにガイドやルールを設けるなどの仕組みを作り進めることが大事である。
例えば、米JPモルガンチェース、みずほFGなどの金融機関のほか、米Amazon.comやソフトバンク、富士通などは、主に機密漏えいの危惧から、ChatGPTへのアクセスを制限したり、ルール作りを急いだりしている。
情報漏えいのリスクは、代替の言葉を使うなどの工夫によって避けられ、利用ガイドやルールの作成・教育によって低減できる。パナソニックコネクトは、ChatGPTへの対策を考え教育を実施したうえで、大規模活用を始めている。日本で働く全社員が、資料の下書きなど業務の“助手”として利用する。
ChatGPTをはじめ新しいテクノロジーは、使ってみて初めて、新しい使い方や問題点・改善点がわかることもある。それらの問題点・改善点は、次のツールを選択・活用する際や、製品／サービスを開発する際に役立てられる。
大和敏彦（やまと・としひこ）
ITi（アイティアイ）代表取締役。慶應義塾大学工学部管理工学科卒後、日本NCRではメインフレームのオペレーティングシステム開発を、日本IBMではPCとノートPC「Thinkpad」の開発および戦略コンサルタントをそれぞれ担当。シスコシステムズ入社後は、CTOとしてエンジニアリング組織を立ち上げ、日本でのインターネットビデオやIP電話、新幹線等の列車内インターネットの立ち上げを牽引し、日本の代表的な企業とのアライアンスおよび共同開発を推進した。
その後、ブロードバンドタワー社長として、データセンタービジネスを、ZTEジャパン副社長としてモバイルビジネスを経験。2013年4月から現職。大手製造業に対し事業戦略や新規事業戦略策定に関するコンサルティングを、ベンチャー企業や外国企業に対してはビジネス展開支援を提供している。日本ネットワークセキュリティ協会副会長、VoIP推進協議会会長代理、総務省や経済産業省の各種委員会委員、ASPIC常務理事を歴任。現在、日本クラウドセキュリティアライアンス副会長。