現時点で考えるべき３つのポイント

 

対話型の人工知能（AI）「チャット（GPT）」の活用が急速に広がっています。一方で、企業の間では、業務での利用を制限し始める動きも出てきています。今回はチャットGPTのリスクを考えてみます。

■事例：業務で利用すべきか

企業の広報部に勤務するAさんは、最近注目を集めている「チャットGPT」に興味をもっています。

チャットGPT（Chat GPT）とは、ユーザーが入力した質問に対して、まるで人間のように自然な対話形式でAIが答えるチャットサービスのことで、Open AIというアメリカのAI研究所が開発したチャットボット（ユーザーがメッセージを入力、または質問項目などを選択するとそれに合った回答をしてくれるプログラム）です。Open AIが2022年11月にリリースしたプログラムですが、生成した文章の見事さや人間味のある回答がSNSなどで大きな話題となり、かつ無料で利用できるプログラムであることから、今年2月の時点でユーザーは全世界で1億人を突破しました。これは過去に公開されたプログラムで最速です。また、最近になり米Microsoft社が開発元のOpen AIに対して100億ドルを投資することが報じられるなど、機能面だけでなく成長性でも注目されています。チャットGPTは日々改良を加えられていて、つい先日の3月14日に「GPT－4」のリリースを発表しました。GPT-4はこれまでのテキスト入力に加え、画像での入力にも対応できるようになっているとのことです。

これらの機能に興味を持っているAさんですが、その一方で、チャットGPTに関する様々な話も入ってきています。いわく

「AIの進化によって人が介在しなくてもできることが多くなり、仕事が無くなる」
「チャットGPTによって作られた文章の信頼性が不足している、また、AIが収集するデータに偏りがある場合があるので、業務でチャットGPTを使うことを禁止している会社が多くある」
「チャットGPTの利用により、個人情報や企業の機密情報が流失する恐れがある」

Aさんの会社においても、チャットGPTを業務で利用することを是とするのか、その場合にどのようなルールを設けるべきか、また非とするのなら、どういった理由によるものかを考えらければならないと思っています。Aさんは「チャットGPTはこれまでに無い大きなイノベーションになると思うが、そのようなものに企業としてどう向き合っていけばいいのか」と悩んでいます。

■解説：多様な活用方法

今年に入り、SNSを中心にその話題を見ない日が無いと言っていいくらい注目を集めているのがチャットGPTです。

国会においても自民党が今年2月に「AIの進化と実装に関するプロジェクトチーム」を立ち上げました。そこでの会合で、日本のAI研究の第一人者である東京大学大学院工学系研究科の松尾豊教授が発表したレポート「AIの進化と日本の戦略」において、チャットGPTができることとして以下のように整理されています。

① 文章の添削、校正

 ・文法ミスだけてなく、内容の改善点まで指摘

② 文章や概念の要約

 ・文字数を指定して要約

③ 壁打ち、ブレーンストーミング

 ・「～～」という考えのうち、抜けている点を指摘

 ・AIと人間で会話しながらアイディケーション

④ リサーチ、論点の洗い出し

 ・「○○」について要点だけ説明

 ・ディベート風に論点を洗い出し

 ・表形式で比較表を作成

⑤ アイデアの提案

 ・SEO対策したタイトルやキーワードの作成

 ・広告文の自動作成

 ・何かになりきって答える

 ・結婚式のスピーチのアウトライン作成

 ・人気の出るブログの内容案の提案

 ・例題や乱数などの生成

出典：「AIの進化と日本の戦略」東京大学松尾研修室 2023年2月17日

https://note.com/api/v2/attachments/download/a29a2e6b5b35b75baf42a8025d68c175

これら以外でも、チャットGPTはプログラミング活用であったり、作文や小説の創作、外国語の翻訳などに活用できます。特に、プログラミングでは、エクセルのマクロ作成やホームページ作成などのコードを生成することができ、それを業務に活用している人も多いようです。

筆者も早速Open AIのアカウントを作り、チャットGPTを使ってみました。

そこで、「チャットGPTを利用するメリットを詳しく解説してください」と質問したところ、以下の文章が返答されてきました。まるで人間とやり取りしているような自然な文章になっています。

■対策のポイント：企業が現時点で考えるべき３つのポイント

ここからはチャットGPTを企業が利用するにあたってのデメリットやポイントなどをみていきます。

米国では、大手金融機関を中心にチャットGPTの社内での利用を軒並み禁止しています。またAmazonでも社内での利用が禁止されているようです。これは、顧客情報や社内の機密情報など、GPTに送信された情報は、Open AIの開発者に見られてしまったり、今後の学習データとして使われたりする可能性があると言われているからです。実際に、Amazonの社員が機密情報をチャットGPTに送信してしまい、機密情報と酷似する返答がチャットGPTより返されたという話があり、顧問弁護士が社員に対して注意喚起を行った例もあります。

国内企業では、チャットGPTの業務での使用を認めている企業はまだごく少数のようで、多くの企業は「活用していない」および「検討中」としているようです。

以下、チャットGPTを利用する代表的なデメリットと言われているものを挙げてみます。

① 偽情報の生成や拡散

チャットGPTはあくまでも自動応答のためのツールであり、生成する応答には誤った情報や不適切な発言が含まれる恐れもあります。またそのような情報が急激に拡散されることで、倫理的な問題に発展する可能性があります。

② 機密情報の流出

上記の米国金融機関やAmazonが社内利用を禁止した最たる理由です。例えばアメリカでは、自社の2023年の戦略を記載した文書をチャットGPTに入力してパワーポイントの資料を作成するよう命じた企業幹部や、患者の症状を実名でチャットGPTに入力して保険会社へ提出する書類を作成しようとした医師などがいました。これらの情報がそのままアルゴリズムによってAIの学習データに利用され、世界中に拡散されてしまう恐れがあります。

③ バイアス

チャットGPTは大量のデータを元に学習するため、学習データに偏りがある場合、そのバイアスが反映されてしまう可能性があります。例えば、ある言語や文化圏に関する知識が少ない場合、その分野に関連した情報に対して偏った解釈を生成する可能性があります。

④ 著作権

AIの学習のためには大量の文章を取り込む必要がありますが、Webからテキストを収集しているため、自社のデータが利用許諾なく勝手に使われているとして、特にアメリカにおいて主要メディアがOpen AIに対して抗議をしています。しかしながら、現時点のOpen AIの利用規約によると、「入力」して「出力」された情報は、コンテンツとして扱われるとして、商用利用は問題ないとされています（出力された文章は、両当事者間で、適用法で許可されている範囲で、すべてコンテンツの権利を所有する）。但し、今後どのような取り扱いになるかは流動的だと言えます。

最後に、企業がチャットGPTを利用する際に、現時点で考え得る3つのポイントに触れておきたいと思います。

（1） ガイドラインの作成

社員がチャットGPTに企業の機密データを開示するような質問をすることを禁止するガイドラインやポリシーを導入する。

（2） 法人向けサービスの利用

Open AIによるチャットGPTではなく、例えばMicrosoft社が提供する「Azure Open AI Service Chat GPT」を利用する。（Microsoftは他の製品と同様のセキュリティとコンプライアンス管理を提供するとしているため）

（3） 人間によるレビュー

出力された文章は一旦人間がレビューし、誤った情報や偏った情報が無いか確認する。または、出力した文章やコードが全てコピーコンテンツということもあり得るため、参考程度に利用する

チャットGPTは前例のない優れたツールであることは間違いありません。うまく利用できれば確実に業務の効率化を図ることができるものといえます。だからこそ、企業とその社員はチャットGPTの危険性を理解して安全に活用する必要があるといえるのではないでしょうか。