生成AIの利活用ガイドラインとは
ここまで本シリーズをお読みいただいている方であれば、AIとはどのようなもので、利活用できれば大変便利なツールであると同時に、使い方を誤れば種々のリスクが発生することはご理解いただいているだろう。
そのリスクは、ITすべてに共通のものもあれば、AI特有のものもある。巷で策定が必要だと言われるガイドラインは、AI特有のリスクという観点で定められたものであり、AIの特性を理解していれば、当たり前の内容が記述されているに過ぎないとお気付きであろう。
しかし、当たり前のことが書かれてあるガイドラインなのだが、問題もある。理由は言うまでもないだろうが、ガイドラインとして文字化し定義した瞬間に、その抜け道を通るなど、本来の趣旨と反する行為が発生するリスクも生じるのが世の常であるからだ。
法律であれば、法の抜け道を通る行為は違法性がないとされ、その時点では許容されるだろう。だが、ガイドラインのように法的縛りがなく設定されるルールの場合は事情が異なる。たとえガイドラインに書いてあるままに忠実に運用したとしても、その目的を違えて問題が生じるのであれば、それは不正と言われても仕方がない。結果がすべてなのである。
問題発生の原因は、ガイドライン策定時の記述不足かもしれないし、運用想定の不足かもしれない。ガイドライン通りの運用であったとしても、問題発生時には何の言い訳にもならないということは理解しておく必要がある。
わかりやすい事例で説明しよう。例えば、自社製品の使用時の安全を確保するために、製造時の検査基準や耐久テスト基準などを設定し、確実にそれらを守って出荷されたとしても、市場で安全性の問題が発生すれば責任は逃れられない。その場合、自社検査はクリアしているから問題ないと説明しようものなら炎上は必須であろう。
当然そこには、予期せぬ使用方法や環境の問題もあるだろう。だが、あらかじめその想定がなされ、禁止事項としていない限り、自社検査基準自体の誤りであり、リスク想定が甘いと判断される。
つまり、ガイドラインの例として提示されているのは、あくまで広く一般的に想定される策でしかなく、そのままで使えるわけではない。一般例として参考にしながらも、自社の運用内容、環境条件、関連業務との関係なども含めて、あくまで自社基準のリスク想定を行っていなければ意味はない。
そして、それらの自社条件は生モノであり、時間とともに変化するのも当然だ。定期的な見直し、確認作業は必須である。
生成AI利活用ガイドラインの留意事項
AI利活用ガイドラインの事例を見ると、その多くは「個人情報保護」「機密漏洩防止」「著作権保護」などのセキュリティの問題認識が多く記述されている。AIは多くのデータを読み込ませ、学習させて初めてその能力を発揮するのだから、読み込ませる多くのデータをどのように用意するのかを考える必要がある。
自分たちが普通に所有しているデータベースからのみ読み込ませるのであれば、そのデータはある程度管理されているだろう。しかし、例えばネットに拡散されているオープンデータなどを読み込ませる場合、データの管理はほぼ不可能だ。たとえそれがどこかの機関が発信しているデータであっても、その管理は自分たちのあずかり知らぬものであり、基本的に制御はできない。
つまりAIを機能させるために必要な多種多様なデータは、自分たちで制御できない場合が多いのだ。その結果、元のデータに内在するさまざまなセキュリティ上の問題も、本質的には管理できない状態でAIはアウトプットを生成してしまう。
「個人情報保護」の観点でいうならば、個人情報の所有者は当該個人であり、その利用用途はあらかじめ許諾を得るのが大原則であることはご存じだろう。元データに存在する個人情報はその原則に則り、その使用範囲で許可を得ているかもしれないが、それを別の用途で使用するには本来、本人の許諾が必要だ。「著作権保護」の問題もほぼ同様であり、個人の権利を侵害する用途で使ってはならない。
現時点でAIは個人情報の本人許諾を得ることなく、著作権の有無も感知せずに出力データを生成する。そのため、その出力にこれらの問題がないか、人間が確認する必要があるのだ。
さらに加えると、元データ自体がこれらの問題をクリアしていない場合もあるだろう。機密情報を、そう認識せずにオープンにしている2次情報などがそれだ。実はこの種の問題は多く、1次情報やニュースソースを明かさずに発信されている場合によく起きる。そして同時にデータ自体が虚偽であるリスクすらある。
この種の検討を始めると、入力する元データをすべて精査すべきと考える人もいるかもしれない。だが、それでは何のためのAIなのかというパラドックスに陥る。多種多様で無駄で関係ないとも思えるデータを読み込ませるからこそ知恵が出てくるのであり、人間が制御できる範囲のデータに限るのであれば、その出力はAIに任せなくとも人間が生成できてしまう。
つまり、このような問題を認識したうえで出力情報を人間がチェックしてから発信するべきであり、そのチェックポイントをガイドラインとしてまとめておく必要がある。
AI出力を万能と思ってはならない
AIの出力情報に存在するのは、前述の事項だけではない。最大の問題は、何を言いだすか分からないと想定しておく必要があることだ。少し前、AI出力が差別発言を行ったという話題を聞いたことがある人は多いのではないか。入力データに差別要素が含まれていれば、当然そのようなことも起き得る。
また入力データに相互矛盾があれば、その解釈も保証はできない。膨大なデータを複雑な処理をして出力を生成するというシステムの特性を考えれば、その生成過程はブラックボックスであり、結果に至る根拠の論理的な説明も不可能といってよい。
人間の子どもが好奇心を持って、大人のいうことを聞いて、とんでもない質問をして大人が窮することがあるように、AIも入力データを素直に受け入れて処理していくのだから、素直にとんでもない出力を生成することもあり得ると考えるべきだ。
したがって、必ず人間が最終的責任を持って出力をチェックするか、万が一これらのリスクが顕在化した場合でも支障がないと判断できる範囲に利活用を留めるべきなのだ。
ただ、間違えないでいただきたい。そのようなリスクがあるなら使えないという後ろ向きの考えは、やめるべきだ。筆者が言いたいのは、世の中にはありとあらゆるリスクが存在し、それらは管理されていなければならないということだ。ゼロリスクはありえず、オールオアナッシングの考えでは社会活動は成立しない。
ましてや、AIがもたらす効果は絶大である。人間が行うには煩雑で面倒臭い処理を文句も言わず粛々と行ってくれる。そしてこの効果は現時点の静的なものだけではなく、技術向上で拡大発展することが期待できる。それは、使わなければ決して起きない。失敗や事故も起きるだろうが、それに対処し、さらにリスクを低減することで、利活用を拡大させるべきである。
繰り返しになるが、リスクは認識し、正面から対策を行い、使える場面を模索し拡大していくことで、発展につながる。
