第28回 「ロボティクス三原則」再見

AI（人工知能）は既に生活の中でいろいろな働きをしてくれています。人にとって利便性や快適性が高まり、幸福度が増進することが期待されています。一方で、何十年前にインターネットが登場した際には、不器用な我々が戸惑いながらもどうにか使いこなすことで徐々に浸透していきましたが、AIは我々が努力せずとも、既にいろいろな製品やサービスに組み込まれていることから、利用者としては、ほとんど意識していないことも多い点がかえって気になります。

この普段は意識されていない存在が、意思をもっていて悪さを始めると、家の中でも街中でも移動中でも想定外のことが起こるのでは、という懸念があるのです。こうした話もSFの世界ではなく、現実になるかもしれません。改めてAIに目を向けて観察すると、好奇心だけではなく、不気味さや、ひいては恐怖心や混乱が生じかねません。AIをしっかり統御して、「邪心を持たせない」ためには、どうすれば良いのでしょうか？

そう、もう80年前にもなります。アイザック・アシモフがロボットの暴走を想像して、かの有名なロボティクス三原則を考案したのは。。。

この三原則の「ロボット」を「AI」に置き換えて、AIのプログラミングには、必ず入れ込むという法律を作ったら、どうでしょう？いやいや、そう簡単にはいかないのが、この世の常です。

ISFでは、AIと情報セキュリティの交錯する課題や期待について、国際的な実務の最前線を紹介するブリーフィングペーパーを公にしています（”Demystifying Artificial Intelligence in Information Security”）。他方、AIとビジネスの問題領域では、情報セキュリティの課題に加えて、「倫理」の視点を忘れることはできません。この点に焦点を当てて書かれたISFのSteve Durbinによる論説を、世界経済フォーラムのサイトから引用して一緒に読んでみたいと思います。
 

（ここから引用）

より安全なオンライン空間を実現するために、いかにAIを責任を持って活用するか。

Published: Aug 16, 2022
SOURCE：World Economic Forum
 Steve Durbin, Chief Executive, Information Security Forum

（Image: ISF）

人工知能（AI）は、日常生活にすっかり溶け込み、またコンピュータの進歩に加え、データサイエンスや巨大なデータが利用可能になり、猛烈な勢いでビジネスツールになりました。グーグル、アマゾン、メタなどの大手ハイテク企業は、現在、AIを組み込んださまざまなシステムを開発しています。この技術は、人間の話し方を真似たり、癌を検出したり、犯罪行為を予測したり、法律の文書を作成したり、アクセス上の問題を解決したり、人間よりも優れた働きを発揮することが可能です。企業にとってAIは、ビジネス上の成果を予測し、プロセスを改善し、大幅なコスト削減で効率化を実現することを約束するものと言えます。

しかしながら、AIに対する懸念は依然として高まっています。

一部の専門家からは、AIは意識を持つ存在と見做されるほど、AIのアルゴリズムは非常に高性能になっています。そのため、何らかの破損や、改ざん、偏見、あるいは差別などがあれば、企業や人命そして社会にも大きな影響を与える可能性があります。

AIアルゴリズムとデジタル世界の差別問題

AIが下す判断が、次第に人々の日常生活に大きく影響を与えるようになりました。そこで、AIを無責任に用いてしまうと、人種による選別、行動の予測、あるいは性的指向の特定といったことに現れる人の偏見や差別的な対応を助長しかねません。このように偏見があらかじめ組み込まれてしまうのは、AIには、人が与える学習データの量が多ければ多いほど、人のもつ偏見が影響してしまいやすいからなのです。

また、機械学習アルゴリズムが、女性、有色人種、特定の年齢層の人々など、ある特定の集団を十分に含まないデータでトレーニングおよびテストされた場合なども偏見が生じる契機となりえます。例えば、顔認識技術において有色人種は特にアルゴリズムによる偏見の影響を受けやすいことが研究で示されています。

さらにまた、使い方によって偏見が生じることもあります。例えば、特定のアプリケーションのために設計されたAIアルゴリズムが、本来の目的とは異なる用途で使用され、その結果、出力が誤って解釈されることもあるのです。

AIアルゴリズム性能の検定問題

AIがもたらす差別は、抽象的で分かりにくく、微妙、不明瞭で、検出も困難なことがあります。また、ソースコードは非公開であったり、アルゴリズムがどのように適用されているのか、監査人も知らなかったりする可能性もあります。AIアルゴリズムの内部に入り込み、それがどのように記述され、応答しているかを確認することは、想像以上に難しいのです。

現代のプライバシー保護法制というものは、通知と選択（オプトアウト）の原則に依拠しているため、結果として消費者に長大なプライバシーポリシーへの同意を求める告知書が相次ぎ発行されますが、その内容は、めったに読まれることはないままとなります。そのような告知書のシステムがAIにも適用されるならば、消費者と社会におけるセキュリティやプライバシーに深刻な影響を与えることになるでしょう。

AI兵器の問題

本格的にAIを利用したマルウェアはまだ存在しないかもしれませんが、人工知能を備えたマルウェアが攻撃者の能力を高めるに違いないと断じたとしても、、あながち間違いではないでしょう。たとえば、環境を学習して新たな脆弱性を特定しそれを攻略するマルウェア、AI技術を駆使したセキュリティに対する耐性テスト用のツール、誤った情報をAIに植え付けるマルウェアなど、その可能性は無限大です。

AIによって操作されるデジタルコンテンツは、既に極めてリアルな個々人の生き写しをリアルタイムで人工合成するために使用されています（ディープフェイクとも呼ばれます）。その結果として、ディープフェイクを駆使する攻撃者たちは、高度な標的型ソーシャルエンジニアリング攻撃を行い、金銭的な損害を与え、また世論を操作し、競争優位に立つことになるのです。

AIアルゴリズムによるリスクの緩和法

AIによる判断は、人々の生活にますます大きな影響を及ぼすため、AI導入にあたっては、それを倫理的に管理する道徳的、社会的、そして信義的責任が、各企業にあると言えます。そのため、各社はさまざまな方法を模索することになるでしょう。

１．倫理を測定指標に落し込む

倫理的なAIであれば、個人の権利、プライバシー、差別をしないこと、そしてとりわけ重要なデータ操作防止、などといった、適切に定義された倫理的ガイドラインや基本的価値観から外れることはありません。各企業は、AIによって引き起こされるリスクを特定し、測定し、評価し、軽減するための明確な原則を定めなければなりません。次に、それらを実用的で測定可能な指標に変換し、日々の業務プロセスに埋め込む必要があります。

２．AIアルゴリズムにある偏見の原因を把握する

倫理的なAIの開発にあたっては、適切なツールを使って、偏見の発生原因を調査し、意思決定が公正であることによる効果を理解することが極めて重要です。まず、機械学習を利用したシステムを特定し、次にそれらが事業にとってどの程度重要であるかを判断して、そしてAIが原因で生じる偏見に対して、プロセス、コントロール、および対策を実施します。

３．自律運用と人による監視の均衡を図る

各企業は、自社およびサプライチェーン上のAIシステムによって生じるリスクを継続的に管理および監視するための、関連事業領域を監視する倫理委員会を設置する必要があります。また、委員会があらゆる角度から倫理的問題を感度よく捉えることができるよう、多様な背景を持つ人々で構成されていなければなりません。

それぞれのアルゴリズムも、専門家のインプットや世の中の情勢に関する知見に加えて、根深い偏見に配慮して設計されなければなりません。また、例えば金融取引などの極めて重要な事業領域では、悪意のあるアクターによる侵害を防ぐため、人による承認プロセスも義務づける必要があります。

4. 従業員をやる気にさせ、責任あるAIを育む

個々人がAIシステムに対する懸念を表明できるようなカルチャーを育むことが求められますが、イノベーションの芽が摘まれては本末転倒です。AIの役割や期待値、そして会社の法的説明責任についても透明性をもった説明がなされ、社内でAIに対する信頼や納得感が醸成されることが重要です。AIという新しい役割が必要だという認識を高めるとともに、従業員のスキルアップや再教育、さらに雇用をも積極的に推進していくのです。

また、AIを利用する従業員には、必要に応じて、高度な制御手段や回復手段へのアクセスを可能にすることで、そのやる気を高めることができます。従業員の能力を高めつつ、責任あるAIをビジネス上の必須項目にまで育むには、強力なリーダーシップもまた不可欠であると言えます。

5. 差別問題への取り組みにAIを活用

まず、人が公正な判断をしたかどうかを評価する伝統的な方法である手続的検査に対してAIを使うメリットが考えられます。人間の意思決定プロセスと並行してAIアルゴリズムを実行させて結果を比較し、AIによる判断の道理を明らかにするのです。また他の例としては、マサチューセッツ工科大学による研究イニチアチブ「制度的人種差別との戦い」があります。そこでは、社会のさまざまな分野における人種的平等を実現するために計算ツールを開発し活用する取り組みが行われています。

要約すれば、AIモデルは設計において既に、信頼性があり、 公正であり、かつ説明可能なものでなければならない、ということです。AIがより一般化され、新たなガバナンスモデルも形成されていくにつれて、AIを活用したイノベーションがより多く生まれることになるでしょう。

（引用おわり）

いかがでしょうか。やはりAIの社会的な発展には、倫理問題への深い理解と、具体的で新しいガバナンス的な手続きが必要なことが理解されたように思います。ただ、ロボティクス（ロボット工学）三原則が書かれた当時は、まだ世の中がさほどグローバル化されていなかったこともあってか、物理的肉体的な危害の想定が強かったように思えます。今回の論説が焦点をあてた差別や偏見という問題は、明らかに心や精神的なダメージに目を向けていますが、歴史やビジネスの進展があったことが影響しているのでしょう。

AIと社会との関わりと言っても、冒頭に見たように情報セキュリティの問題もあるでしょうし、その結果としてのビジネスだけでなく物理的損壊の恐れもなきにしもあらず、ですが、AI（人工知能）のリスクを考える時に精神的な問題を扱おうというのは、情報セキュリティやサイバーセキュリティの分野では新しい問題提起ではないでしょうか。

筆者個人としては、情報リスクを超えて、倫理と新技術の利用あるいはあるべき規範と新規ビジネス企画が交錯する問題について、とても関心を持っています。より良い社会を作るためには、単にリスクについて複眼的な思考ができるというだけではなく、人の世の精神的基盤を見つめ直すという大仕事を欠く訳にはいきません。「ロボティクス三原則」を再見するに留まらず、いわゆる諸学の基礎である哲学の立場からも多面的で深い議論が交わされなければならないのではないでしょうか。