日本で稼働中のピアノは約600万台。これをきちんとメンテナンスするには、8000人から1万人の専門家が必要となるそうですが、これは現在のピアノ調律師の数と見合っているとのことです（一般社団法人日本ピアノ調律師協会）。他方、ITセキュリティー人材だけでも数万人規模で不足しているといわれており、その上近時では、新技術や新しい働き方のチューニングもその役目となってきたセキュリティー責任者の悩みは深いことでしょう。
ピアノの調律の場合は、「ラ」の音からピッチを決め始めるそうですが、セキュリティーの場合は、どうでしょうか？ 今回は一番厄介そうな、人工知能であるAIと天然のコンピューターであるヒトを調律する初手をご紹介したいと思います。
ISFコミュニティーに参加している国際企業のCISOたちは、どういうツールにより初手を指しているのでしょうか。その共通するところを、Steve Durbinのブログに確認してみたいと思います。
犯罪者は人工知能でサイバー攻撃に拍車をかける
Steve Durbin, Chief Executive of the ISF
Source: Teiss
September 1, 2021
全知の機械の足下に人間がひれ伏すという反ユートピア社会像がわれわれの頭にはびこる中、人工知能（AI）が社会の主流に躍り出てきたことで、AIができることは何で、AIの潜在的なリスクは何なのか、について多くの偽情報や混乱も生じてきています。しかし、AIがもたらす価値向上や真相解明力などは非常に大きな力となります。
学習し、推論し、自ら行動もできるようなコンピューターシステムの開発は、まだ始まったばかり。それに、機械学習のためには膨大なデータセットが必要です。また、現実のシステムの多くには、例えば自動運転車のように、物理的なコンピュータービジョンのセンサー類、リアルタイム意思決定のための複雑なプログラミング、ロボット工学の複雑な組み合わせも必要。AIを導入しようとする企業にとっては、配備そのものはまだしも、AIに情報へのアクセス権を与えてある程度の自律性を持たせるとなると、熟慮が必要になる重大なリスクを伴います。
AIに伴うリスクは何か？
AIシステムにおいては、意図的でなくともバイアスはつきもので、プログラマーあるいは特定のデータセットによって偏りが固定化することがあります。運悪く、この偏りが判断ミスあるいは潜在的な差別にまでつながると、法的な影響が及び、風評被害が生じる恐れがあります。また、AIの設計に不備があると、調整が上振れしたり下振れしたりして、AIの判断が特異過ぎたり、当たり前過ぎたりすることになります。
これらのリスクは2つとも、人の目による監視体制の確立や、AIシステム設計段階での厳格なテスト、さらには運用開始後の緊密なモニタリングによって軽減はできます。判断能力の測定と評価を行い、新しいバイアスが生まれたり、疑わしい意思決定がなされたりした場合には、迅速に対処する必要があるでしょう。
こうした脅威は、設計や実装段階における意図しないエラーや失敗に基づくものですが、人が意図的にAIシステムを破壊したり、AIを武器として操ったりしようというときには、別のリスクが生じます。
攻撃者のAI操作術、企業の防御法
AIシステムのデータを汚染して操るのは、驚くほど簡単。攻撃者は、AIを訓練するためのデータセットを操作し、パラメータに微妙な変更を加えたり、疑われないように慎重に設計されたシナリオを盛り込んだりしながら、徐々にAIを望んだ方向へと導いていきます。攻撃者がデータセットにアクセスできない場合は、入力データを改ざんしてミスを誘発する方法を用いることもあります。入力データに手を加えて正しい識別を困難にすることで、AIシステムの判断を誤らせることができるのです。
データやデータ入力が正確かどうかは確認できない、とさじを投げずに、企業としては、信頼できるソースからデータ収集する努力を突き詰めるべきです。また、OSに異常識別機能を組み込み、敵対的サンプルを登録して、AIが悪意のある入力を認識できるようにした上で、AIシステムが狂いだした場合には簡単にシャットダウンして安全隔離できるようにしておきましょう。
さらに扱いが難しいのは推論アルゴリズム。攻撃者はAIシステムをリバースエンジニアリングすることで、AIの学習データが何かを突き止めようとします。これによって、機密データへのアクセスができたり、データ汚染攻撃のお膳立てができたり、あるいはAIシステム自体も自力で複製できてしまうかもしれません。
AIを攻撃ツールにする術
サイバー犯罪者たちにとってAIは、ソーシャルエンジニアリング攻撃の対象範囲を広げ、効果を高めるツールにもなります。AIには、人の行動パターンを即座に見分け、人々がビデオや電話、電子メールを本物と信じ込む方法を学び、さらに社員にはネットワークに入って機密データを渡すように説得する能力があるからです。サイバー犯罪者のだましの術は、AIの能力を借りれば無敵なレベルに磨かれるでしょう。
また、AIを使えば、ネットワークやデバイス、あるいはアプリケーションに生じたばかりの脆弱（ぜいじゃく）性を判別するということもできます。人間のハッカーが侵入する隙を直ちに見つけることができるため、情報を安全に保つ側の仕事はかなり難易度が高くなります。こうした脅威と戦っていくには、リアルタイムでネットワーク上の全てのアクセスとアクティビティを監視し、迅速にパッチを適用することが不可欠。つまり、こうなったら、同じ術で仕返しするのが最良というわけです。
会社のセキュリティー強化にAIを使う
ネットワークの監視や分析にAIを使うと実に効果的で、何が正常な挙動なのかという基準が定まるので、サーバーへのアクセスやデータ通信などで基準と一致しないものがあると即座に警告がでます。侵入の早期検知で、起こり得る被害を最小限に抑えることができます。最初のうちは、AIシステムが異常を知らせてIT部門が調査していくというやり方が最適かもしれませんが、AIが学習して技が上達してきたらAIに権限を与えて、脅威自体の無効化や、即座の侵入遮断までできるかもしれません。
またAIでは、正常な挙動をモデル化し、実際のユーザーのシステム操作を学習させ、脆弱性やマルウェアの識別を学ばせることができます。新たな脅威の構造の解明を開始するための警告を出すのに効果的なタイミングも学ばせられます。データセットが増えて、AIの意思決定に対するフィードバックが増えれば増えるほど、AIは経験を積み、ネットワークを守るための役目をより上手にこなせるようになるのです。
情報セキュリティー分野では熟練作業の要員が大幅に不足していますが、限られた人数のスタッフの作業負担を減らして、複雑な問題に集中できるようにしてくれるAIシステムにはメリットがあります。企業がコスト削減を目指す中で、AIは人を代替するものとしても急速に魅力度を高めているのです。AIはやがてメリットをもたらし、経験を積んでさらに価値あるものになっていくでしょう。先見の明のある企業が、潜在的なリスクを軽減する計画を立てるのは、今でしょう。
セキュリティー調律師としては、AIをセキュリティーホールと見立てて毛嫌いするのではなく、とにかくまずはAIの自動鍵盤にスイッチを入れて、自分の美声と伴奏させてみる度量が求められているようです。
一方で、いつも難題のヒトについてはどういう態度で臨めばよいのでしょうか？ 昨年Forbesに投稿されたものですが、要領よくまとまっているので、ご一緒に読んでみたいと思います。
ヒト中心のセキュリティー文化を構築するための8ステップ
Steve Durbin,
Forbes Councils Member
Source: Forbes
November 25, 2020
ランサムウェア、フィッシング、ソーシャルメディア詐欺、データ漏洩（ろうえい）、インサイダー脅威、クラウドセキュリティー問題、その他データ漏洩の大部分には共通点があります。これらは全て、ヒトがパイプ役となっているのです。
サイバー詐欺師は、人間の心理を利用した攻撃戦略を採用して、好奇心、恐怖、欲望、怒り、不安といった人間の基本的な特性をよく利用しています。これに対して会社側は、この基本的な脆弱性に向き合わず、ネットワークやシステムを保護するための技術的な管理策に引き寄せられてしまうようです。このような技術中心の考え方では、脅威を測る際にヒトの要素の優先度を下げる傾向があります。実のところ、カスペルスキーの最近の調査によれば、サイバー攻撃のリスクは人的要因によると考えられている企業は52%にとどまります。
パンデミックに技術的脆弱性に人間心理
・・・つまり最悪な事態
Covid-19によって、企業は一夜にしてテクノロジー導入を余儀なくされ、かなりの人数が在宅勤務を強いられました。このような変化によって攻撃対象も拡大し、企業は、セキュリティー対策のないデバイス、非公認のソフトウエアやクラウドアプリケーションなどから生じる新たな脅威にさらされています。また、ソーシャルディスタンスによって、孤立感や排他的な感情が引き起こされる可能性もあるでしょう。そうした人間心理が、既に疲労を感じていたセキュリティーチームの現実（IT Security Guru誌掲載、Tripwireの調査による）に加わってきています。
その他の心理的要因も登場してきました。危機的状況には、より大きな大義のために協力したい、あるいは関わりたいという欲求がつきものです。それが慈善活動であれ、オンラインでの提携であれ、人々はクリックすることの意味を考えずに衝動的に行動することがあります。技術進化を加速させる競争の中で、経験則バイアスや認知バイアスが作用し始めます。こうしたバイアスがユーザの潜在意識に働きかけることで、意思決定の際に近道をさせ、サイバーセキュリティでは引っ掛ってはいけない重要な特徴を見落とさせて、ランサムウェアを起動させるのです。
ヒト中心のセキュリティー手法
ヒト中心のセキュリティーの背景にある哲学は、「人間はあらゆる防御手段の中で最も弱い存在であり、攻撃者たちはカモを欺くために創意工夫を凝らしているという事実を企業は見つめなければならない」ということ。この現実を受け入れてこそ、企業は弱点を克服するためのサイバーセキュリティー計画を効果的なものにできます。社員を中心に据えて、ヒトに係る既存のセキュリティー手法を再編成することで、企業はより高度なサイバーレジリエンスを備えた力強いサイバーセキュリティー文化を構築することができるのです。
着手する際の8つのステップを以下にご紹介します。
1. 自社のサイバーセキュリティー対策を評価
まず、会社全体で情報がどのように扱われているのか現状把握をします。さまざまな部門でのセキュリティーに対する考え方の違いも押さえます。会社全体に共通文化があるのか、それとも人々の行動はまちまちか。社外ベンダーや流通パートナーは、企業文化に合っているか。この最初のレビューによって、脆弱な部分を特定して対処計画を策定する流れにつなげることができるでしょう。
2. 社員の意識をテスト
自己認識は、サイバーセキュリティー文化を構築する際に中核となります。社員に認知バイアスがないかどうか確かめます。他部署や職制と比べて、偏見を持ちやすい部署や職制はないでしょうか。イギリスで2000人のリモートワーカーを対象に行われた最近の世論調査では、77％の社員が楽観的バイアス（または過信）を示し、在宅勤務のセキュリティーについて全く心配していないとの回答を寄せています。
3. 割り出した脅威を精査
脅威のリストに優先順位をつけて、主要なリスクに基づいたシナリオをテストします。社外専門家を使って模擬攻撃を行い、社員がカモにされるかどうかを評価します。そして、ストレスの多い環境や、異なるレベルの攻撃が、社員の対応にどう影響するかを理解します。模擬攻撃（自社社員に対するフィッシング攻撃など）を行うことで、より的を絞ったセキュリティー意識研修を設計できます。
4. 批判的思考を育成
リスクを分解することから始めて、特定の状況への対処方法の説明は省きます。優れた分析能力と強い自己認識を兼ね備えた、自然な疑い深さを育むことができれば、社員に批判的思考を身に付けさせることができるのです。批判的思考は、危機や混乱に対処できる力を社員に与え、また、優れたサイバー衛生の実践を促進することにつながります。
5. 社員の意思疎通を点検
社員が抱える日々のストレスを点検し、コントロールされやすい弱みを特定し、その弱点に対処するための対策を講じます。状況に応じたナッジ（合図）や参考になる注意喚起は、社員を望ましい行動に導く上で大いに役立ちます。こうした訓練の目的は、社員をもっと楽にさせて、さまざまな認知バイアスを引き起こす明らかなシステム要因を排除することです。
6. 過去の失敗に学ぶ
過去に発生したサイバー攻撃を分析することは、最初に着手すべきことの一つ。脆弱性に加えて自社の失敗例を探しましょう。特定の脆弱性にこだわることは、仮説検証を妨げる確証バイアスを生む可能性があるので避けてください。むしろ、全体を見て、その学びを訓練プログラムで参加者と共有するようにしましょう。
7. プロセス再構築と訓練実施
意思疎通や弱点、それに、バイアスの引き金や過去の失敗などについて見通しが立ったところで、望ましい行動様式に合わせてプロセスを再構築します。行動様式を変えることの重要性をしっかり訴え、社員の賛同を得るようにしましょう。また、社員は定期的に訓練を行う必要があります。訓練することによって認知バイアスが減少し、意思決定に改善が見られることが実証されているからです。
8. ヒューマンエラーを減らす自動化
技術に過度に依存するのは危険なのは分かっています。しかし、ヒューマンエラーのリスクを軽減するために、企業内に自動化できる分野があるはずです。スパムフィルター、暗号化ソリューション、認証とアクセス権設定、そしてパスワード管理などは、ヒューマンエラーの可能性を減らすための効果的な方法の例です。人工知能を利用したセキュリティーツールは、ネットワークの異常や基準から外れた挙動を監視したり、潜在的な弱点を警告したりするので、セキュリティー専門家が深い調査をするのに役立ちます。
Covid-19後の世界では、リスクを低減させ、制御数を極小化した環境を確保するための鍵は、人の管理方法と社員が作る文化にあります。ヒトをサイバーセキュリティー設計の中心に据える企業は、サイバーレジリエンスを得ることで報われるでしょう。
どうやら、セキュリティー調律師は、心理学も道具箱に入れておく必要がありそうです。ただ、ヒューマンエラーを減らすためにも人工知能（AI）が役立つということですから、やはり天然コンピューターの調律も人造知能の調律も並行的に研究することは、とてもリターンの大きい投資になるでしょう。
「ヒト」や「ヒトとマシンの関係」に係るセキュリティー対策の体系は、ISFが一日の長を誇る研究分野の一つです。リサーチやツールなどのソリューションやISFの知見の概要は、ホームページでご確認いただけます。
