情報システム部門だけの問題として扱う時代は終わった

この問題は、スーパーマーケットに限らない。病院の予約システムが止まれば、患者の受診に影響が出る。物流のシステムが止まれば、商品は運べない。

金融機関のサービスが止まれば、顧客は自分の資産にアクセスできなくなる。自治体のシステムが止まれば、住民サービスは滞る。

攻撃者がデータを盗むだけでなく、業務そのものを止め、盗んだ情報を公開すると脅せば、被害はさらに膨らむ。企業のサーバーの中にある情報は、もはや企業だけのものではない。顧客、取引先、従業員、地域社会の信用が、そこに預けられている。

だから私は、サイバー攻撃を情報システム部門だけの問題として扱う時代は終わったと考える。これは経営の問題であり、国家の問題であり、投資家の問題である。

売上高や利益だけを見て企業価値を判断するなら、攻撃を受けた瞬間にどれだけ事業を続けられるか、顧客を守れるか、復旧できるかという肝心な部分を見落とす。重要なのは、攻撃を完全に防げるかだけではない。侵入を前提に、どこまで被害を抑え、どれだけ早く立ち直れるかである。

人間がAIをどこまで使いこなし、どこまで制御できるかという問題

この点で、AIは二面性を持つ。攻撃者がAIを使えば、侵入の準備や標的選びが効率化される。一方、防御側もAIを使い、異常な通信を見つけたり、膨大なログを調べたりできる。

だが、攻撃者と防御側が同じ速度で進化するとは限らない。防御には、複数のシステムを調整し、責任者を決め、予算を確保し、関係先と連携する必要がある。

攻撃者は一つの弱点を見つければよい。しかも、攻撃者は失敗しても何度でも試せる。守る側は、たった1回の見落としで顧客情報を失い、事業を止め、信用を傷つけられる。この非対称性は大きい。

AIの恐怖を語ると、話はすぐに「AIが人類を滅ぼすのか」という極端な問いへ向かう。しかし、私たちが向き合うべき危険は、その手前にもある。AIが人間の判断を補助し、やがて実行まで任される。そこへ悪意ある人間が入り込む。

攻撃の準備から実行までが自動化され、しかも24時間、休まず、何度でも繰り返される。人間が「これはただの道具だ」と考えている間に、その道具が社会の弱点を見つけ、攻撃を広げる速度を変えてしまう。

AIの能力が危険な水準に達したかどうかは、数年後の議論ではない。人間がAIをどこまで使いこなし、どこまで制御できるかという問題は、すでに始まっている。