AIが勝手に戦争を始める必要はない

昨今、不正アクセスや情報流出の公表が相次いでいる。AIを使った攻撃ではないか、という見方も出ている。

事態は軽くない。日本では金融機関や通信事業者など幅広い分野で情報漏えいが相次ぎ、情報処理推進機構が異例の注意喚起を出した。

攻撃の入口として疑われているのは、特定の最先端技術だけではない。外部に公開しているサービスや、アカウントの侵害など、企業や組織が日々使っている仕組みである。

つまり、世界を揺るがす大事件に見える攻撃であっても、入口は古い設定や管理の甘さかもしれない。最先端のAIを語る時代に、侵入を許すのは、長く放置されたIDやパスワード、更新されていないシステムである。そこに現代の皮肉がある。

私は#3で、AIが人間を超えるかどうかではなく、人間が止めたいと思った時に止められるのか、と書いた。今回、目の前にあるのは、AIが自我を持ち、人間に反乱を起こす話ではない。人間がAIを使い、これまでなら専門家が時間をかけていた作業を、より速く、より安く、より広い範囲で実行する可能性である。

攻撃対象を探す。公開情報を集める。偽のメールを相手に合わせて作る。弱点を見つける。侵入の方法を試す。これらの工程がAIによって短縮されれば、攻撃者に必要な技能や費用は下がり、攻撃の回数は増える。AIが勝手に戦争を始める必要はない。人間の悪意に、機械の速度と規模が加わればよい。