AIを巡る人間社会の競争原理がすでに暴走し始めている

そして、事態はさらに異様な領域へ入った。研究者だけではない。Anthropicのダリオ・アモデイCEO自身が、AIの進歩に安全対策が追いつく時間を確保するため、最先端AIの開発速度を落とすべきだと訴え始めたのである。

さらにOpenAIのサム・アルトマン氏、イーロン・マスク氏までが、この減速論に支持を表明した。考えてみてほしい。世界で最もAIを作りたい人間たちが、「少し待て」と言い始めたのである。

だが、これでも開発競争そのものにブレーキをかけようとしない人物がいる。アメリカのトランプ大統領だ。

もっとも、トランプ氏もAIの安全対策を無視しているわけではない。9月29日にはOpenAIやAnthropicなど主要AI企業と自主的な安全対策で合意した。しかし、この合意はAIの開発速度を落とすことを義務づけるものではない。

トランプ氏が重視するのは、中国とのAI覇権競争で米国が後れを取らないことである。安全対策には取り組む。しかし、開発競争そのものは止めない。 そこに今回の合意の本質がある。

これほどAIX革命の本質を象徴する光景があるだろうか。作っている人間自身が危険性を訴え、米政府も自主的な安全対策には乗り出した。しかし、肝心の開発競争そのものにブレーキをかける仕組みはない。 企業も止まれない。中国も止まらない。資本市場は巨額の資金を供給し続ける。

つまり、もはや誰か一人が「危険だから止めよう」と言えば止まる段階ではないのである。AIそのものが暴走する前に、AIを巡る人間社会の競争原理がすでに暴走し始めている。私は、こちらの方が怖い。

AIX革命「最大の矛盾」

OpenAIが止まればAnthropicが進む。Anthropicが止まればGoogleが進む。米国が止まれば中国が進む。中国が止まらない以上、米国も止まれない。企業同士の競争と国家同士の安全保障が完全に重なってしまったのである。

私は#１で、AIを巡る競争は企業競争ではなく国家資本主義同士の競争になると書いた。その意味が、ここへ来てさらに鮮明になってきた。

米国にとってAI覇権を中国に渡すことは、単に経済競争で負けるという話ではない。軍事、諜報、サイバー、宇宙、金融、情報という国家の根幹で主導権を失う可能性を意味する。だから止められない。ここにAIX革命最大の矛盾がある。

人類は危険だからAI開発を止めたい。しかし国家は安全保障上、止められない。企業は競争上、止められない。投資家は利益を求めて巨額の資金を供給する。そして、その資金でさらに巨大なデータセンターが建設され、さらに大量のGPUが投入され、さらに高度なAIが作られていく。

誰か一人の悪人がアクセルを踏んでいるわけではない。全員が「自分だけ止まるわけにはいかない」と考え、アクセルを踏んでいるのである。