あと１年でAIが人間にとって「恐ろしいレベル」に
前回、私は「〈AIが株式市場を支配する日〉本当に怖いのは「暴走」ではない…AIによって市場が人間以上に非合理的になるワケ」にて、こう書いた。
「AIが株式市場を支配する日、本当に怖いのはAIが暴走することではない。世界中のAIが、同時に『正しい』と判断することである」
ところが、その原稿を書いた直後、さらに恐ろしいニュースが飛び込んできた。
生成AI「Claude」を開発する米Anthropicの研究者だったジェイコブ・コクソン氏が会社を辞め、AIの能力が今後半年から1年という極めて短い時間で、人間にとって「恐ろしいレベル」に到達する可能性を警告したのである。
私はこのニュースを何度か読み返したが、重要なのは、AIを知らない評論家が言っているのではないということである。
コクソン氏はOpenAIとAnthropicという世界最先端のAI企業の両方で、約3年間にわたってAIの基礎的な学習工程であるプリトレーニングの研究に携わってきた人物である。
その人間がAI開発の現場から去り、開発競争そのものが人類の生命を賭けた危険なゲームになりつつあると警鐘を鳴らしたのである。
それでも開発競争そのものは止まらない
しかもコクソン氏は、ただ会社を辞めたのではない。報道によれば、あと約2か月在籍すれば権利が確定する予定だったAnthropicの持分を放棄してまで会社を去ったという。私はここを重く見る。
口だけなら何とでも言えるが、自分の経済的利益を捨てて席を立った人間の警告となれば話は別である。
しかも一人ではない。AnthropicでAIの安全性研究を率いるエバン・フービンガー氏は、AIが今後10年以内に人類を滅亡させる可能性を自身の推定として「10％超と考えている」ことを公にしている。10％である。
ここで私は一つの素朴な疑問を持つ。飛行機を設計している技術者が「この飛行機は10回に1回墜落する可能性があります」と言ったら、誰がその飛行機に乗るのか。原子力発電所の技術者が「10％を超える確率で世界を壊滅させる可能性があります」と言えば、その原発をそのまま稼働させる国があるのか。
ところがAIについては、その議論をしながら開発競争そのものは止まらない。なぜか。答えは簡単である。止まった者が負けるからだ。
