金融、電力、通信、物流までもが武器になる時代

そして問題は、AIが人間より賢くなること自体ではない。AIが次のAIを作る工程そのものに深く入り始めることである。これまでは人間がAIを開発してきた。研究者がプログラムを書き、モデルを設計し、性能を評価し、次のモデルを作った。

しかしAIが研究そのものを担い、自分より優秀な次世代AIの開発を加速させるようになれば、話は全く変わる。仮に、人間が1年かけて進歩させていたものをAIが1か月で進め、やがて1週間、1日へと開発周期そのものを縮めていくような自己改善の連鎖が始まれば、人間が規制について議論している時間そのものが意味を失う可能性がある。

もちろん、これが実際にどこまで可能になるのかは誰にも分からない。しかし、まさにAI企業のトップ自身が最近警戒し始めているのが、AIが次世代AIの開発能力を急速に高めているという問題なのである。国会で法案を審議している間に、技術は何世代も先へ進んでしまうかもしれない。

そしてコクソン氏が警告しているのは、SF映画のような「ロボットが人間を襲う」という単純な話ではない。超人的なサイバー攻撃能力、生物兵器を作り出す能力、自律型ドローンやロボットを操る能力などである。

つまりAIが銃を持って人間を撃つ必要などない。高度にネットワーク化された現代社会では、コンピューターの向こう側に人間社会の生命線がすべてつながっている。金融、電力、通信、物流、軍事、行政、医療。知能が武器になる時代とは、そういうことである。

投資家として考えなければならないこと

私はここに、核兵器とは全く違う怖さを感じる。核兵器にはウランやプルトニウムが必要であり、巨大な設備が必要であり、国家レベルの資金と技術が必要になる。だから完全ではないにせよ、監視することができる。

しかしAIは違う。一度能力が広く拡散すれば、国家だけが使うとは限らない。テロ組織、犯罪組織、ハッカー、独裁国家、そしてたった一人の人間でさえ、強力なAIを利用できる可能性がある。つまりAIは、人類史上初めて「知能そのものを大量生産する技術」になるかもしれないのである。

ここで投資家として考えなければならないことがある。現在、世界の株式市場はAIの成長を前提に巨大な時価総額を作り上げている。NVIDIA、Microsoft、Alphabet、Amazon、Meta。そして未上場のOpenAI、Anthropic。それらを支える半導体、電力、データセンター、通信、原子力。市場が織り込んでいるのはAIが「どこまで成長するか」である。