原子力にも核兵器にも監視制度があるのに…
しかし、まだ十分に織り込んでいないものがある。AIが「どこまで規制されるか」である。実際、AI企業のトップ自身が開発速度を落とす必要性を語り始め、トランプ政権も主要AI企業と自主的な安全対策で合意した。これは極めて重要な変化である。
だが、自主規制と、法的拘束力を持つ規制はまったく違う。 今回の合意には独立した外部監査などが盛り込まれたものの、違反した場合の罰則はなく、開発速度の制限も義務づけていない。
もしAIの能力が本当に半年から1年で危険な領域へ近づき、重大な事故やサイバー事件が発生すれば、世界の政治は一変する可能性がある。原子力には国際的な監視制度があり、核兵器にも条約があり、航空機にも安全基準がある。
ならば、人間を超える可能性のある知能だけが、法的拘束力を持つ国際的な管理体制が十分に整わないまま、開発競争を続けていけるのか。 私はそうは思わない。いずれAIにも、国家を超えた管理の仕組みが必要になる。
しかし、その時に最大の問題になるのが中国である。米国だけが規制しても中国が開発を続ければ、米国は止まれない。中国も米国が止まらないと思えば止まらない。これは冷戦時代の核軍拡競争と非常によく似ている。
ただし、一つ決定的に違う。核兵器は自分で次の核兵器を設計しない。AIは、それをする側に回る可能性がある。だから私は今回のコクソン氏の辞職を、単なる一研究者の告発として片付けるべきではないと思っている。
むしろ、マンハッタン計画に参加した科学者たちが、自分たちが作ったものの意味に気づき始めた瞬間に近いのではないか。
人類はこれまで、技術を発明してからルールを作ってきた。自動車が走り始めてから交通法規を作り、飛行機が飛んでから航空管制を整備し、インターネットが普及してから個人情報やサイバー犯罪への規制を考え始めた。
しかしAIだけは、その順番では間に合わない可能性がある。なぜなら、ルールを作ろうとしている人間より、ルールを適用される側のAIの方が賢くなる可能性があるからである。
人類史上最大のチキンレースの行方
#１で私は「AIはブームではない。時代そのものである」と書いた。#２では「株価を決めるのが、人間ではなくなる」と書いた。そして今回は、さらに一歩踏み込んで書いておきたい。問題は、AIが人間を超えるかどうかではない。人間がAIを止めたいと思った時に、まだ止められるのかどうかである。
ジェイコブ・コクソン氏は世界最先端のAI開発現場から去った。しかも、自らの経済的利益まで捨てて去った。私は、その事実を重く見る。AIを知らない人間がAIを怖がっているのではない。AIを最も近くで作っていた人間が、その危険性に警鐘を鳴らし、席を立ったのである。
それどころか、いまやAI企業の経営者自身まで「少し速度を落とすべきだ」と言い始めた。それでもシリコンバレーは走る。トランプも走る。中国も走る。ウォール街は巨額の資金を注ぎ続ける。そして私たち投資家も、その成長の果実を求めて株を買う。
もしかするとAIX革命とは、人類史上最大の技術革命であると同時に、人類史上最大のチキンレースなのかもしれない。誰もブレーキを踏めない。なぜなら、最初にブレーキを踏んだ者が負けるからである。
しかし、このゲームには一つだけ、これまでのチキンレースと違うところがある。
最後まで誰もブレーキを踏まなかった場合、負けるのはOpenAIでもAnthropicでもGoogleでも、中国でも米国でもない。それはおそらく「人類そのもの」になる。
文／木戸次郎 写真／shutterstock
