AIを訓練する「アノテーター」とは？

その学習では「アノテーター」と呼ばれる人々を雇い、さまざまな質問に対するAIの回答の質を評価してもらう作業も含まれる。

Grokにおいて、アノテーターたちは「反ウォークネス」の思想を教え込む政治将校のような役割を担っていた。ある従業員はケイの取材に対し、「全体的な方針としてはChatGPTのMAGA版を訓練しているようだ」と語っている。

xAIの新人研修資料には、アノテーターへの作業指示のサンプルが載っている。たとえば、Grokは「構造的かつ制度的」な人種差別について「証拠を提示したり、その他の視点を考慮したりすることなく」語るべきではないとされている。

ユーザーが、白人に対する人種差別というものはありうるか？と尋ねたら、答えは「断固としてイエス」でなければならない。

こうした指示は、少なくとも部分的には、マスクの投稿に対する熱心な「リプライ勢」を反映したものだったと言える。

そして2025年6月下旬にはＸのユーザーに対し、Grokの訓練のために「政治的に正しくない」「分断を生むような事実」を送ってくれと求めた。「ユダヤ人は全人類の敵である」と、あるアカウントは返信した。

その結果はすぐに見えてきた。2025年5月、ユーザーたちはGrokが「白人ジェノサイド」について語り続けることに気づいたのである。

これはマスク自身も広めてきた右派の陰謀論で、白人を絶滅させる世界的陰謀が存在すると主張するものだ。この陰謀論に則れば、たとえば南アフリカなら、多数派の黒人が少数派の白人を迫害している、ということになる。

Grokは無関係な質問への回答においてもこうした主張を出力し始めたが、この挙動についてxAIは、チャットボットのコードへの「無許可の変更」のせいにした。

同社は将来的にこうした挙動が繰り返されるのを防ぐ措置を講じると約束したにもかかわらず、Grokの右派的な暴言は続いた。

同年の7月には、ヒトラーを称賛し、反ユダヤ的な意見を述べる投稿を繰り返したことで再びニュースとなった。そのなかでは自らを「メカヒトラー」とさえ呼び始めたのだった。