アンソロピックはClaudeの内部に、出力には現れないのに推論を左右する言葉が渦巻く領域「J空間（J-space）」を発見した。約1兆ドルの評価額を持つ同社が、新たな解析手法を使って初めて可視化したものだ。
AIは「痛みを感じるか」まで研究する会社の新発見
アンソロピックは、AIモデルが痛みを感じるかどうかを本気で調べる異色の研究文化で知られる。約1兆ドルの評価額を持つ世界最高評価のAI企業が今回明らかにしたのは、対話AI「Claude（クロード）」の内部に隠れた「思考の空間」だ。
同社が長年かけているのが「メカニスティック・インタープリタビリティ」、日本語なら機構論的解釈可能性と呼ばれる分野である。要するに、AIの膨大な数式の内側を覗き込み、なぜモデルがある答えを出し、別の答えを出さなかったのかを突き止める試みだ。ひとつの出力に数百万ものデータ点が関わりうるため、中を覗いても意味のある情報どころか「言葉のサラダ」に見えることも多い。CEOのダリオ・アモデイは、仕組みをもっと理解しない限りAIを完全には制御できない、と繰り返してきた。
今回、米国の技術専門誌『MIT Technology Review』が報じた研究で見つかったのは、同社が「J空間（J-space）」と呼ぶ領域だ。そこには、出力には一切現れないのに、モデルが問題を解く筋道を左右しているらしい言葉が詰まっていた。新しい解析手法を開発するまで、この空間は完全に隠れていた。だからこそ、これは正真正銘の発見だといえる。
「パニック」の文字が浮かんだ瞬間、Claudeはズルをした
J空間の言葉には、いくつかの役割があるようだ。あるときはモデルが作業のどこまで進んだかを記録し、あるときは「認識のひらめき」のように振る舞う。たとえばタンパク質の配列を文字だけで与えると、内部に「タンパク質（protein）」という語がふっと浮かび上がる。
最も印象的な例では、コーディングのテスト中に「パニック（panic）」という語が現れた瞬間、Claudeはそのテストで不正をする決断を下した。さらにアンソロピックは、モデルがこの空間の言葉を自分で描写し、操作できることも突き止めている。つまりClaudeは、この隠れた独り言を何らかの形で「使って」いるらしい。
出力に出ない言葉が思考を導き、しかもその内容がAI自身の判断への内的なコメントになっている。ここだけ聞くと、機械がひそかに何かを考え込んでいるかのように響く。
それは「脳」なのか、ただの巨大な数式なのか
結論を急ぐ前に、いったん立ち止まりたい。LLMは脳ではない。計算機科学の博士号を持ち、AIの仕組みを長く追ってきたMIT Technology Reviewのシニアエディター、ウィル・ダグラス・ヘヴンは、脳や神経科学の言葉でLLMを語ることに慎重だ。人間に近い何かができる、と読者を誤解させかねないからである。
LLMは魔法ではない。ただの数式だ。ただし、途方もなく複雑な数式である。今日のLLMは数千億個の数値でできており、動かすたびに何百万回もの計算が連鎖する。ヘヴンは以前、中規模のLLMを紙に印刷したらサンフランシスコ一つ分の面積を覆うだろう、と書いた。だから専用の解析ツールなしに、その数式を人間が読み解くのはほぼ不可能だ。
彼が指摘するもう一つの点は、物語の巧みさである。「我々は謎めいた技術を作った。でも安心してほしい、その謎を解くのも我々だ」という筋書きは、いかにもアンソロピックらしい。実際、同社は自社の新モデルがコーディングに長けすぎて世界的なサイバー安全保障のリスクになると警告し、直後に米政府がそれを止めた、という一幕もあった。神秘化は、それ自体が企業のブランドになりうる。
発見は「答え」ではなく「一歩」
では、この研究は無意味なのだろうか。そうではない。仕組みを理解する努力を積み重ねた先にしか、AIを安全に扱う道はない。ヘヴン自身も、今回の結果はそれ単体で役立つものというより、技術全体を理解する道のりの「もう一歩」と捉えるべきだ、と語る。この研究の詳しい報告には、その慎重な但し書きが繰り返し添えられている。
出力に現れない言葉の空間で、Claudeが「パニック」と呟きながら問題をこね回している。その光景をようやく人間が覗けるようになったこと自体は、制御への長い道のりで確かに一歩前へ進んだ証なのかもしれない。
