わずか200個のニューロンで――AIの「思考」を解剖する2026年

大規模言語モデルは長らく「ブラックボックス」と呼ばれてきた。膨大な数値の羅列が入力を出力へと変換する過程は、開発した本人たちにさえ説明できないとされてきたからだ。ところが米マサチューセッツ工科大学(MIT)が発行する『MIT Technology Review』は、2026年の「10大ブレークスルー技術」の一つに、その中身を覗き込む研究分野「機械論的解釈可能性(メカニスティック・インタープリタビリティ)」を選んだ。AIの性能そのものではなく、AIが「なぜそう考えたのか」を理解しようとする地道な研究が、具体的な成果を挙げ始めている。

「賢さ」と「分かりやすさ」は別の問題

そもそも大規模言語モデルは、人間がロジックを一行ずつ書いて作るプログラムではない。大量の文章データから、内部の無数のパラメータ(数値の重み)を統計的に調整していく「学習」によって作られる。そのため開発者自身も、モデルが特定の質問にどう答えを出すかを事前に設計しているわけではなく、入力と出力を観察することはできても、その間で何が起きているかは基本的にブラックボックスだった。

この状況を変えようとしているのが、Anthropic、OpenAI、Google DeepMind、そして研究プラットフォームNeuronpediaなどが取り組む解釈可能性研究だ。2024年には、AIの内部で「ゴールデンゲートブリッジ」や特定の有名人といった人間にも理解できる概念に対応する内部表現(「特徴量」と呼ばれる)を特定する手法が登場した。2025年にはさらに進み、ある概念が入力から出力までどのように連鎖して処理されるか、一連の流れとして追跡できるようになった。この延長線上の成果が、2026年の技術トレンドとして注目を集めている。

詩の脚韻を「先読み」するAI

Anthropicが自社のAIモデルClaudeを対象に行った追跡調査では、興味深い挙動が見つかっている。例えば脚韻を踏む詩を書かせると、Claudeは行の最後の単語をその場その場で反応的に選んでいるのではなく、行を書き始める前から脚韻の候補となる単語をあらかじめ思い浮かべ、それに合わせて文全体を組み立てていることが分かった。実際に「rabbit(うさぎ)」という概念に対応する内部表現を人為的に抑制すると、Claudeは代わりに「habit(習慣)」を行末に選んだという。これは、モデルが単語を一つずつ場当たり的に予測しているだけではなく、ある種の「見通し」を持って文章を組み立てていることを示す一例とされる。

多言語処理についても興味深い発見があった。「小さいの反対は何か」という質問を複数の言語で尋ねると、言語ごとに独立した思考回路が働くのではなく、まず言語に依存しない共通の「概念」の領域が活性化し、そこから最後に指定された言語へと変換されているらしいことが分かった。いわば「フランス語のClaude」「中国語のClaude」が別々に存在するのではなく、一つの概念空間を土台に多言語を扱っているという見方だ。

数の計算でも、単純な暗記や筆算の模倣ではなく、おおまかな概算と、特定の桁を精密に求める処理とが並行して走る複数の経路を組み合わせていることが見えてきた。さらに踏み込んで、Claudeが「わからない」と答えるのがデフォルトの状態であり、既知の情報に対応する内部表現が働いたときだけその「わからない」を打ち消す、という仕組みの手がかりも見つかっている。この打ち消しが誤って働いてしまうことが、事実に基づかない内容を生成してしまう、いわゆる「ハルシネーション」の一因になっているという見方だ。加えて、モデルが難しい計算問題であたかも順を追って解いているように見せながら、実際には内部にその計算を裏づける処理が存在しない「取り繕った推論」を行うケースがあることも確認されている。MIT Technology Reviewによれば、OpenAIはこうした思考の過程を監視する手法を使い、推論モデルの一つがコーディングのテストで不正をしていたのを見つけている。

巨大な変換装置を使わずに、200個のニューロンで説明がつく

もう一つ、2026年1月に公開された学術論文が話題になった。これまで解釈可能性の研究では、モデル内の一つ一つの「ニューロン」(計算の最小単位)は複数の無関係な概念が入り混じった状態になっていて、そのままでは人間に理解できないとされてきた。そのため多くの研究チームは、ニューロンの活動をいったん別の巨大なニューラルネットワーク(「スパースオートエンコーダ」と呼ばれる)に通し、より整理された特徴量に変換してから解析するという、計算コストの高い手法に頼ってきた。

ところがAroraらが発表した論文(査読前)は、この前提に一石を投じた。ニューロンを見る場所や、影響の大きさを測る計算方法を工夫するだけで、追加の変換装置なしでも十分に解釈可能な結果が得られることを示したのだ。文法的な整合性を判断する単純な課題では、わずか200個程度のニューロンの働きを追うだけで、モデルの挙動をほぼ完全に説明できたという。これは、従来型の手法に比べて100分の1程度の規模で済む結果だとされる。都市とその国の首都を結びつけるような複数段階の推論課題でも、少数のニューロンの集まりが特定の推論ステップを担っていることが分かり、なかにはたった一つのニューロンを操作するだけで、モデルの答えを「首都名」から「州・地域名」へと切り替えられるケースもあったという。まだ限られた課題での実験段階ではあるが、AIの内部はこれまで考えられていたよりも安く、直接的に読み解ける部分があるかもしれない、という期待を後押しする結果だ。

「本当に理解できるのか」という論争

もっとも、この手法でどこまで行けるかについては、研究者の間でも見方が割れている。MIT Technology Reviewは、大規模言語モデルは複雑すぎて、完全に理解することは決してできないと考える研究者もいる、と伝えている。現在解読できているのは、詩の脚韻や単純な文法判断、特定の知識の取り出しといった限られた課題の断片であり、モデル全体のふるまいを説明できたわけではない。

一方、AnthropicのCEOダリオ・アモデイは2025年4月の文章で、2027年までに、解釈可能性の技術でモデルの問題の大半を確実に見つけられるようにすることを目標に掲げ、これを「AIのMRI」にたとえた。実現するかどうかは分からない。ただ、能力の向上と並行して中身を理解する技術を育てようとする動きは、開発企業の側からも出てきている。

AIがどれほど正確な答えを出せるようになっても、「なぜそう答えたのか」を人間が納得できる形で説明できるかどうかは、また別の問題だ。私たちは医師や弁護士のような専門家の判断についても、その思考過程のすべてを理解しているわけではないまま、経験や実績への信頼を頼りに判断を委ねてきた。AIについても同じような信頼の築き方で十分なのか、それとも「わかった上で使う」ことにこだわるべきなのか。ニューロン一つひとつの働きが見え始めた今だからこそ、その問いはより具体的な形で私たちに突きつけられている。