MIT CSAIL发布Weight-Space Programming：GPT-6 Astra直接解析与编辑神经网络权重

「Weight-Space Programming」の概要をまとめました。

目次

1. 1. Weight-Space Programming
2. 2. Read - 重みからAIの学習内容を推測
3. 2-1. ゲームAIの重みからゲームを特定
4. 2-2. 画像生成AIの重みから生成内容を特定
5. 2-3. 言語モデルの重みから学習言語を特定
6. 3. Fix - 重みを書き換えてAIの性能を改善
7. 3-1. PPOで失敗したゲームAIを修正
8. 3-2. Qwen3.5-0.8Bの数学性能を改善
9. 4. Write - 学習せずにAIの重みを生成
10. 4-1. PPOより高性能なゲームAIを生成

1. Weight-Space Programming

2026年11月2日、MIT CSAILの研究チームは、LLMがニューラルネットワークの重みを直接読み書きする新しい手法「Weight-Space Programming」を発表しました。

ニューラルネットワークの「重み」とは、AIの動作を決める大量の数値のことです。通常は大量のデータを使って学習し、少しずつ調整します。

一方、Weight-Space Programmingでは、LLMが重みの役割を推測し、直接書き換えます。

研究では、汎用LLM「GPT-6 Astra」を使用して、次の3つの能力を検証しました。

具体的には、次のようなことに成功しました。

つまり、従来のような大量のデータを使った再学習や勾配降下法に頼らずに、LLMが重みを直接調べたり、修正したり、新しく作ったりできることを示しています。

2. Read - 重みからAIの学習内容を推測

2-1. ゲームAIの重みからゲームを特定

Breakout、Pong、Pac-Man、Freewayを簡略化した4種類のゲームAIを、強化学習アルゴリズム「PPO」で学習させました。4つのAIはすべて同じ構造で、Astraには17,253個の重みと、ゲーム名を伏せた入出力の説明だけを渡しました。

その結果、Astraはゲームを実際にプレイさせることなく、4種類すべてを正しく特定しました。

2-2. 画像生成AIの重みから生成内容を特定

円・三角形・四角形を生成する小さな画像生成AI（DDPM）を用意し、Astraにそれぞれの重みを調べさせました。

その結果、どの図形を生成するAIなのかを正しく特定しました。

ただし、実際のAIは塗りつぶされた図形を生成するのに対し、Astraが推測したのは輪郭だけでした。つまり、生成内容は推測できても、細部まで正確に把握できたわけではありません。

2-3. 言語モデルの重みから学習言語を特定

Pythonコード、ローマ字の日本語、英語をそれぞれ学習した、約720万パラメータの言語モデルを用意しました。Astraには、入力層と出力層を除いた中間部分の重みだけを渡しました。

その結果、3種類すべての学習言語を正しく特定しました。さらに、過去に登場した文字列のパターンを利用して続きを予測する「Induction Head」という仕組みも発見しました。

3. Fix - 重みを書き換えてAIの性能を改善

3-1. PPOで失敗したゲームAIを修正

物理シミュレーション環境「Kinetix」で、車を操作して障害物を越えるゲームを用意しました。
PPOで10億ステップ学習したAIは、坂を登りきれずに停止してしまいます。そこでAstraは、AIの重みと失敗時の動きを分析し、一度バックして助走をつける方法を考え、その動作ができるように重みを修正しました。

その結果、重みの約3.5%を1回の編集で変更するだけで、成功率が0%から100%に改善しました（1,024回の評価）。

3-2. Qwen3.5-0.8Bの数学性能を改善

言語モデル「Qwen3.5-0.8B」には、推論中に同じ内容を繰り返し、回答を終えられなくなる「Thinking Loop」という問題がありました。
Astraは練習問題で原因を分析し、24層のうち15層目と19層目にある重みを直接修正しました。変更したのはモデル全体のわずか0.016%です。

その結果、数学問題（MATH-500）の正答率が7.9%から48.1%に改善し、指示に従う能力も向上しました。

ただし、新しい数学能力を獲得したというより、同じ内容を繰り返して回答できなくなる問題を解消した効果が大きいと考えられます。

4. Write - 学習せずにAIの重みを生成

4-1. PPOより高性能なゲームAIを生成

Astraにゲームのルールとニューラルネットワークの構造を教え、学習を行わずに重みをゼロから作成させました。対象は、シンプルなゲーム環境「MinAtar」のBreakout、Seaquest、Asterixです。
この実験では、学習データや勾配降下法を使わず、生成したAIを試しにプレイさせて結果を確認することもしていません。

その結果、3種類すべてで、1億ステップ学習したPPOより高いスコアを記録しました。ただし、5億ステップ学習したPPOとの比較では、Breakoutのみ上回りました。

4-2. 囲碁AIの重みを生成

さらに、約148万パラメータのニューラルネットワークで、9×9の囲碁をプレイするAIも作成しました。AstraはPythonを使い、石の配置や取られる危険性を判断する仕組みを考え、重みに直接組み込みました。

その結果、最大50回のForward Pass（モデルの実行）と動作確認を通じて、2,000万ゲーム学習した同規模のPPOモデルを上回る性能を達成しました。

ただし、比較相手は研究用のPPOモデルであり、一般的な強豪囲碁AIを上回ったわけではありません。

5. 現在の限界

今回の研究は初期段階であり、次のような制約があります。

例えば、Gemma 3 270Mの数学性能を改善する実験では、重みの修正はほとんど効果がありませんでした。

また、ユーザーの意見に過度に同調するモデルを重みだけで見分ける実験にも失敗しています。ただし、モデル実行時のAttention（注意の向け方）の情報を追加すると判別に成功しました。

6. 今後の可能性

Weight-Space Programmingが発展すると、次のような応用が期待されます。

ただし、これらは今後の研究課題であり、すべてが実証されたわけではありません。

関連