MIT 연구진이 OpenAI의 GPT-6 Astra가 다른 AI 모델의 가중치를 읽고 직접 고쳐 성능을 바꿀 수 있다는 실험 결과를 연구 블로그에 공개했다. 재학습 없이 Qwen3.5-0.8B 가중치의 0.016%만 수정해 수학 벤치마크 MATH-500 정확도를 7.9%에서 48.1%로 끌어올렸다고 한다.
연구진은 이 방식을 Weight-Space Programming이라 부른다. 일반적인 학습처럼 수학적 최적화를 단계마다 반복하지 않고, 언어 모델이 가중치 숫자를 직접 다룬다. 실험에 따라 Astra는 숫자 목록을 직접 읽거나 프로그래밍 도구와 시험 실행의 피드백을 활용했다. 수정한 Qwen 모델은 Hugging Face에, 실험 기록은 GitHub에 올라와 있다.1
가중치만 보고 모델을 알아맞히다
연구진은 학습을 마친 신경망의 가중치만 Astra에 주고 무엇을 배웠는지 물었다. Astra는 네 가지 게임 가운데 신경망이 플레이하도록 학습된 게임을 맞혔다. 이미지 생성 모델이 만드는 기본 도형도 알아봤지만 속이 찬 도형과 윤곽선은 혼동했다. 작은 언어 모델이 학습한 언어도, 학습 데이터를 보거나 모델을 실행하지 않고 가중치만으로 맞혔다.
사용자 말에 무조건 동조하도록 학습한 모델(아첨 모델)을 가리는 실험에서는 가중치만으로 처음엔 구분하지 못했다. 텍스트를 처리할 때 모델이 주목한 곳을 볼 수 있게 하자 어텐션 정보를 활용해 세 쌍 모두에서 아첨 모델을 맞혔다.
Astra는 게임 규칙과 소스 코드만 보고 학습 없이 가중치를 써서 세 가지 단순 게임용 모델을 만들기도 했다. 연구진에 따르면 이 모델은 표준 방식으로 1억 라운드 넘게 학습한 모델을 Breakout에서 앞섰다. Breakout에서 Astra 모델의 평균 점수는 517점, 학습한 기준 모델은 25점이었다. 나머지 두 게임에서는 가장 오래 학습한 버전에 뒤졌다. 9x9 바둑에서는 약 150만 개 매개변수의 신경망 가중치를 써 줬다. 50회 시험 반복에서 신경망이 매회 최대 128판을 두고 Astra가 가중치를 고치는 과정을 거치자, 비슷한 크기로 약 2천만 판을 학습한 모델을 이겼다.1
Qwen3.5-0.8B 수학 실험
가장 실용적인 실험은 Qwen3.5-0.8B의 수학 실력 개선이었다. Astra는 코딩 환경과 연습 문제를 쓴 50회 시험 반복으로 작업했고, 평가는 본 적 없는 별도 문제로 했다. 모델이 답을 내지 못하고 같은 글을 끝없이 되풀이하는 사고 루프를 Astra가 문제로 짚었는데, Qwen 자체 문서도 이미 경고하던 증상이다.1
| 항목 | 수정 전 | 수정 후 |
|---|---|---|
| MATH-500 정확도 | 7.9 | 48.1 |
| 지시 따르기 | 21.0 | 62.3 |
| 최대 길이에 닿은 응답 비율 | 93.0 | 33.1 |
사고 루프는 완전히 사라지지 않아 응답 3분의 1이 여전히 최대 길이에 닿았다. Hugging Face 저장소에 따르면 원본과 달라진 텐서는 15번과 19번 층의 mlp.down_proj 두 개뿐이다. 측정 조건은 사고 모드 켬, 최대 32,768 토큰이다.1,2
akhaliq는 2026년 11월 2일 ML Intern을 써서 Hugging Face Jobs에서 이 체크포인트를 재구성하고, MATH-500 전체 500문제를 문제당 4회씩 다시 돌렸다. vLLM과 NVIDIA H200을 썼고, 수정 모델은 51.0%였으며 응답의 31.6%가 토큰 한도에 닿았다. 원본 모델은 25문제만 시험해 5.0%, 한도 도달 95%였다. 이 재실행은 블로그가 쓴 텍스트 전용 변환본 대신 멀티모달 전체 공개본으로 했고, 언어 모델 텐서는 해시로 동일함을 검증했다.2
한계와 논쟁
사고 루프가 드문 더 작은 모델 Gemma 3 270M에서는 측정할 만한 개선이 없었다. 연구진은 Qwen에서 기존 능력을 억누르던 막힘을 Astra가 풀어 준 것으로 추정한다. 모델에 원래 없는 능력은 이번 실험에서 가중치 몇 개를 고쳐서는 더해지지 않았다.
Jürgen Schmidhuber는 X에서 이 접근이 자신의 1990년대 연구와 겹치는 낡은 방식이라고 평했다. 연구진 쪽 Khattab은 해당 논문들을 링크했다며 시대를 앞선 연구였다고 답했고, 새로운 점은 오늘날 언어 모델이 사람 말과 신경망 숫자 사이를 옮기는 능력이라고 말했다.
연구진은 모델 가중치에서 바로 하는 보안 감사와 재학습 없는 행동 수정에 활용 가능성을 본다. 현재 능력은 제한적이라고 인정했고, 체계적으로 측정할 벤치마크를 다음 과제로 꼽았다.1
GitHub 기록에 따르면 'Astra'는 OpenAI의 gpt-6-astra다. 실험은 Codex CLI를 호출하는 방식이었고 추론 강도는 실험별로 high, xhigh, max를 썼다. 내장 도구는 모두 껐으며, 코드가 허용된 실험(3, 6, 7, 8)에서는 네트워크 없는 샌드박스에서 파이썬 코드를 실행했다. 공개된 1,125턴은 모두 도구 없이 진행된 것으로 점검됐다.3
기록과 네트워크는 CC BY 4.0, 스크립트는 MIT 라이선스다. 수정 대상인 Qwen3.5-0.8B는 Apache 2.0이다.2,3
출처
- GPT-6 Astra sees the matrix and reprograms other AI models directly through their weights the-decoder.com
- RikiyaT/Qwen3.5-0.8B-weight-space-programming · Hugging Face huggingface.co
- GitHub - RikiyaT/lm_understand-logs: Complete logs of the experiments in the blog post 'LLMs can understand and write neural network weights' github.com
위르겐 슈미트후버