Anthropic, AI가 과학 모델을 직접 만드는 방식과 해석 한계 공개

Anthropic이 2026년 11월 6일 연구 글 'Teaching AI to build scientific models'를 공개했다. 대규모 언어 모델(LLM) 기반 에이전트가 과학 모델을 직접 짜고 데이터에 맞춰 고치는 방식을 설명하면서, 모델 하나만 내놓는 AI로는 과학적 이해에 이르지 못하므로 데이터와 맞는 모델 전체의 범위를 함께 제시해야 한다고 주장했다.

글은 1950년대 Hodgkin과 Huxley가 신경세포 모델을 만든 과정을 출발점으로 삼는다. Huxley는 컴퓨터로 방정식을 풀 계획이었으나 손으로 돌리는 기계식 계산기로 풀어야 했고, 3주 넘게 걸렸다. 이 모델은 70년 넘게 지난 지금도 신경세포의 전기 활동을 설명하는 표준이다.

Hodgkin-Huxley 모델이 보여 준 것

두 사람은 세포막을 전기 회로로 보고 모델의 기본 구조를 세웠다. 다만 곡선을 측정 데이터에 맞추려면 변수 하나를 네제곱해야 했고, 당시에는 그 이유를 몰랐다. 두 사람은 막의 통로가 열리려면 전하를 띤 입자 여러 개가 제자리로 움직여야 하기 때문일 수 있다는 가설을 조심스럽게 내놓았다.

두 사람이 1963년 노벨 생리의학상을 받은 뒤 수십 년이 지나 다른 연구팀이 관련 칼륨 채널 단백질의 구조를 밝혔고, 중심 구멍 둘레에 같은 조각 네 개가 놓여 있음이 확인됐다. 1951년 데이터에 맞춘 이 모델은 신경 임펄스가 퍼지는 속도를 비교적 정확히 예측했고, 한 번도 맞춰 본 적 없는 칼륨 이온 채널의 구조를 짚는 데에도 도움이 된 것으로 드러났다.

Anthropic은 요즘의 AI라면 이런 방정식을 하루 오후에 찾을 수 있을 법하고, 데이터에도 더 가깝게 맞출 수도 있다고 봤다. 하지만 네제곱이 효과가 있다는 사실만으로는 부족하고, 더 단순한 모델이 통하지 않는다는 점을 아는 것이 중요했다고 짚었다. 같은 데이터를 재현하는 모델은 얼마든지 있기 때문이다. 글은 수학자 Richard Hamming이 1962년에 쓴 "계산의 목적은 숫자가 아니라 통찰이다"라는 문장을 인용했다.

모델링의 세 단계

글은 과학 모델링을 모델 만들기, 데이터로 모델 조정하기, 모델 해석하기로 나눈다. 연구자는 이 단계를 되풀이하며, 수치가 측정값과 맞지 않거나 해석이 말이 되지 않으면 돌아가 고친다.

조정 단계에서는 모델 변수의 값이 하나로 정해지지 않는 문제가 있다. 글은 총액이 120달러인 단체 식사에서 누가 무엇을 시켰는지 모르는 상황에 빗댄다. 신경세포 모델도 통로(게이트)의 매개변수 조합이 서로 달라도 거의 같은 전기 활동을 낼 수 있어서, 잘 맞는 조합 하나만 보여 주면 나머지 가능성이 가려진다.

베이즈 추론의 표준 방식은 가능한 모든 값에서 측정 결과가 나올 가능성을 계산해야 해서 대개 현실적이지 않다. Hodgkin-Huxley 모델에서는 이 계산이 여전히 가능하지만, 이보다 복잡한 모델은 계산상 불가능하다. 시뮬레이션 기반 추론(SBI)은 무작위 매개변수로 모델을 돌려 출력을 기록하는 일을 되풀이한다. Hodgkin-Huxley 규모라면 10만 번쯤, 더 큰 모델은 수백만 번이다. 그 결과로 신경망을 학습시키면, 출력이 주어질 때 그것을 만들 수 있는 매개변수의 범위를 돌려준다.

SBI에는 매개변수를 넣으면 데이터가 나오는 시뮬레이터만 있으면 된다. 수식으로 깔끔하게 쓸 수 없는 모델도 해당하며, 신경세포 네트워크부터 충돌하는 은하까지 시뮬레이터가 유일한 모델인 경우가 많다고 Anthropic은 설명한다. 시뮬레이션을 돌리는 데 몇 주가 걸리지만, 학습을 마친 네트워크는 새 데이터를 추론하는 데 몇 초면 된다. 중성자별 두 개가 충돌하면 하늘의 대략적인 위치를 신호가 남아 있는 동안 계산해 망원경을 향하게 할 수 있고, 우주론, 구조생물학, 지구물리학에도 쓰였다.

에이전트가 모델을 만드는 방식

Hodgkin-Huxley의 네제곱은 생물학적 통찰과 단순한 버전이 잘 맞지 않는다는 경험에서 나왔고, 제1원리에서 유도한 것이 아니다. 이 단계도 이제 AI가 돕거나 맡을 수 있다. 데이터와 시스템에 대한 자연어 설명이 주어지면 LLM 기반 에이전트가 후보 모델의 코드를 쓰고, 실행하고, 매개변수를 조정하고, 출력을 실제 데이터와 비교한 뒤 방정식 형태를 바꾸는 식으로 고친다. 모델이 데이터를 충분히 재현할 때까지 이 순환이 이어진다. 글에 따르면 이런 시스템이 최근 2년 사이 여럿 나왔고, 모두 LLM으로 모델 자체를 설계한다. 얼마 전까지는 사람만 할 수 있는 일로 여겨졌다.

문제는 데이터를 재현한다고 통찰이 생기지는 않는다는 점이다. 같은 데이터를 두고 방정식 모양이 다른 모델이 여럿 똑같이 잘 맞을 수 있어서, 에이전트를 같은 데이터로 두 번 돌리면 서로 다르면서 똑같이 좋은 모델이 나올 수 있다. 하나만 내놓는 에이전트는 최적 매개변수 하나만 보여 주는 것처럼 나머지를 숨긴다.

Anthropic이 제안하는 방식은 모델 만들기도 조정과 같이 가능한 범위 전체를 묻는 것이다. AI가 후보를 많이 내놓으면 데이터가 뒷받침하는 정도에 따라 가중치를 매기고, 맞추려고 유연성이 많이 필요한 후보는 점수를 덜 준다. 약한 후보는 탈락하고 AI는 강한 후보의 변형을 새로 제안한다. 살아남은 모델이 모두 공유하는 특징은 데이터가 지지할 가능성이 크고, 의견이 갈리는 곳은 증거가 부족해 다음 실험이 필요한 지점이다.

해석 단계의 어려움

Hodgkin과 Huxley의 네 입자 가설은 네제곱 방정식이 네 가지 일이 모두 일어나야 통로가 열리는 상황과 맞는다는 데서 나왔다. 이 해석이 설득력을 얻은 것은 단순한 모델이 실패했기 때문이다. 정확한 지수에는 불확실성도 있었다. 두 사람은 세제곱이나 네제곱이 필요하다고 보고 네제곱을 택했으며, 더 높은 거듭제곱이 약간 더 잘 맞을 수도 있지만 그 개선은 추가되는 복잡성만큼의 가치가 없다고 적었다.

방정식으로 두 사람은 다른 결과도 추론했다. 신경세포가 문턱 전압 아래에서는 발화하지 않고 그 위에서는 발화하는 이유, 신경 펄스의 모양이 모두 같은 이유를 설명했고, 충분히 천천히 오르는 전류는 세포를 발화시키지 못한다고 예측했다. 과학철학에서는 모델을 돌리지 않고도 결과를 도출할 수 있으면 그 이론을 이해 가능하다고 본다. 변수가 수천 개인 큰 모델에서는 이에 해당하는 기준이 몇 가지 핵심 메커니즘으로 압축해 다시 만들 수 있는지이며, 모델이 클수록 어려워진다.

세 단계 가운데 해석이 AI에 넘기기 가장 어렵다고 Anthropic은 설명한다. 모델이 데이터에 얼마나 맞는지는 측정할 수 있지만 시스템을 더 잘 이해하게 하는지는 측정하기 어렵고, AI에게 '이해'를 목표로 주는 방법도 분명하지 않기 때문이다. 제안은 두 가지다. 하나는 시스템에 교란을 줬을 때 반응을 얼마나 잘 예측하는지로 AI의 이해를 평가하는 것이고, 다른 하나는 AI의 출력이 사람 과학자의 이해를 돕는지를 묻는 것이다. Anthropic은 후자의 예로 양자 실험을 설계하는 AI를 들었다. 이 AI는 실험 설정 하나가 아니라 관련 실험군 전체를 만들어 내는 짧은 프로그램을 쓰도록 학습됐고, 물리학자는 설정 하나에서 거꾸로 추적하지 않고도 프로그램에서 설계 원리를 바로 읽을 수 있다.

두 방식 모두 단일 최적 모델이 아니라 적합한 모델의 전체 분포가 필요하다고 Anthropic은 말한다. 모델 하나로는 어느 부분이 데이터로 제약되는지 알 수 없어서 제약되지 않은 부분에서 의미를 읽어 내기 쉽다. 예측도 견고해진다. 나트륨 통로를 전부 막으면 데이터에 맞는 모델들이 같은 답을 낼 것이므로 믿을 만하지만, 일부만 막았을 때 답이 갈린다면 그것이 다음 실험의 아이디어가 된다.

더 큰 규모의 모델

Hodgkin-Huxley 같은 유명한 모델은 변수와 방정식이 몇 개뿐이다. 사람이 직접 만들고 조정하고 해석해야 했기 때문에 작을 수밖에 없었고, 그 작은 크기 덕에 이해할 수 있었다. 글은 AI가 일을 더 맡으면 이 크기 제한이 풀리기 시작해, 손으로 쓸 수 없을 만큼 복잡한 시스템도 모델링할 수 있게 되리라고 내다봤다. 다만 방정식을 읽는 것만으로는 이해할 수 없게 될 수 있다.

뇌가 대표적인 사례다. Hodgkin-Huxley 방정식은 신경세포 하나를 기술하지만 초파리 뇌에는 10만 개가 넘는 뉴런이, 사람 뇌에는 수백억 개가 있다. 초파리는 모든 뉴런과 연결을 보여 주는 완전한 배선도가 나와 있고, 이를 바탕으로 시각계 전체의 뉴런 활동을 예측하는 모델 같은 대규모 모델이 만들어지기 시작했다. 이는 뇌가 배선을 행동으로 바꾸는 방식, 배선만으로 행동을 얼마나 예측할 수 있는지, 어떤 연결이 실제로 중요한지 같은 질문을 가능하게 한다.

이런 규모에서는 올바른 모델 하나를 찾을 수 없으며, 대부분의 경우 그런 것은 없다고 Anthropic은 말한다. 통계학자 George Box의 "모든 모델은 틀렸지만 일부는 쓸모가 있다"를 인용하며, 질문이 어느 모델이 맞는가에서 데이터와 맞는 모든 모델이 공유하는 성질과 거기서 나오는 예측으로 바뀐다고 설명했다. 가장 유용한 실험은 남은 모델을 가장 많이 걸러 내는 실험이고, 사람 과학자에게 가장 흥미로운 실험과 다를 수 있다.

다른 분야에도 비슷한 방식이 있다. 기후과학자는 가정이 조금씩 다른 거대 수치 시뮬레이션을 여러 개 만들어 그 전체의 분포로 전망을 보고한다. 대형 강입자 충돌기의 입자물리학자는 새 입자를 찾을 때 특정 이론이 맞았는지만 선언하지 않고, 데이터로 배제된 이론 버전과 아직 열려 있는 버전의 지도를 만든다.

글은 Hodgkin과 Huxley의 수작업으로 돌아가고 싶지는 않다면서도 그 시간이 헛되지 않았다고 말한다. 모델이 주는 통찰의 상당 부분은 만드는 과정에서 나오며, 두 사람은 모델을 직접 만들고 무엇이 통하지 않았는지 알았기에 모델이 말해 주는 바를 이해했다. 이 이해로 게이팅 변수의 해석을 끌어냈고, 그것이 노벨상으로 이어진 발견의 일부가 됐다. AI가 하루 오후에 같은 작업을 해낸다면 데이터에 맞는 모델뿐 아니라 어느 부분이 데이터로 확정됐는지, 무엇이 열려 있는지, 어떤 대안이 실패했는지, 새로 드러난 의문이 무엇인지까지 내놓아야 한다는 것이 Anthropic의 결론이다.

Anthropic은 이런 모델 설계 시스템이 지금까지 주로 과학자가 이미 아는 모델을 재발견하는 과제로 시험됐고, 답이 알려지지 않은 문제에서 작동한다는 증거는 드물다고 적었다. 다만 최신 LLM이 이전 모델보다 연구 과제에서 더 나은 성능을 내고 있어 이런 시스템이 계속 나아지리라 기대한다고 밝혔다. 해석 단계에 대해서는 모델이 시스템을 더 잘 이해하게 하는지 측정하기 어렵고 AI에게 '이해'를 목표로 주는 방법도 분명하지 않다고 설명했다.