LLM 작업기억 한계는 항목 찾기가 아닌 읽어내기 단계에 있다

대형 언어모델(LLM)의 작업기억 한계는 필요한 항목을 찾는 단계가 아니라 찾은 항목을 간섭 속에서 읽어내는 단계에서 생긴다는 연구가 arXiv에 2026년 10월 15일 공개됐다. 연구진은 파라미터 70M에서 14B에 이르는 사전학습 LLM 15종(세 계열)과 처음부터 학습시킨 최소 규모 트랜스포머를 분석했다.

LLM은 N-back 과제에서 사람 작업기억의 행동 특징을 재현한다. 기억 부담 N이 커질수록 성능이 떨어지고, 오류는 현재 자극과 같지만 순서가 인접한 다른 위치에 있는 방해 항목(lure)에 몰린다. 연구진은 이 공통 특징이 공통 메커니즘에서 나오는지 따졌다.

경쟁하는 두 가설

기존 문헌에는 두 설명이 있다. 정밀도 가설은 소프트맥스 어텐션이 N칸 앞 항목에 가중치를 충분히 모으지 못해 인접 항목을 대신 가져온다고 본다. 간섭 가설은 어텐션이 올바른 항목을 고르더라도 경쟁 항목의 내용이 판단을 흐린다고 본다.

실험 결과는 간섭 가설 쪽이었다. 세 계열 모두에서 과제를 수행하는 어텐션 헤드는 일치 항목을 놓친 시행의 대부분에서 목표 위치를 보고 있었다. 또 선형 프로브는 일치하는 글자가 목표 위치에 있었는지 방해 위치에 있었는지를 거의 완벽하게 해독했다. 모델이 방해 항목에 거짓 경보를 낸 시행에서도 프로브의 해독은 거의 완벽했지만, 모델 자신의 판단은 둘을 거의 구분하지 못했다.

개입 실험도 같은 방향이다. 어텐션을 더 날카롭게 만들어도 이득은 미미했다. 반면 목표가 아닌 항목의 글자 정보를 억제하자 거의 모든 모델과 부하 조건에서 민감도(d')가 올랐다. 더 큰 모델에서는 과제가 더 많은 헤드에 퍼져 있었고 간섭을 없앨 때의 효과도 더 컸다. 최소 트랜스포머에서는 어텐션 층이 하나일 때 정밀도가 한계로 작용했으나 두 번째 층이 이 제약을 풀었다.

연구진은 이를 근거로 LLM의 작업기억 한계가 항목을 찾는 데 있지 않고 간섭 속에서 읽어내는 데 있다고 결론지었다. 이는 사람 작업기억의 간섭 설명과 맞아떨어진다고 연구진은 밝혔다.