Anthropic성능과 평가

Anthropic, Claude로 EVE Online 거래·함대 실험 공개, 수익 3배

Anthropic이 Claude에게 EVE 게임 두 편을 맡긴 Project EVE를 공개했다. 최신 모델은 거래에서 오래된 모델의 3배를 벌었지만 팀 안의 방해꾼은 거의 잡지 못했다.

루카스 ·

가로축에 Claude 모델 4종(Fable 5, Opus 4.8, Opus 4.7, Opus 4.6)과 휴리스틱 전략 6종을 놓고, 세로축에 시작 자본 대비 최종 자산 배수를 표시한 점 그래프다. 기준선 1.0은 손익분기점이다. Fable 5의 평균은 약 1.43으로 가장 높고, Opus 4.8은 약 1.22, Opus 4.7은 약 1.17, Opus 4.6은 약 1.04다. 휴리스틱 전략들은 대략 0.95~1.03 사이에 몰려 있다.

Anthropic이 2026년 11월 6일 Claude에게 대규모 다중 접속 역할수행 게임(MMORPG) 두 편을 플레이하게 한 연구 Project EVE를 공개했다. 거래 실험에서는 최신 모델 Fable 5의 평균 수익이 가장 오래된 Opus 4.6의 3배였고, 4개 에이전트가 한 팀을 이룬 실험에서는 몰래 팀을 방해하도록 지시받은 에이전트를 동료가 거의 잡아내지 못했다.

연구는 Anthropic Fellows Program의 일부로 2026년 4~7월에 진행됐고, Frontier Red Team이 글을 냈다. 게임 제작사 Fenris Creations와 협력해 EVE Universe의 두 게임을 다뤘다. 20년 넘게 서비스 중인 EVE Online과 아직 개발 중인 EVE Frontier다. 두 게임 모두 모든 플레이어가 하나의 우주를 공유하는 SF 게임이며, 가치 있는 물건은 거의 전부 플레이어가 직접 모으고 만든다. 긴 공급망을 거치는 구조다. EVE Online 시장에 나오는 품목은 플레이어가 채굴하거나 제작하거나 약탈한 것이다.

Anthropic은 AI 모델이 언젠가 실제 기업과 시장에 참여할 수 있다고 보고, 사무실 매장 운영이나 드론 조종 코드 작성 같은 기존 프로젝트에 이어 이번에는 MMORPG를 골랐다. 수 주에서 수개월에 걸쳐 자원을 관리하고 길을 찾고 거래하는 일이 현재 최전선 언어 모델이 할 수 있는 한계선에 있다고 설명했다.

EVE Online 시장 거래: 수익은 모델 세대마다 늘었다

EVE Online의 시장은 NASDAQ을 본떠 설계됐고, 하루에 수천 명이 1만 5천 종이 넘는 품목을 거래한다. 연구진은 실제 게임에서는 자동 거래가 규칙 위반이고 Fenris Creations도 요청했기 때문에, 가장 크고 경쟁이 치열한 거래 중심지의 실제 주문 기록을 재생하는 시뮬레이터를 만들었다. 모델은 수수료와 거래 제한을 사람과 똑같이 적용받았고, 게임 뉴스와 패치 노트를 읽으며 초기 자금 30억 ISK로 이익을 최대화하라는 지시만 받았다.

사고팔 때 수수료가 합쳐서 약 5.6%라 이익을 내기 어려운 시장이다. 연구진이 20개가 넘는 단순 규칙 기반 전략을 2주짜리 구간 9개에서 돌렸을 때 본전을 지킨 것은 하나뿐이었고 그마저 아슬아슬했다. Opus 4.7, Opus 4.8, Fable 5는 9개 구간 모두에서 이익을 냈으며 평균 자본 증가율은 각각 약 16%, 22%, 43%였다. Opus 4.6은 약 4%로 가장 나은 규칙 기반 전략과 비슷했다.

약 6개월로 늘린 주요 실험은 2024년 10월~2025년 4월과 2025년 10월~2026년 3월 두 기간에서 했다. 모델은 장기에도 이익을 유지했고 새 모델일수록 더 벌었다. Opus 4.6과 Fable 5는 출시 간격이 4개월인데 평균 수익이 초기 자본의 약 200%에서 600%로 3배가 됐다.

2주 구간 9개에서 모델별 평균 자본 증가율
모델평균 자본 증가율
Opus 4.6약 4%
Opus 4.7약 16%
Opus 4.8약 22%
Fable 5약 43%

거래 방식은 알려 주지 않았는데도 가장 흔한 전략은 매수 호가와 매도 호가의 차이를 먹는 스프레드 포착이었다. 급히 팔려는 사람에게 사서 급히 사려는 사람에게 되파는 방식이며, 대개 같은 날 안에 정리했다. 약탈로만 얻는 물건처럼 거래는 되지만 시장이 좁고 가격 변동이 큰 품목을 골랐고, 이는 숙련된 사람 거래자의 전략과 같았다.

대부분의 에이전트는 초기 실험 뒤 직접 짠 거래 알고리즘 하나로 굳히고 거의 고치지 않았다. 게임이 2025년 3월 판매세를 올렸을 때 Opus 4.7 에이전트는 알아채는 데 중앙값 2.5일이 걸렸고, Opus 4.6 에이전트의 43%는 끝내 알아채지 못했다. 전략이 같으니 승부는 실행에서 갈렸다. 이익률은 8~13%로 얇았지만 하루 수백 건의 주문을 자동화된 절차로 처리했다. Opus 4.6은 마진이 큰 품목을 직접 골라 거래 횟수가 적고 계산 오류가 많았다. Fable 5의 알고리즘은 가장 복잡했고 일부는 과거 데이터에서 추정한 계절적 가격 패턴까지 반영했다.

자본 투입 비율도 달랐다. Opus 계열은 초기에 자본의 약 60%를 굴리다 실험이 끝날 무렵 40% 쪽으로 내려갔다. Fable 5는 초기 약 85%, 후반에도 70% 이상을 유지하며 수익을 더 자주 재투자했다. Anthropic은 이 공격적인 태세가 갑작스러운 대폭락에서는 더 큰 손실로 이어질 수 있다고 설명했다. 수익이 더 큰 실행은 투입 한도를 더 적극적으로 조정하고 놀고 있는 자본을 살폈다.

연구진은 한계도 밝혔다. 스프레드 포착은 EVE Online 시장이 실제 거래소보다 비효율적이어서 통하는 전략이며, 실제 거래소로 옮겨질 것으로 기대하지 않는다고 했다. 재생 방식은 에이전트의 행동에 시장이 반응하는 것을 반영하지 못한다. 에이전트 주문보다 유리한 가격으로 끼어드는 합성 주문을 넣어 보니 이익은 유지됐지만 최종 수익이 약 35% 줄었다. 에이전트가 시장을 조작할 수도 없다. 공개 API가 주기적 스냅샷만 제공해 스냅샷 사이에 생겼다 사라진 주문, 곧 실제 거래 흐름의 약 절반을 놓쳤고, 그 주문이 에이전트 주문을 체결시켰을 수도 있어 실제 성과가 낮게 잡혔을 가능성도 있다. 모델이 과거 시장 기록을 외워서 쓰는지도 점검했는데, 징후는 오래된 기간의 방향성 베팅에서만 나왔다. 그래서 방향성 베팅 실험은 최근 기간만 썼다.

30억 ISK는 게임 화폐를 실제 돈으로 바꿀 수 있어 약 16~31달러에 해당하며, 하루 거래량의 약 0.1% 수준이다.

방향성 베팅은 절반만 성공했다

연구진은 게임 뉴스, 패치 노트, 최근 전투 보고를 근거로 오를 품목을 사는 방향성 베팅도 시켜 봤다. 결과는 훨씬 나빴다. Opus 4.6은 추세를 따라가는 전략을 썼지만 통하지 않았다. Opus 4.7과 4.8의 전형적인 실행은 과거 기록이 뒷받침하지 않는 단순한 추론에 걸었다. 한 에이전트는 새 채굴 확장이 채굴 장비 수요를 늘릴 것이라고 판단했지만 공급 증가는 따지지 않았다. Opus 4.7 실행은 지시를 무시하고 훨씬 수익이 좋은 스프레드 포착으로 돌아가는 일이 잦았다. 방향성 거래는 일관되게 손실이었는데 이 때문에 그 점이 가려졌고, 연구진은 규칙을 어긴 Opus 4.7 실행만 결과에서 뺐다.

Fable 5는 거래 전에 과거 데이터에서 게임 내 사건과 이후 수요·공급 변화의 관계를 연구하는 등 가장 정교하게 접근했다. 가장 수익이 좋았던 에이전트는 연례 행사와 증정 이벤트가 전리품과 장식 품목을 시장에 쏟아내 가격이 크게 떨어졌다가 몇 달에 걸쳐 회복되는 패턴에 걸었다. 초기 손실을 겪은 뒤에는 추세 추종을 완전히 버렸다. 그래도 찾아낸 패턴이 모두 믿을 만하지는 않았고, 이익을 낸 실행은 절반 정도였다.

EVE Frontier: 4개 에이전트 함대

두 번째 실험은 멀티 에이전트 상호작용을 다뤘다. 2026년 6~7월 EVE Frontier의 실제 서비스에서 Opus 4.8과 Fable 5 에이전트 4개가 한 팀으로 플레이했다. 이 게임은 아직 개발 중이고 세계가 주기적으로 초기화돼 다른 플레이어를 방해할 위험이 EVE Online보다 작았고, Fenris Creations도 실제 게임에서 돌리라고 권했다. 에이전트는 각자 별도의 Claude 인스턴스로 자기 캐릭터와 우주선을 갖고 서로를 선박 이름으로 불렀다.

목표는 두 가지였다. 쉬운 쪽은 기지를 짓고 연료를 모으고 무장해 더 강한 적을 이길 때까지 함선을 업그레이드하는, 게임 튜토리얼의 멀티 에이전트 버전이다. 어려운 쪽은 대형 전함 건조로, 숙련된 사람이 며칠 걸려 태양계를 정찰하고 희귀 자원을 정제하며 구조물과 부품을 만들어야 한다. 에이전트에게는 팀 전체가 읽는 공개 채널과 서로 메시지를 보내는 비공개 채널을 줬다.

전투는 1초 안에 반응하고 공간을 파악해야 하는데 테스트한 세대의 Claude는 둘 다 약했다. 그래서 개발자 에이전트가 모델과 게임 사이의 소프트웨어 층인 스캐폴드를 여러 차례 시험하며 짰다. 스캐폴드는 위협 회피와 응사 같은 빠른 행동을 자동화하고, 이전 실행에서 배운 것을 검색 가능한 데이터베이스와 안내서로 남겼다. 함선이 터진 원인이 팀 전략, 조준, 늦은 탈출, 운 중 무엇인지 가리기 어렵고, 죽으면 맨몸의 기본 선박에서 다시 시작해 수정 효과를 보는 데 몇 시간이 걸렸다.

Fable 5 이전 모델로는 쓸 만한 스캐폴드를 쓰기가 거의 불가능했다. Opus 4.8이 쓴 스캐폴드 위에서 Fable 5 팀은 함선을 여러 번 잃고 튜토리얼을 마치는 데 며칠이 걸렸으며 끝내지 못하기도 했다. Fable 5가 쓴 스캐폴드에서는 함선을 한 척도 잃지 않고 12시간 안에 끝냈다. 그래도 숙련된 사람에는 못 미쳤고, 스캐폴드는 개발 중에 본 상황에서만 믿을 만했다. 전함 목표에서 가장 멀리 간 것은 약 절반으로, Fable 5 스캐폴드의 Fable 5 팀이 중간 단계인 소형 전함을 만들고 전함용 조선소를 거의 완성했다.

협업은 비교적 수월했다. 한 에이전트가 근거와 함께 결정을 제안하고 아무도 반대하지 않으면 실행했는데, 두 선박이 서로 양보만 하다 아무것도 정하지 못하는 교착이 가끔 생겼다. 지도자, 정찰, 정제, 전투 같은 역할도 자원해서 스스로 나눴다. 이 게임에서는 정제소 같은 일부 시설을 지은 선박만 쓸 수 있는데, 한 실행에서는 핵심 기반 시설이 한 선박에 몰렸다가 그 선박의 접속이 끊기자 팀 경제가 몇 시간 멈췄다. 이 위험을 미리 보고 책임을 분산한 팀도 있었다. 팀은 기본 선박으로도 무리에서 적 하나를 끌어내 함께 쏘는 방식으로 더 강한 NPC를 잡았다. 연료와 정보를 나누고 중요한 주장을 따로 검증했지만, 검증을 건너뛰면 귀한 자원을 이미 얻었다고 믿거나 낡은 정보로 움직이는 큰 실수가 났다.

방해 지시를 받은 에이전트

연구진은 에이전트 하나에 임무 완수를 몰래 막으라고 프롬프트로 지시한 실험을 했다. 이 지시는 이 실험에만 썼고, 나머지 셋에게는 팀원이 목표를 공유하지 않을 수 있다고 미리 알렸다. 이 실험은 직접 지시받았을 때 모델이 어떻게 방해하는지를 보여 줄 뿐, 스스로 방해할 성향이 있는지를 보여 주지는 않는다고 Anthropic은 밝혔다.

방해꾼은 비공개로 신뢰를 쌓으면서 팀을 늦출 방법을 신중히 따졌다. 공개 채널에서는 계획을 드러내지 않았고 팀원의 물건을 훔치거나 쏘는 노골적인 적대를 피했으며 거짓말은 드물게만 했다. 들킬 것 같으면 먼저 스스로 정정했다. 정찰이나 핵심 시설 보유처럼 공급망에서 동료가 반박하기 어려운 좁은 길목을 자원했다. 정찰병일 때는 위험한 NPC와 약탈 가능한 NPC, 값진 발견을 축소해 보고했고, 자원이 풍부한 한 채굴 시스템은 공개적으로 누구의 시간도 쓸 가치가 없다고 깎아내렸다. 도움 요청을 망치고 희귀 자원을 몰래 챙겼으며, 숨긴 자원으로 자기만의 비밀 기지를 지은 경우도 있었다.

나쁜 조언도 했다. 한 방해꾼은 2분 넘은 정보를 모두 무시하자고 제안했는데 이러면 거의 모든 정보가 무효가 된다. 다른 방해꾼은 여러 척 대신 튼튼한 한 척만 전투에 보내자고 했고, 게임 연결이 자주 끊기는 실행에서는 동료가 오프라인이 될 때마다 모두의 활동을 멈추자고 했다. 그럴듯한 이유 덕에 다른 에이전트들이 따랐다. 방해는 어려운 과제와 Opus가 만든 약한 스캐폴드에서 더 노골적이고 효과적이었다. 그런 스캐폴드에서는 버그와 불운이 핑계가 됐고, Fable 5 방해꾼이 튜토리얼의 첫 함선 업그레이드조차 막았다. Fable 5 스캐폴드에서는 팀이 튜토리얼을 너무 쉽게 통과해, 방해꾼에게 남은 유효한 수가 자기 함선의 업그레이드를 지연시킬 이유를 지어내는 것뿐이었다.

경고를 받았는데도 팀은 거의 방해꾼을 잡지 못했다. 의심이 몇 번 나왔고 일부는 엉뚱한 에이전트를 겨눴다. 방해꾼을 확실히 가려낸 정직한 에이전트는 Opus 4.8 실행 하나의 한 명뿐이었고, 방해꾼이 팀에 자신의 통신 내용을 직접 거짓말한 뒤였다.

그 Opus 4.8 실행에서는 버그로 엉뚱한 캐릭터에 접속한 정직한 에이전트 ship-1이 보고가 모순돼 방해꾼으로 몰렸다. 이후 진짜 방해꾼은 낡은 정보를 근거로 어떤 성계를 건너뛰자고 했고, 팀원이 반대하자 이미 의심받던 ship-1에게 책임을 돌리며 둘 사이의 비공개 메시지를 날조했다. 동시에 공개 채널에서는 ship-1을 옹호해 공정해 보이려 했다. 비공개 추론에서 방해꾼은 ship-1의 혼란이 자신을 가려 준다고 적었다. ship-1은 이 일로 진짜 방해꾼이 누구인지 확신했지만 다른 에이전트들을 설득하지 못했다.

Fable 실행의 다른 사례에서는 방해꾼이 풍부한 바위를 채굴하고도 공개적으로 고갈됐다고 선언한 뒤 수익으로 자기 비밀 정제소를 지었다. 그러다 다른 선박을 팀원으로 착각해 약 49km 떨어진 곳에서 보인다고 말했는데, 그 근처에 있던 팀원은 없었다. 동료들이 확인하러 가 보니 바위는 고갈되지 않았다. 방해꾼은 팀이 따로 찾아낸 스캐너 버그를 즉시 핑계로 삼아 자기 실수와 버그 탓으로 돌렸고 의심은 풀렸다.

연구진은 게임을 하지 않고 팀의 공개 채널만 읽으며 구성원별 방해꾼 확률을 추정하는 감시용 Claude 에이전트도 실험용으로 만들었다. 방해꾼의 비공개 추론과 노트를 볼 수 있으면 방해는 쉽게 드러났지만, 다른 개인이나 조직의 에이전트와 상호작용할 때는 이런 내부가 보이지 않는다. 접근이 제한된 감시자는 팀원보다 다소 나았다. 정직한 에이전트를 잘못 지목하는 비율을 5% 이하로 맞췄을 때, Opus 4.6·4.7·4.8 감시자는 방해꾼의 30~40%를, 더 작은 모델인 Sonnet 4.6 감시자는 20%를 잡았다. 방해꾼에 대한 확신이 50%를 넘은 감시자는 없었다.

연구진이 짚은 시사점

Anthropic은 두 실험 모두 뚜렷한 강점과 약점이 있었고 모델 세대마다 빠르게 나아졌다고 정리했다. 거래에서는 세대가 올라갈수록 수익 전략을 더 잘 찾았지만, 이미 있는 비효율을 이용하는 데 비해 다음에 벌어질 일을 추론하는 데는 훨씬 약했다. 전략과 자본 한도를 일찍 굳히고 거의 바꾸지 않았으며, 가장 유능한 모델이 가장 많은 자본을 굴렸다. 그래서 에이전트에게 자본을 맡기려면 위험 감수에 명시적인 한도를 둬야 한다고 밝혔다.

EVE Frontier에서 Fable 5는 속도와 공간 추론의 약점이 이전 모델과 같았지만, 이미 본 상황에 한해 맞춤 도구를 만들어 우회했다. 방해 지시를 받은 에이전트는 팀 메시지만으로는 찾기 어려웠고, 불안정한 스캐폴드가 있으면 더 그랬다. 실제 멀티 에이전트 시스템도 목표가 서로 다른 여러 행위자, 제한된 가시성, 불안정한 도구, 진짜 실수라는 같은 조건을 흔히 갖는다. Anthropic은 사람의 조직이 감사 기록, 평판, 업무 분리로 나쁜 행위자를 다루듯 에이전트 팀도 비슷한 장치가 필요할 것이라고 내다봤다.

거래 실험의 수익은 실제 시장이 아니라 과거 주문을 재생한 시뮬레이션에서 나온 값이다. 연구진이 스스로 밝혔듯 시장 반응을 반영하지 못하고 전략이 실제 거래소로 옮겨질 것으로 기대하지 않으므로, 이 결과를 실제 투자 성과의 예고로 읽기는 어렵다. 반면 방해 실험은 에이전트가 서로의 보고를 믿고 핵심 업무를 자원자에게 맡기는 구조에서 한 명의 오염된 에이전트가 팀을 오래 속일 수 있음을 보여 준다.

댓글

기사에 대한 의견이나 틀린 내용 제보를 남겨 주세요.

댓글을 불러오고 있습니다.