벤치마크 · 코딩

Aider Refactor (한 번 시도) 순위

기존 코드를 재구성하는 Aider 리팩터링 시험의 첫 시도 통과율. Edit·Polyglot과 별개 시험이다.

평가: Aider · 측정한 모델 8개· 평가 기관 설명 보기

상위 모델

  • OpenAI
  • Anthropic
  • Google
  • xAI
Claude 3.5 Sonnet (October 20…Claude 3.5 Sonnet (October 2024) · 92.1%92.1%o1-previewo1-preview · 75.3%75.3%Claude 3 OpusClaude 3 Opus · 72.3%72.3%Claude 3.5 SonnetClaude 3.5 Sonnet · 64%64%GPT-4 Turbo (Nov 2023)GPT-4 Turbo (Nov 2023) · 50.6%50.6%GPT-4o (Aug 2024)GPT-4o (Aug 2024) · 49.4%49.4%o1-minio1-mini · 44.9%44.9%GPT-4 Turbo (Apr 2024)GPT-4 Turbo (Apr 2024) · 34.1%34.1%
Claude 3.5 Sonnet (October 2024)Claude 3.5 Sonnet (October 2024) · 92.1%92.1%o1-previewo1-preview · 75.3%75.3%Claude 3 OpusClaude 3 Opus · 72.3%72.3%Claude 3.5 SonnetClaude 3.5 Sonnet · 64%64%GPT-4 Turbo (Nov 2023)GPT-4 Turbo (Nov 2023) · 50.6%50.6%GPT-4o (Aug 2024)GPT-4o (Aug 2024) · 49.4%49.4%o1-minio1-mini · 44.9%44.9%GPT-4 Turbo (Apr 2024)GPT-4 Turbo (Apr 2024) · 34.1%34.1%

공개일에 따른 점수

선은 개발사별로 그때까지의 최고 점수를 잇습니다. 오른쪽 위로 갈수록 최근에 나온 높은 점수입니다.

전체 순위

순위모델점수생각 수준공개일
1Claude 3.5 Sonnet (October 2024)Anthropic92.1%—2024-10-22
2o1-previewOpenAI75.3%—2024-09-12
3Claude 3 OpusAnthropic72.3%—2024-02-29
4Claude 3.5 SonnetAnthropic64%—2024-06-20
5GPT-4 Turbo (Nov 2023)OpenAI50.6%—2024-01-25
6GPT-4o (Aug 2024)OpenAI49.4%—2024-08-06
7o1-miniOpenAI44.9%—2024-09-12
8GPT-4 Turbo (Apr 2024)OpenAI34.1%—2024-04-09

다른 벤치마크