AI 모델 · Anthropic
Claude 2.1
Anthropic 모델 · 2023년 11월 21일 공개. 독립 벤치마크 점수, 종합 지수, 사람 투표 순위와 개발사 발표 점수를 그래프로 정리했습니다.
- 개발
- Anthropic
- 공개일
- 이용 방식
- API 제공
- 종합 능력 지수(ECI)
- 119.3신뢰구간 111.3~122.0
- Arena 점수(사람 투표)
- 아직 없음
Anthropic 모델 흐름
큰 점이 이 모델입니다. 선은 그때까지의 최고 기록입니다.
독립 벤치마크 점수
- GPQA Diamond과학33%
94개 모델 중 90위. 대학원 수준의 생물·물리·화학 객관식 문제 198개. 검색으로 답을 찾기 어렵게 만든 문항이다. 오차 ±2.3%.
- OTIS 모의 AIME수학1.9%
91개 모델 중 87위. OTIS의 경시대회형 수학 문제 45개. MATH Level 5보다 어렵고 FrontierMath보다 쉽다. 오차 ±1.1%.
세로선은 무작위로 찍었을 때 기대되는 점수입니다. 같은 벤치마크라도 평가 방식과 설정에 따라 점수가 달라지므로 개발사 발표 수치와 다를 수 있습니다.
함께 볼 모델
- Claude 3 Opus Anthropic · 2024-02-29
- Claude 3 Sonnet Anthropic · 2024-02-29
- GPT-3.5 Turbo (Nov 2023) OpenAI · 2023-11-06
Gemini 1.0 Pro Google · 2023-12-13