GPT-4o mini
OpenAI 모델 · 2024년 7월 18일 공개. 독립 벤치마크 점수, 종합 지수, 사람 투표 순위와 개발사 발표 점수를 그래프로 정리했습니다.
- 개발
- OpenAI
- 공개일
- 이용 방식
- API 제공
- 종합 능력 지수(ECI)
- 126.6신뢰구간 119.1~128.7
- Arena 점수(사람 투표)
- 1286261위 · 투표 68,705표
영역별 강점
같은 시험을 치른 모델 가운데 어디쯤인지(백분위)를 영역별로 평균했습니다. 바깥일수록 상위권이고, 점수가 없는 영역은 가운데 빈 점으로 표시합니다.
OpenAI 모델 흐름
큰 점이 이 모델입니다. 선은 그때까지의 최고 기록입니다.
독립 벤치마크 점수
- GPQA Diamond과학37.7%
94개 모델 중 85위. 대학원 수준의 생물·물리·화학 객관식 문제 198개. 검색으로 답을 찾기 어렵게 만든 문항이다. 오차 ±2.4%.
- MATH Level 5수학52.6%
45개 모델 중 29위. MATH 데이터셋에서 가장 어려운 단계. AMC 10·12, AIME 같은 경시대회 문제다. 오차 ±1.1%.
- OTIS 모의 AIME수학6.9%
91개 모델 중 73위. OTIS의 경시대회형 수학 문제 45개. MATH Level 5보다 어렵고 FrontierMath보다 쉽다. 오차 ±2.7%.
- FrontierMath 1~3단계수학0.7%
57개 모델 중 54위. 연구 수준의 매우 어려운 수학 문제(비공개) 2026년 판의 1~3단계. 오차 ±0.5%.
- SimpleQA Verified지식8.3%
52개 모델 중 51위. 정치·과학·예술·스포츠·지리 등 짧은 사실 질문 1,000개에 검색 없이 답한 정확도. 오차 ±0.9%.
- 체스 퍼즐추론0%
60개 모델 중 59위. 체스 엔진으로 새로 만든 퍼즐 100개. 퍼즐마다 최선의 다음 수가 하나 있다.
- 미공개 게임 퍼즐추론12%
47개 모델 중 36위. 잘 알려진 게임을 퍼즐용으로 바꾼 변형판의 100개 국면. 어떤 게임인지는 일부러 밝히지 않았다. 오차 ±3.3%.
- Aider Polyglot코딩3.6%
29개 모델 중 29위. C++·Go·Java·JavaScript·Python·Rust의 어려운 연습 문제 225개를 코드 편집으로 푸는 시험(두 번째 시도까지 통과율). (Aider 측정)
세로선은 무작위로 찍었을 때 기대되는 점수입니다. 같은 벤치마크라도 평가 방식과 설정에 따라 점수가 달라지므로 개발사 발표 수치와 다를 수 있습니다.
함께 볼 모델
- GPT-4o (Aug 2024) OpenAI · 2024-08-06
- o1-mini OpenAI · 2024-09-12
- Claude 3.5 Sonnet Anthropic · 2024-06-20
Gemini 1.5 Flash (May 2024) Google · 2024-05-23