Humanity's Last Exam은 수학, 과학, 인문학을 아우르며 인간 지식의 최전선에서 전문가가 작성한 질문을 수집합니다. 이 시험의 텍스트 전용 질문 2,158개를 검색 벤치마크로 실행합니다. 모델은 저장된 지식만으로 답하는 대신 실시간 웹 검색을 사용해 답변하며, 심사 모델은 최종 답변이 참조 답변과 일치하는지 평가합니다. 모델은 고정하고 검색 엔진, 요청 형식, 최대 검색 예산을 변경합니다. BrowseComp가 지속적인 다단계 브라우징을 중점적으로 평가한다면, HLE는 전문 지식이 필요해 어려운 질문에 실시간 검색이 어떤 도움을 주는지 보여줍니다.
마지막 벤치마크 실행

2026년 8월 11일 기준 Perplexity를 사용하는 Claude Opus 5 · high, 예산 25-turn이(가) 77.4% 벤치마크 정확도로 선두입니다. 표시 점수는 소수점 첫째 자리로 반올림되므로 함께 표시된 구성은 해당 정밀도에서 공동 선두입니다. 비교에는 아래에 표시된 동일한 검증된 SSR 레인과 벤치마크 방법론이 사용됩니다.
가장 높은 점수를 받은 구성, 해당 점수의 세부 내역, 그리고 가치와 속도 측면에서 가장 강력한 대안입니다.
최고 품질

95% 신뢰 구간 67.4%–85.0%
우승 결과 상세


선택한 모델에 대해 각 엔진의 최고 점수 구성을 비교합니다. 이 결과는 개별 과목의 전문성이 아니라 전반적인 답변 정확도를 측정합니다.

평균 비용 및 질문당 평균 생성 시간과 답변 품질을 비교합니다. 파레토 선은 각 가격 또는 시간 수준에서 제공되는 최상의 품질을 보여줍니다.
로그 눈금으로 표시한 질문당 평균 생성 비용입니다. 선은 각 가격 수준에서 이용 가능한 최고 품질을 나타냅니다.
| 검색 제공업체 | 모델 | 검색 예산 | 답변 품질 | 문항당 비용 | 효율성과 품질의 프런티어 |
|---|---|---|---|---|---|
| Perplexity | Claude Opus 5 · high | 25-turn | 77.4% | US$0.46 | 예 |
| Perplexity | Claude Opus 5 · high | 1-turn | 75.3% | US$0.16 | 예 |
| Exa | Claude Opus 5 · high | 25-turn | 74.2% | US$0.67 | 아니요 |
| Perplexity | Claude Opus 5 · high | 5-turn | 71.7% | US$0.37 | 아니요 |
| Exa | Claude Opus 5 · high | 5-turn | 71.4% | US$0.40 | 아니요 |
| OpenAI Native search | GPT-5.6 Sol · high | 25-turn | 71.1% | US$0.40 | 아니요 |
| Perplexity | GPT-5.6 Sol · high | 25-turn | 71.0% | US$0.33 | 아니요 |
| Perplexity | GPT-5.6 Sol · high | 1-turn | 70.0% | US$0.11 | 예 |
| Perplexity | GPT-5.6 Sol · high | 5-turn | 69.0% | US$0.25 | 아니요 |
| Parallel | Claude Opus 5 · high | 25-turn | 68.6% | US$0.54 | 아니요 |
| Exa | Claude Opus 5 · high | 1-turn | 68.5% | US$0.17 | 아니요 |
| Exa | GPT-5.6 Sol · high | 25-turn | 68.4% | US$0.38 | 아니요 |
| Parallel | GPT-5.6 Sol · high | 25-turn | 66.4% | US$0.47 | 아니요 |
| OpenAI Native search | GPT-5.6 Sol · high | 5-turn | 66.0% | US$0.28 | 아니요 |
| OpenAI Native search | GPT-5.6 Sol · high | 1-turn | 66.0% | US$0.16 | 아니요 |
| Parallel | Claude Opus 5 · high | 5-turn | 65.0% | US$0.40 | 아니요 |
| Exa | GPT-5.6 Sol · high | 5-turn | 65.0% | US$0.28 | 아니요 |
| Parallel | GPT-5.6 Sol · high | 5-turn | 64.3% | US$0.33 | 아니요 |
| Exa | GPT-5.6 Sol · high | 1-turn | 64.0% | US$0.12 | 아니요 |
| Parallel | Claude Opus 5 · high | 1-turn | 60.1% | US$0.20 | 아니요 |
| Parallel | GPT-5.6 Sol · high | 1-turn | 57.9% | US$0.15 | 아니요 |
| OpenRouter automatic search-engine policy | Auto · high | default budget | 52.5% | US$0.082 | 예 |
샘플 가중치가 적용된 질문당 평균 생성 시간입니다. 선은 각 시간 수준에서 이용 가능한 최고 품질을 나타냅니다.
| 검색 제공업체 | 모델 | 검색 예산 | 답변 품질 | 평균 생성 시간 | 효율성과 품질의 프런티어 |
|---|---|---|---|---|---|
| Perplexity | Claude Opus 5 · high | 25-turn | 77.4% | 83s | 예 |
| Perplexity | Claude Opus 5 · high | 1-turn | 75.3% | 48s | 예 |
| Exa | Claude Opus 5 · high | 25-turn | 74.2% | 1.7m | 아니요 |
| Perplexity | Claude Opus 5 · high | 5-turn | 71.7% | 85s | 아니요 |
| Exa | Claude Opus 5 · high | 5-turn | 71.4% | 77s | 아니요 |
| OpenAI Native search | GPT-5.6 Sol · high | 25-turn | 71.1% | 2.0m | 아니요 |
| Perplexity | GPT-5.6 Sol · high | 25-turn | 71.0% | 84s | 아니요 |
| Perplexity | GPT-5.6 Sol · high | 1-turn | 70.0% | 44s | 예 |
| Perplexity | GPT-5.6 Sol · high | 5-turn | 69.0% | 68s | 아니요 |
| Parallel | Claude Opus 5 · high | 25-turn | 68.6% | 2.1m | 아니요 |
| Exa | Claude Opus 5 · high | 1-turn | 68.5% | 48s | 아니요 |
| Exa | GPT-5.6 Sol · high | 25-turn | 68.4% | 1.7m | 아니요 |
| Parallel | GPT-5.6 Sol · high | 25-turn | 66.4% | 1.9m | 아니요 |
| OpenAI Native search | GPT-5.6 Sol · high | 5-turn | 66.0% | 77s | 아니요 |
| OpenAI Native search | GPT-5.6 Sol · high | 1-turn | 66.0% | 79s | 아니요 |
| Parallel | Claude Opus 5 · high | 5-turn | 65.0% | 1.6m | 아니요 |
| Exa | GPT-5.6 Sol · high | 5-turn | 65.0% | 72s | 아니요 |
| Parallel | GPT-5.6 Sol · high | 5-turn | 64.3% | 83s | 아니요 |
| Exa | GPT-5.6 Sol · high | 1-turn | 64.0% | 50s | 아니요 |
| Parallel | Claude Opus 5 · high | 1-turn | 60.1% | 67s | 아니요 |
| Parallel | GPT-5.6 Sol · high | 1-turn | 57.9% | 69s | 아니요 |
| OpenRouter automatic search-engine policy | Auto · high | default budget | 52.5% | 2.1m | 아니요 |
검색 예산의 최댓값이 증가할 때 정답률을 비교합니다. HLE는 전문가 지식을 중시하므로, 이 보기에서는 실시간 검색이 추가로 기여하는 정도를 보여줍니다.
| 검색 제공업체 | 1-turn | default budget | 5-turn | 25-turn |
|---|---|---|---|---|
| 75.3%Claude Opus 5 · high | — | 71.7%Claude Opus 5 · high | 77.4%Claude Opus 5 · high | |
| 68.5%Claude Opus 5 · high | — | 71.4%Claude Opus 5 · high | 74.2%Claude Opus 5 · high | |
| 66.0%GPT-5.6 Sol · high | — | 66.0%GPT-5.6 Sol · high | 71.1%GPT-5.6 Sol · high | |
| 60.1%Claude Opus 5 · high | — | 65.0%Claude Opus 5 · high | 68.6%Claude Opus 5 · high | |
| — | 52.5%Auto · high | — | — |
모든 모델의 검증된 모든 구성입니다. 품질, 비용, 속도 또는 질문 수를 기준으로 정렬합니다.
| # | 모델 | 검색 제공업체 | 검색 예산 | 추론 작업량 | ||||
|---|---|---|---|---|---|---|---|---|
| 1 | 25-turn | high | 77.4% | US$0.46 | 83s | 84 | ||
| 2 | 1-turn | high | 75.3% | US$0.16 | 48s | 93 | ||
| 3 | 25-turn | high | 74.2% | US$0.67 | 1.7m | 89 | ||
| 4 | 5-turn | high | 71.7% | US$0.37 | 85s | 99 | ||
| 5 | 5-turn | high | 71.4% | US$0.40 | 77s | 98 | ||
| 6 | 25-turn | high | 71.1% | US$0.40 | 2.0m | 97 | ||
| 7 | 25-turn | high | 71.0% | US$0.33 | 84s | 100 | ||
| 8 | 1-turn | high | 70.0% | US$0.11 | 44s | 100 | ||
| 9 | 5-turn | high | 69.0% | US$0.25 | 68s | 100 | ||
| 10 | 25-turn | high | 68.6% | US$0.54 | 2.1m | 595 |
HLE는 검색 스펙트럼에서 BrowseComp와 정반대쪽에 있습니다. 질문은 해당 분야 전문가가 모호하지 않으면서도 극도로 어렵게 작성했으므로, 모델의 기준 점수는 주로 모델이 이미 알고 있는 내용에 의해 결정됩니다. 웹 검색을 추가하면 다른 질문이 됩니다. 검색 구성이 필요할 때 얼마나 많은 전문가 수준의 지식을 검색해낼 수 있을까요?
모델을 고정한 상태로 실행하는 이유는 OpenRouter 사용자가 실제로 제어하는 변수를 분리하기 위해서입니다. 사용자가 제어하는 변수는 검색을 처리할 엔진, 검색을 서버 도구로 실행할지 플러그인으로 실행할지, 그리고 루프에서 허용할 에이전트 턴 수입니다. 이러한 설정은 현재 요청에서 바로 지정할 수 있습니다.
이 점수는 에이전트 제품이 아니라 검색 구성을 비교합니다. 모델은 검색 결과 발췌문만 읽으며, 전체 페이지 가져오기나 코드 도구는 사용할 수 없습니다. 따라서 두 가지를 모두 허용하는 게시된 에이전트 리더보드보다 절대 수치가 낮습니다. 절대 수준이 아니라 구성을 비교하세요.
HLE는 브라우징 깊이보다 전문 지식에 더 의존하므로, 검색 구성 간 차이는 BrowseComp보다 여기서 작습니다. 많은 질문이 모든 예산에서 동일한 방식으로 답변되거나 놓칩니다. 신뢰 구간이 겹치는 엔진 간 차이는 여기서 동등하다는 증거가 아니라 미해결로 처리합니다. 구성의 비용은 점수만큼이나 현실적인 요소이므로 품질과 효율성을 함께 확인하세요.
공개 데이터 세트의 텍스트 전용 하위 집합을 사용하므로(멀티모달 질문은 제외), 점수를 전체 HLE 리더보드와 직접 비교할 수 없습니다. 질문이 공개되어 있기 때문에 시간이 지나면서 암기로 절대 점수가 부풀려질 수 있습니다. 그러나 모든 구성이 동일한 모델을 공유하므로 검색 구성 간 차이는 여전히 의미가 있습니다.
각 작업은 짧은 참조 답변이 있는 하나의 질문으로 구성됩니다. 모델은 고정된 형식(설명, 정확한 답변, 명시된 신뢰도)으로 답변하며, 심사 모델은 추출된 답변이 참조 답변과 의미적으로 동등한지 평가합니다. 이는 BrowseComp에서 사용하는 동일한 답변 동등성 채점 방식입니다. 채점은 부분 점수 없이 이진으로 이루어지며, 실패하거나 거부된 작업은 0점으로 처리됩니다.
reward = judge(extracted_answer ≡ reference_answer) // ∈ {0, 1}
judge = gpt-4.1 at temperature 0, strict json_schema verdict
empty or refused answers skip the judge and score 0검색 구성은 하나의 모델, 검색 엔진, 요청 형식 및 최대 검색 예산으로 이루어집니다. 점수는 검증된 각 실행의 질문 수를 기준으로 가중치가 적용되며, 소규모 스모크 테스트는 제외됩니다.
위 모델 필터와 무관하게 고정된 과거 실행 결과입니다. 긴 결과와 운영 메타데이터는 축약되며, 선택한 쿼리는 편집되거나 생략될 수 있습니다.
작업
Hummingbirds within Apodiformes uniquely have a bilaterally paired oval bone, a sesamoid embedded in the caudolateral portion of the expanded, cruciate aponeurosis of insertion of m. depressor caudae. How many paired tendons are supported by this sesamoid bone? Answer with a number.
이 질문은 공식 HLE 사이트와 공식 논문의 그림 3에 원문 그대로 게시되어 있습니다. 공개 자료에는 정답이 게시되어 있지 않으므로, 두 번의 새 실행 결과 모두 채점하지 않은 상태로 표시합니다.
공식 HLE 데이터셋 예제참조
참조 답변은 공개되지 않습니다.

최종 답변
Based on the anatomy of the hummingbird tail depressor system, this unique sesamoid bone embedded in the cross-shaped aponeurosis of the m. depressor caudae supports three paired tendons.
Exact Answer: 3 Confidence: 45%
발생한 일
The shallow run made one search and answered 3, but its selected independent source only established the anatomical context, not that count. With no official public reference, the result remains ungraded.
Runs execute on Kepler, OpenRouter's benchmark harness, against production endpoints. Server-tool configurations set a request-level tool-call budget on the web search server tool. Plugin configurations make one pre-inference search of the question with the web search plugin. Engines use the same default configurations that serve production traffic.
모든 실행에는 정확한 모델, 엔진, 요청 형식, 검색 예산, 비용 및 사용 가능한 시간 측정 데이터가 저장됩니다. 누락된 구성은 비교 표에서도 누락된 상태로 유지되며, absent or zero telemetry is not treated as free or instantaneous performance.
이 리더보드의 스냅샷은 search-benchmark-lanes 오픈 데이터셋에 게시되며( benchmark 열로 필터링), daily 주기로 재생성되고 API 키 없이 이용할 수 있습니다. 현재 스냅샷은 에 생성되었습니다. 이 데이터에는 다음 라이선스가 적용됩니다: CC BY 4.0. OpenRouter를 출처로 표시하면 재사용하고 재게시할 수 있습니다.
열 정의, 방법론 및 마스킹 규칙은 데이터 세트 README에 있습니다.
OpenRouter(2026). OpenRouter의 HLE 검색 결과, 2026-10-12 스냅샷. https://openrouter.ai/benchmarks/hle. CC BY 4.0에 따라 라이선스가 부여됩니다.