콘텐츠로 건너뛰기
  • 모델
  • 순위
  • Ori
ElevenLabs launch offer: every ElevenLabs model is 50% off through October 19, 2026. See ElevenLabs models

Footer

OpenRouterOpenRouter
© 2026 OpenRouter, Inc

제품

  • 채팅
  • 순위
  • 벤치마크
  • 앱
  • 찾아보기
  • 모델
  • Ori
  • 컬렉션
  • 제공업체
  • 도구
  • 가격
  • Business
  • Enterprise
  • 랩

회사

  • 정보
  • 블로그
  • 채용
    채용
  • 개인정보 보호
  • 서비스 약관
  • 신뢰 센터
  • 지원
  • OR과 호환
  • 데이터
  • 브랜드

개발자

  • 문서
  • API 참조
  • 개발자 플랫폼
  • 상태
  • AI 사이트맵

연결

  • Discord
  • GitHub
  • LinkedIn
  • X
  • YouTube
모든 벤치마크

HLE

Humanity's Last Exam은 수학, 과학, 인문학을 아우르며 인간 지식의 최전선에서 전문가가 작성한 질문을 수집합니다. 이 시험의 텍스트 전용 질문 2,158개를 검색 벤치마크로 실행합니다. 모델은 저장된 지식만으로 답하는 대신 실시간 웹 검색을 사용해 답변하며, 심사 모델은 최종 답변이 참조 답변과 일치하는지 평가합니다. 모델은 고정하고 검색 엔진, 요청 형식, 최대 검색 예산을 변경합니다. BrowseComp가 지속적인 다단계 브라우징을 중점적으로 평가한다면, HLE는 전문 지식이 필요해 어려운 질문에 실시간 검색이 어떤 도움을 주는지 보여줍니다.

마지막 벤치마크 실행 2026. 9. 15. 오후 6:51 UTC

논문데이터 세트
검색 제공업체
Perplexity의 파비콘
Exa의 파비콘
openai의 파비콘
Parallel의 파비콘
5 검색 제공업체
구성별 비교
모델
anthropic의 파비콘
openai의 파비콘
openrouter의 파비콘openrouter의 파비콘
3 모델
Claude Opus 5, GPT-5.6 Sol 및 Auto
테스트 구성
1 / Default / 5 / 25
검색 예산 및 플러그인 모드

HLE에서 선두인 검색 구성은 무엇입니까?

2026년 8월 11일 기준 Perplexity를 사용하는 Claude Opus 5 · high, 예산 25-turn이(가) 77.4% 벤치마크 정확도로 선두입니다. 표시 점수는 소수점 첫째 자리로 반올림되므로 함께 표시된 구성은 해당 정밀도에서 공동 선두입니다. 비교에는 아래에 표시된 동일한 검증된 SSR 레인과 벤치마크 방법론이 사용됩니다.

우승 결과품질 결과가격 및 속도검색 예산모든 구성실행하는 이유점수가 알려 주는 것작업 점수 산정 방식방법론다운로드 및 인용
01

우승 결과

가장 높은 점수를 받은 구성, 해당 점수의 세부 내역, 그리고 가치와 속도 측면에서 가장 강력한 대안입니다.

최고 품질

Perplexity의 파비콘
Perplexity
25-turn
anthropic의 파비콘
Claude Opus 5 · high
77.4%답변이 기준 답안과 일치했습니다

95% 신뢰 구간 67.4%–85.0%

우승 결과 상세

정답
65/84
오답
19/84
질문당 비용
US$0.46
질문당 평균 생성 시간
83s
최고의 가성비
질문당 US$0.16
Perplexity의 파비콘
Perplexity
anthropic의 파비콘
Claude Opus 5 · high
검색 예산 1-turn 75.3% 정답
가장 빠른 우수 결과
48s / 질문
Perplexity의 파비콘
Perplexity
anthropic의 파비콘
Claude Opus 5 · high
검색 예산 1-turn 75.3% 정답
02

품질 결과

선택한 모델에 대해 각 엔진의 최고 점수 구성을 비교합니다. 이 결과는 개별 과목의 전문성이 아니라 전반적인 답변 정확도를 측정합니다.

Perplexity의 파비콘
Perplexity
Claude Opus 5 · high 25-turn
77.4%
Exa의 파비콘
Exa
Claude Opus 5 · high 25-turn
74.2%
openai의 파비콘
OpenAI Native
GPT-5.6 Sol · high 25-turn
71.1%
Parallel의 파비콘
Parallel
Claude Opus 5 · high 25-turn
68.6%
OpenRouter automatic search-engine policy의 파비콘OpenRouter automatic search-engine policy의 파비콘
Auto policy
Auto · high default budget
52.5%
03

가격 및 속도

평균 비용 및 질문당 평균 생성 시간과 답변 품질을 비교합니다. 파레토 선은 각 가격 또는 시간 수준에서 제공되는 최상의 품질을 보여줍니다.

가격 대비 품질

로그 눈금으로 표시한 질문당 평균 생성 비용입니다. 선은 각 가격 수준에서 이용 가능한 최고 품질을 나타냅니다.

  • Perplexity
  • Exa
  • OpenAI Native
  • Parallel
  • Auto policy
가격 대비 품질, 정확한 구성 값
검색 제공업체모델검색 예산답변 품질문항당 비용효율성과 품질의 프런티어
PerplexityClaude Opus 5 · high25-turn77.4%US$0.46예
PerplexityClaude Opus 5 · high1-turn75.3%US$0.16예
ExaClaude Opus 5 · high25-turn74.2%US$0.67아니요
PerplexityClaude Opus 5 · high5-turn71.7%US$0.37아니요
ExaClaude Opus 5 · high5-turn71.4%US$0.40아니요
OpenAI Native searchGPT-5.6 Sol · high25-turn71.1%US$0.40아니요
PerplexityGPT-5.6 Sol · high25-turn71.0%US$0.33아니요
PerplexityGPT-5.6 Sol · high1-turn70.0%US$0.11예
PerplexityGPT-5.6 Sol · high5-turn69.0%US$0.25아니요
ParallelClaude Opus 5 · high25-turn68.6%US$0.54아니요
ExaClaude Opus 5 · high1-turn68.5%US$0.17아니요
ExaGPT-5.6 Sol · high25-turn68.4%US$0.38아니요
ParallelGPT-5.6 Sol · high25-turn66.4%US$0.47아니요
OpenAI Native searchGPT-5.6 Sol · high5-turn66.0%US$0.28아니요
OpenAI Native searchGPT-5.6 Sol · high1-turn66.0%US$0.16아니요
ParallelClaude Opus 5 · high5-turn65.0%US$0.40아니요
ExaGPT-5.6 Sol · high5-turn65.0%US$0.28아니요
ParallelGPT-5.6 Sol · high5-turn64.3%US$0.33아니요
ExaGPT-5.6 Sol · high1-turn64.0%US$0.12아니요
ParallelClaude Opus 5 · high1-turn60.1%US$0.20아니요
ParallelGPT-5.6 Sol · high1-turn57.9%US$0.15아니요
OpenRouter automatic search-engine policyAuto · highdefault budget52.5%US$0.082예

평균 생성 시간 대비 품질

샘플 가중치가 적용된 질문당 평균 생성 시간입니다. 선은 각 시간 수준에서 이용 가능한 최고 품질을 나타냅니다.

  • Perplexity
  • Exa
  • OpenAI Native
  • Parallel
  • Auto policy
평균 생성 시간 대비 품질, 정확한 구성 값
검색 제공업체모델검색 예산답변 품질평균 생성 시간효율성과 품질의 프런티어
PerplexityClaude Opus 5 · high25-turn77.4%83s예
PerplexityClaude Opus 5 · high1-turn75.3%48s예
ExaClaude Opus 5 · high25-turn74.2%1.7m아니요
PerplexityClaude Opus 5 · high5-turn71.7%85s아니요
ExaClaude Opus 5 · high5-turn71.4%77s아니요
OpenAI Native searchGPT-5.6 Sol · high25-turn71.1%2.0m아니요
PerplexityGPT-5.6 Sol · high25-turn71.0%84s아니요
PerplexityGPT-5.6 Sol · high1-turn70.0%44s예
PerplexityGPT-5.6 Sol · high5-turn69.0%68s아니요
ParallelClaude Opus 5 · high25-turn68.6%2.1m아니요
ExaClaude Opus 5 · high1-turn68.5%48s아니요
ExaGPT-5.6 Sol · high25-turn68.4%1.7m아니요
ParallelGPT-5.6 Sol · high25-turn66.4%1.9m아니요
OpenAI Native searchGPT-5.6 Sol · high5-turn66.0%77s아니요
OpenAI Native searchGPT-5.6 Sol · high1-turn66.0%79s아니요
ParallelClaude Opus 5 · high5-turn65.0%1.6m아니요
ExaGPT-5.6 Sol · high5-turn65.0%72s아니요
ParallelGPT-5.6 Sol · high5-turn64.3%83s아니요
ExaGPT-5.6 Sol · high1-turn64.0%50s아니요
ParallelClaude Opus 5 · high1-turn60.1%67s아니요
ParallelGPT-5.6 Sol · high1-turn57.9%69s아니요
OpenRouter automatic search-engine policyAuto · highdefault budget52.5%2.1m아니요
04

전문가 수준의 질문에서 검색을 더 많이 하면 도움이 될까요?

검색 예산의 최댓값이 증가할 때 정답률을 비교합니다. HLE는 전문가 지식을 중시하므로, 이 보기에서는 실시간 검색이 추가로 기여하는 정도를 보여줍니다.

검색 제공업체 및 검색 예산(최대 에이전트 턴 수)별 정확도입니다.
검색 제공업체1-turndefault budget5-turn25-turn
Perplexity의 파비콘
Perplexity
75.3%Claude Opus 5 · high—71.7%Claude Opus 5 · high77.4%Claude Opus 5 · high
Exa의 파비콘
Exa
68.5%Claude Opus 5 · high—71.4%Claude Opus 5 · high74.2%Claude Opus 5 · high
openai의 파비콘
OpenAI Native
66.0%GPT-5.6 Sol · high—66.0%GPT-5.6 Sol · high71.1%GPT-5.6 Sol · high
Parallel의 파비콘
Parallel
60.1%Claude Opus 5 · high—65.0%Claude Opus 5 · high68.6%Claude Opus 5 · high
OpenRouter automatic search-engine policy의 파비콘OpenRouter automatic search-engine policy의 파비콘
Auto policy
—52.5%Auto · high——
05

모든 검색 구성

모든 모델의 검증된 모든 구성입니다. 품질, 비용, 속도 또는 질문 수를 기준으로 정렬합니다.

검증된 모든 검색 구성입니다. 처음에는 정답 수를 기준으로 순위가 매겨집니다.
#모델검색 제공업체검색 예산추론 작업량
1
anthropic의 파비콘
Claude Opus 5
Perplexity의 파비콘
Perplexity
25-turnhigh77.4%US$0.4683s84
2
anthropic의 파비콘
Claude Opus 5
Perplexity의 파비콘
Perplexity
1-turnhigh75.3%US$0.1648s93
3
anthropic의 파비콘
Claude Opus 5
Exa의 파비콘
Exa
25-turnhigh74.2%US$0.671.7m89
4
anthropic의 파비콘
Claude Opus 5
Perplexity의 파비콘
Perplexity
5-turnhigh71.7%US$0.3785s99
5
anthropic의 파비콘
Claude Opus 5
Exa의 파비콘
Exa
5-turnhigh71.4%US$0.4077s98
6
openai의 파비콘
GPT-5.6 Sol
openai의 파비콘
OpenAI Native
25-turnhigh71.1%US$0.402.0m97
7
openai의 파비콘
GPT-5.6 Sol
Perplexity의 파비콘
Perplexity
25-turnhigh71.0%US$0.3384s100
8
openai의 파비콘
GPT-5.6 Sol
Perplexity의 파비콘
Perplexity
1-turnhigh70.0%US$0.1144s100
9
openai의 파비콘
GPT-5.6 Sol
Perplexity의 파비콘
Perplexity
5-turnhigh69.0%US$0.2568s100
10
anthropic의 파비콘
Claude Opus 5
Parallel의 파비콘
Parallel
25-turnhigh68.6%US$0.542.1m595

이 벤치마크를 실행하는 이유

HLE는 검색 스펙트럼에서 BrowseComp와 정반대쪽에 있습니다. 질문은 해당 분야 전문가가 모호하지 않으면서도 극도로 어렵게 작성했으므로, 모델의 기준 점수는 주로 모델이 이미 알고 있는 내용에 의해 결정됩니다. 웹 검색을 추가하면 다른 질문이 됩니다. 검색 구성이 필요할 때 얼마나 많은 전문가 수준의 지식을 검색해낼 수 있을까요?

모델을 고정한 상태로 실행하는 이유는 OpenRouter 사용자가 실제로 제어하는 변수를 분리하기 위해서입니다. 사용자가 제어하는 변수는 검색을 처리할 엔진, 검색을 서버 도구로 실행할지 플러그인으로 실행할지, 그리고 루프에서 허용할 에이전트 턴 수입니다. 이러한 설정은 현재 요청에서 바로 지정할 수 있습니다.

점수가 알려 주는 것과 알려 주지 못하는 것

이 점수는 에이전트 제품이 아니라 검색 구성을 비교합니다. 모델은 검색 결과 발췌문만 읽으며, 전체 페이지 가져오기나 코드 도구는 사용할 수 없습니다. 따라서 두 가지를 모두 허용하는 게시된 에이전트 리더보드보다 절대 수치가 낮습니다. 절대 수준이 아니라 구성을 비교하세요.

HLE는 브라우징 깊이보다 전문 지식에 더 의존하므로, 검색 구성 간 차이는 BrowseComp보다 여기서 작습니다. 많은 질문이 모든 예산에서 동일한 방식으로 답변되거나 놓칩니다. 신뢰 구간이 겹치는 엔진 간 차이는 여기서 동등하다는 증거가 아니라 미해결로 처리합니다. 구성의 비용은 점수만큼이나 현실적인 요소이므로 품질과 효율성을 함께 확인하세요.

공개 데이터 세트의 텍스트 전용 하위 집합을 사용하므로(멀티모달 질문은 제외), 점수를 전체 HLE 리더보드와 직접 비교할 수 없습니다. 질문이 공개되어 있기 때문에 시간이 지나면서 암기로 절대 점수가 부풀려질 수 있습니다. 그러나 모든 구성이 동일한 모델을 공유하므로 검색 구성 간 차이는 여전히 의미가 있습니다.

작업 점수 산정 방식

각 작업은 짧은 참조 답변이 있는 하나의 질문으로 구성됩니다. 모델은 고정된 형식(설명, 정확한 답변, 명시된 신뢰도)으로 답변하며, 심사 모델은 추출된 답변이 참조 답변과 의미적으로 동등한지 평가합니다. 이는 BrowseComp에서 사용하는 동일한 답변 동등성 채점 방식입니다. 채점은 부분 점수 없이 이진으로 이루어지며, 실패하거나 거부된 작업은 0점으로 처리됩니다.

reward = judge(extracted_answer ≡ reference_answer)   // ∈ {0, 1}
judge  = gpt-4.1 at temperature 0, strict json_schema verdict
empty or refused answers skip the judge and score 0

검색 구성은 하나의 모델, 검색 엔진, 요청 형식 및 최대 검색 예산으로 이루어집니다. 점수는 검증된 각 실행의 질문 수를 기준으로 가중치가 적용되며, 소규모 스모크 테스트는 제외됩니다.

EX

실제 실행 예시

위 모델 필터와 무관하게 고정된 과거 실행 결과입니다. 긴 결과와 운영 메타데이터는 축약되며, 선택한 쿼리는 편집되거나 생략될 수 있습니다.

작업

벌새 꼬리의 종자골 추적하기

Hummingbirds within Apodiformes uniquely have a bilaterally paired oval bone, a sesamoid embedded in the caudolateral portion of the expanded, cruciate aponeurosis of insertion of m. depressor caudae. How many paired tendons are supported by this sesamoid bone? Answer with a number.

이 질문은 공식 HLE 사이트와 공식 논문의 그림 3에 원문 그대로 게시되어 있습니다. 공개 자료에는 정답이 게시되어 있지 않으므로, 두 번의 새 실행 결과 모두 채점하지 않은 상태로 표시합니다.

공식 HLE 데이터셋 예제

참조

참조 답변은 공개되지 않습니다.

미채점 · 답변 3
Perplexity의 파비콘
Perplexity
Claude Opus 4.8 1 turn

최종 답변

Based on the anatomy of the hummingbird tail depressor system, this unique sesamoid bone embedded in the cross-shaped aponeurosis of the m. depressor caudae supports three paired tendons.

Exact Answer: 3 Confidence: 45%

발생한 일

The shallow run made one search and answered 3, but its selected independent source only established the anatomical context, not that count. With no official public reference, the result remains ungraded.

방법론

Runs execute on Kepler, OpenRouter's benchmark harness, against production endpoints. Server-tool configurations set a request-level tool-call budget on the web search server tool. Plugin configurations make one pre-inference search of the question with the web search plugin. Engines use the same default configurations that serve production traffic.

모든 실행에는 정확한 모델, 엔진, 요청 형식, 검색 예산, 비용 및 사용 가능한 시간 측정 데이터가 저장됩니다. 누락된 구성은 비교 표에서도 누락된 상태로 유지되며, absent or zero telemetry is not treated as free or instantaneous performance.

다운로드 및 인용

이 리더보드의 스냅샷은 search-benchmark-lanes 오픈 데이터셋에 게시되며( benchmark 열로 필터링), daily 주기로 재생성되고 API 키 없이 이용할 수 있습니다. 현재 스냅샷은 2026. 10. 12. 오전 1:46 UTC에 생성되었습니다. 이 데이터에는 다음 라이선스가 적용됩니다: CC BY 4.0. OpenRouter를 출처로 표시하면 재사용하고 재게시할 수 있습니다.

  • CSV 다운로드 (text/csv)
  • JSON 다운로드 (application/json)
  • 스냅샷 매니페스트 (위 파일의 SHA-256 체크섬)
  • 최신 매니페스트 (변경 가능한 별칭이며, 스냅샷이 게시될 때 업데이트됨)

열 정의, 방법론 및 마스킹 규칙은 데이터 세트 README에 있습니다.

이 리더보드 인용

OpenRouter(2026). OpenRouter의 HLE 검색 결과, 2026-10-12 스냅샷. https://openrouter.ai/benchmarks/hle. CC BY 4.0에 따라 라이선스가 부여됩니다.