HumanEval
読み: ひゅーまんいばる
最終更新: 2026-06-05・AI PICKS編集部
定義
OpenAI 発の Python コーディング能力ベンチマーク。 164 問の関数実装タスク。
HumanEvalとは — 詳しく解説
HumanEval は OpenAI が 2021 年公開した Python コーディング能力ベンチマークで、 164 問の関数 docstring からコードを生成し、 単体テストを通過するかを評価する。 2026 年現在 上位 LLM は 90% 超 (Claude Opus 4.7 / GPT-5 が 95% 前後) で、 飽和傾向。 後継として SWE-bench (実 GitHub Issue 解決)、 LiveCodeBench (リーク防止 + 月次更新)、 BigCodeBench (複数言語) が主流に。 実運用では HumanEval スコアより 自社の実コードに対する精度を測る方が示唆的、 という認識が現場では共有されている。
HumanEvalに関連するAIツール
関連用語
「評価指標」の他の用語
Massive Multitask Language Understanding。 57 分野・1.5 万問の LLM 知識評価ベンチマーク。
ユーザー投票による LLM の人間評価ランキング。 Elo レーティングで モデルを順位付け。
ベンチマークとは、AIモデルの性能を標準化されたテスト課題で数値化し、異なるモデル間を公平に比較するための評価基準セットのこと。MMLUやHumanEval等、用途別に数十種類が存在する。
SWE-benchとはGitHubの実際のIssueをAIが自動修正できるかを測る、コーディングAI評価の業界標準ベンチマークのこと。
GPQAとは、生物・物理・化学の大学院レベルの難問でAIの推論力を測る評価ベンチマークのこと。Googleで検索しても解けない設計が特徴。
レイテンシとは、AIモデルにリクエストを送信してから最初のレスポンスが返るまでの応答時間のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・502語以上を体系的に整理しています
辞典トップへ