定義
JHumanEvalとは、コード生成AIの性能を日本語のdocstringやコメント環境下で測定するために作られた評価ベンチマークのこと。
JHumanEval (日本語コード生成ベンチ)とは（詳しく解説）
HumanEval形式(関数シグネチャとdocstringから本体コードを生成させ、テストケースの通過率をpass@kで測る手法)の指示文をそのまま日本語化したベンチマークがJHumanEvalと呼ばれる。英語コーパス中心で学習されたLLMは日本語プロンプトだと内部で英語思考に引き寄せられやすく、曖昧な日本語要件や全角記号の扱いでスコアが英語版より下振れするケースが指摘されている。2026年時点の実運用では、単一のpass@1スコアだけでモデルを決めるのは危険とされ、自社のコードベースや業務ドメインに近いタスクでの追加検証が推奨される。評価やモデル切り替えには推論コストが伴うため、現場ではベンチマーク順位に加えてAPI料金の相場感やレイテンシも含めて総合的に選定するのが一般的とされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「JHumanEval (日本語コード生成ベンチ)とは」 https://aipicks.jp/glossary/jhumaneval
JHumanEval (日本語コード生成ベンチ)の使用例
- 「与えられた文字列が回文かどうか判定する関数を書いてください」のような日本語docstring形式の設問がJHumanEvalの典型例とされる。
- コード生成モデルを比較する際は、JHumanEvalのpass@1スコアと日本語特有のエラー傾向を合わせて見る使い方が想定される。
