「最速」。
AIチップのニュースには、この言葉がよく出てきます。
ただ、見出しを読んだだけでは、何をどう測った数字なのかは分かりません。速いのは学習のときなのか、それとも実際に答えを返す場面なのか。比べた相手は何だったのか。そこが分からないまま、数字だけが頭に残ります。
先にお断りしておくと、私はベンチマークの専門家ではありません。この記事では、AI性能の共通テストを運営する業界団体MLCommonsの公式ページと、公開されているルール文書を読み、そこで確認できたことだけを整理しました。
この記事は、どのチップが速いかの一覧表を作りません。やりたいのは、速さを名乗る数字が何を測ったものかを、読者が自分で確かめられるようにすることです。
NVIDIAの強さについて書いたとき、AI向けの実力はカタログ上の性能だけでは決まらない、という話をしました。
→NVIDIAはなぜ強いのか？CUDA・HBM・AI工場から20年の積み上げまで解説
今回はその続きにあたります。カタログの数字だけでは決まらないなら、テストの数字はどう読めばいいのか。読み終わる頃には、「最速」という見出しを見たときに確認する場所が3つ、手元に残るはずです。
同じ「最速」でも、どの物差しで測ったかで意味が変わる
「最速」を名乗る数字には、大きく2つの系統があります。発表する側が自分で条件を決めて測った数字と、公開された共通ルールにもとづいて測った数字です。
前者は、対象も条件も発表する側が選べます。そのため、条件の違う数字を、その違いを無視したまま優劣の根拠にすることはできません。
後者の代表が、MLPerf(エムエルパーフ)という共通テストです。業界団体のMLCommonsが運営し、テストの中身を決めるルールが文書として公開されています。結果は種目ごとの表で公開され、提出した組織の名前も一緒に載ります。
ここに落とし穴があります。この2つは、発表した会社だけでは見分けられません。
共通テストの結果を、企業が自社の発表で使うことがあるからです。使い方にも公式の決まりがあり、結果を引用するときの表記や、比較するときに明示すべき項目を定めたガイドライン文書まで公開されています。
つまり、見分ける基準は「誰が発表したか」ではなく「どんなルールで測ったか」です。発表の本文、図表、脚注などに、テスト名と版、比較の条件が書かれているかを確かめる。まずここが最初の分かれ道になります。
学習の速さと、答える速さは別の競技
AIの計算でよく区別されるのが、学習と推論です。モデルを育てる作業と、育てたモデルに答えを出させる作業、と言い換えられます。
MLPerfでも、この2つは別のテストになっています。
学習のテスト(MLPerf Training)が測るのは、決められた課題でモデルを目標の品質まで育てるのに、どれだけ時間がかかるかです。
データセンター向けの推論のテスト(MLPerf Inference: Datacenter)が測るのは、学習済みのモデルが入力を処理して結果を返す速さです。こちらには、用途を想定した複数のシナリオが用意されていて、シナリオごとに測る指標が違います。
測っている作業が違うので、学習の結果だけでは、推論での速さは判断できません。「最速」の見出しを見たら、どちらの競技の話かをまず確かめる。これが2つ目の確認場所です。
なお、MLPerfには用途別にほかのテストもありますが、この記事では以降、学習のテストを例に進めます。比べる前に条件を確かめる、という基本の考え方は共通だからです。
測っているのは、チップ単体ではない
結果表に並んでいるのは、チップ単体の成績ではありません。
公式ページの定義では、このテストが測るのは「システムが」モデルを目標品質まで学習させる速さです。チップが、ではありません。
ここでいうシステムには、プロセッサーやメモリ、ストレージだけでなく、機器同士の接続、OS、コンパイラ、ライブラリ、ドライバーといったソフトウェアまで含まれます。さらに、PyTorchのようなAI開発の枠組み(MLフレームワーク)はシステムとは別に数えられていて、テストはシステムとフレームワークを組み合わせた性能を測る、と説明されています。
では、チップ単体の速さはどこに書いてあるのでしょうか。
結果表を探しても、そういう欄はありません。並んでいるのは、提出した組織、使ったソフトウェア、システム、そしてプロセッサーとアクセラレーター(AIの計算を担当するチップ)の種類と数です。
つまり結果表の1行は、チップ単体の成績ではなく、ハードウェアとソフトウェアを組み合わせた実行環境の成績です。
これは、前に書いた話の裏付けでもあります。AI向けの実力はカタログ上の計算性能だけでは決まらない。MLPerf Trainingも、チップだけを取り出して測る方式ではありません。テストの設計そのものが、ハードウェアとソフトウェアの組み合わせを対象にしています。
ひとつ限定を添えておきます。このテストが測るのは、指定された課題で目標品質に到達するまでの時間です。実際の運用でのあらゆる性能や、導入後の費用対効果、障害への強さまで測っているわけではありません。テストの数字は、テストが測ると決めた範囲の数字です。
何を揃えて競っているのか
速さ比べは、条件を決めなければ成立しません。
このテストの種目は、データセットと品質目標で定義されています。使う教材と、到達すべき合格ラインが先に決められている、ということです。
ただし、比較を成り立たせているのは、それだけではありません。競技には2つの部門があります。
Closed部門は、参照実装と呼ばれるお手本と同じ前処理、同じモデル、同じ学習方法、同じ品質目標を使うことが求められます。課題からモデルまで土台を揃えたうえで、実行環境の違いを比べるための部門です。
Open部門は、それらを変更できます。モデルや学習方法の工夫まで含めて競う部門です。
自動車のカタログ燃費と似た考え方です。測定の走り方を決めてあるから、車種同士を比べられる。ただし似ているのは、測定する課題や条件を決めるという点までです。この共通テストでは、後で述べるとおり、チップの数やシステムの構成まで同じになるわけではありません。
誤解しやすいのはここからです。Closed部門も、工夫が禁止されているわけではありません。計算に使う数値形式には複数の選択肢が認められていますし、結果が数学的に変わらない範囲での最適化も許されています。「揃える部門」と「何でもありの部門」ではなく、「土台を揃えて競う部門」と「土台から変えてよい部門」です。
正直に書くと、ルール文書を読む前の私は、共通テストというものをもっと大雑把なものだと思っていました。実際には、何を揃え、どこまでの工夫を認めるかが、種目ごとに文書で決められています。
そしてこの点は、次の章にそのままつながります。工夫が認められているということは、同じ部門の結果でも、中身まで同じではないということだからです。
それでも、揃わないものがある
土台を揃えても、結果表の行と行は、同じ条件ではありません。
まず、使っているアクセラレーターの数が違うことがあります。
結果表には、行ごとにアクセラレーターの種類と数を示す欄があります。使う数が大きく異なるシステムが、同じ種目の表に並ぶことがあります。大規模なシステム同士が学習の完了時間を競うこと自体には意味がありますが、数が違う行の差を、チップ1基あたりの性能差として読み替えることはできません。
比較そのものが禁止されているわけではない点も添えておきます。公式のガイドラインは、比較するときに版、部門、カテゴリー、検証の状態、チップ数などの違いを明示するよう求めています。数の違う結果を並べた例文まで載っています。禁止ではなく、違いを隠さないことが条件なのです。
数の違いがどう効くのか、架空の例で見てみます。実在する結果ではなく、読み方を説明するためだけに作った仮の数字です。
同じ種目、同じ版、同じ部門で、次の2行が並んでいたとします。
| 仮の結果 | アクセラレーターの数 | 学習にかかった時間 |
|---|---|---|
| 構成A | 8 | 40分 |
| 構成B | 64 | 10分 |
表だけを見ると、構成Bの「10分」という数字が目に入ります。10分で学習を終えたというのは、そのシステムの成績としては正しい。
ただし、この表から、どちらのチップが速いかは決まりません。構成Bはアクセラレーターの数が8倍で、学習時間は4分の1です。ここから1基あたりの性能を出すには、この表に載っていない前提を置く必要があります。
この表から言えるのは、構成Bのほうが早く学習を終えた、まで。チップ単体の話に読み替えた時点で、根拠がこの表から離れます。
次に、ソフトウェアや数値形式が違うことがあります。
前の章のとおり、Closed部門でも複数の数値形式や、結果が数学的に変わらない範囲の最適化が認められています。裏を返せば、同じ部門の結果でも、計算の形式やソフトウェアの構成まで揃っているとは限りません。結果表には、使ったソフトウェアを示す欄もあります。
次に、版が違うことがあります。
テストは回を重ねるごとに更新され、モデルやルールが変わることがあります。公式ルールでは、互換性があると定められた版の同一種目同士でしか比較できないことになっています。古い回の数字と新しい回の数字は、そのまま並べられない場合があります。
検証の状態も違います。
結果には、MLCommonsのレビューを経た検証済みのものと、レビューを経ていない未検証のものがあります。未検証の結果は、その旨を明記することが義務づけられています。ここで注意したいのは、「検証済み」の意味です。これは、結果がレビューを経たという意味であって、製品の品質や実運用の性能をMLCommonsが認証したという意味ではありません。
利用可能性の区分もあります。
結果は、いま購入またはクラウドで利用できる構成、次回には利用可能として提出することが求められる構成、研究・開発中や社内利用の構成、という3つのカテゴリーに分けられています。表の中で短い学習時間を示した結果が、いま利用できる構成だとは限らないわけです。
そして最後に、そもそも表に載っていないシステムがあります。
結果表に載るのは、その回に提出され、公開されたシステムだけです。載っていないチップの性能について、この表から判断することはできません。性能が低いとも、比較を避けたとも言えません。不在だけを根拠に性能の高低や企業の姿勢を語っている説明を見かけたら、その根拠がどこにあるのかを確かめてみてください。
この章で見た違いは、6つです。アクセラレーターの数、ソフトウェアや数値形式、版、検証の状態、利用可能性、そして掲載の有無。多くは結果表とその周辺の説明で確認できますが、たとえば版どうしに互換性があるかどうかは、ルール文書まで見に行く必要があります。それでも、この6つを確認すれば、条件の違う結果を同じものとして読む危険は減らせます。
数％の差は、測定のばらつきと重なることがある
2つの結果が数％しか違わないとき、その差が実力の差を意味するとは限りません。
このテストの結果は、1回の実行では決まらないからです。公式の手順では、種目ごとに最低3回から10回実行し、最も速い結果と最も遅い結果を除いた平均を成績とします。
それでも、ばらつきは残ります。公式ページ自身が、この手順を踏んでもなお、画像系の種目で概算プラスマイナス2.5％、その他の種目で概算プラスマイナス5％程度のばらつきが残ると説明しています。
同じ手順で測っても、数字が必ず同じになるわけではない、ということです。測定が間違っているという意味ではありません。
だから、数％しか違わない結果が並んでいるときは、勝った負けたを口にする前に、その差が公式のばらつきの目安と同じくらいの大きさではないかを確かめる価値があります。
ただし、使い方には注意が必要です。この目安は「5％以内なら同点」という判定ルールではありません。あくまで概算の注意書きです。線を引いて白黒をつける道具ではなく、細かい差に飛びつく前に一呼吸おくための目安として使ってください。
公式の側が先回りして、自分のテストはこの程度ぶれると書いている。私はここに、このテストへの信頼をいちばん感じました。
「最速」を見たときの確認表
ここまでの内容を、ニュースの見出しと突き合わせるための表にまとめます。
| 確認すること | どこで確認できるか | それだけでは分からないこと |
|---|---|---|
| 独自条件のテストか、共通ルールのテストか | 発表の本文、図表、脚注にあるテスト名と版 | 共通テストの数字でも、企業の発表の中で使われている場合がある |
| 学習の数字か、推論の数字か | テスト名(TrainingかInference: Datacenterか) | 学習の結果から、推論での速さ |
| 何が揃っていて、何が違うか | 結果表のアクセラレーター数とソフトウェアの欄、版、部門、検証の状態、利用可能性の区分 | 数が違う行の差(そのままチップ単体の差とは読めません) |
これは、発表を疑うための表ではありません。条件の違う数字を、条件ごと理解するための表です。条件が書かれていれば、読む側がその比較の妥当性を確かめる手がかりになります。
まとめ
AIチップの「最速」という見出しの後ろには、測り方の取り決めが積み重なっています。
数字には、独自条件のものと共通ルールのものがあります。学習と推論は別のテストです。この記事で例にしたMLPerf Trainingが測るのはチップ単体ではなく、ソフトウェアまで含めた実行環境の成績です。Closed部門では、前処理、モデル、学習方法、品質目標といった土台が揃えられています。一方で、アクセラレーターの数、ソフトウェアや数値形式、版、検証の状態、利用可能性は、提出ごとに違うことがあります。そして数％の差は、公式が認めるばらつきと重なることがあります。
MLPerfの結果は、特定の版と提出内容に結びついた数字です。それでも、条件を確かめてから数字を見るという読み方のほうは、繰り返し使えます。この記事で一覧表を作らなかったのは、そのためです。
次に「最速」の見出しを見かけたら、どの物差しか、どちらの競技か、何が揃って何が違うか。この3つを当てはめてみてください。数字に付いている条件まで見ると、その数字が何を意味するのかが分かりやすくなります。
関連記事
→NVIDIAはなぜ強いのか？CUDA・HBM・AI工場から20年の積み上げまで解説
→半導体はなぜ一社で作れない？層ごとに独占企業が並ぶ業界構造を解説
→AIブームのお金はどこへ流れる？儲かる側とリスクを持つ側の構造を解説
→NVIDIAに弱点はある？決算資料から見えた3つのリスクと強さの裏側
→AIデータセンターはGPUだけでは動かない？電力・冷却・建物まで必要な設備を解説
→キオクシア株はなぜ公開価格の77倍まで上がった？AI時代に評価された理由と東芝が手放した事情
よくある質問
結局、どのチップがいちばん速いのですか？
MLCommonsは、複数の種目をまとめた公式の総合スコアを定めていません。そのため、テスト全体で一社だけを「総合1位」と決める公式の数字は存在しません。
種目と条件を決めれば、その範囲での比較はできます。この記事の確認表にある3点(物差し、競技、条件の差)を固定してから結果表を見比べると、条件の違いを整理しやすくなります。
MLPerfの結果はどこで見られますか？
MLCommonsの公式サイトで、学習や推論などテストごとに結果表が公開されています。英語ですが、この記事で説明した項目(提出した組織、ソフトウェア、システム、プロセッサーとアクセラレーターの種類と数)が列として並んでいるので、確認したい場所は見つけやすいはずです。参考資料のURLからたどれます。
企業の「◯倍速い」という発表は、どこを確認すればよいですか？
まず、この記事の本文と同じところです。何と比べたのか。どのテストの数字か。学習の話か、推論の話か。
そのうえで、MLPerfの結果を比較して発表する場合には、版、部門、カテゴリー、検証の状態、シナリオ、チップの数などの違いを明示する決まりがあります。この情報が本文、図表、脚注のどこに書かれているかは発表によって違うので、順に探してみてください。どこにも条件が書かれていない「◯倍」は、条件の分からない数字として扱うのが安全です。
参考資料
MLCommons, MLPerf Training Benchmark https://mlcommons.org/benchmarks/training/ 閲覧日：2026年7月30日
MLCommons, MLPerf Inference: Datacenter Benchmark https://mlcommons.org/benchmarks/inference-datacenter/ 閲覧日：2026年7月30日
MLCommons, MLPerf Training Rules https://github.com/mlcommons/training_policies/blob/master/training_rules.adoc 閲覧日：2026年7月30日
MLCommons, MLPerf Results Messaging Guidelines https://github.com/mlcommons/policies/blob/master/MLPerf_Results_Messaging_Guidelines.adoc 閲覧日：2026年7月30日
コメント