OpenAIがBroadcomと共同開発したAI半導体「Jalapeño」の実測結果を公表しました。NVIDIAのGB200、GB300を使ったシステムと比べ、1kW当たりの処理量が多く、応答時間も短いという結果でした。AI半導体は、理論上の演算性能だけでなく、実際のサービスで生じる遅延や消費電力も含めて評価されるようになりました。半導体需要は急速に拡大していますが、関連企業の株価は実際の需要だけで決まるわけではありません。

【関連記事】M6搭載モデル登場！新しいMac miniで何が変わるのか

OpenAIはなぜ独自の推論用半導体を開発したのか

OpenAIとBroadcomは2026年6月24日、LLMの推論処理に合わせて設計したJalapeñoを発表しました。OpenAIにとって初めての独自AI半導体であり、同社が複数世代にわたって展開する計算基盤の第1弾に当たります。

推論処理の負担が増えた

生成AIでは、モデルを作るための「学習」と、学習済みのモデルから回答を生成する「推論」に大量の計算が必要です。高性能なモデルを開発するには大規模な学習環境が欠かせませんが、完成したモデルをChatGPTやAPIとして提供した後は、利用者から寄せられる膨大なリクエストを処理し続けなければなりません。利用者が増え、1回のリクエストで扱う文章が長くなれば、推論に必要な半導体、電力、設備も増えていきます。

さらに、AIエージェントは、1回の応答だけで仕事を終えるわけではありません。情報を検索し、計画を立て、外部ツールを操作し、結果を確認しながら1つの仕事を進めます。その間にモデルを何度も呼び出すため、推論処理の回数が急増します。AIが複雑な仕事を担うほど、推論にかかる時間と費用がサービス全体を左右します。

一般的なGPUは、学習から推論まで幅広い処理に対応できます。汎用性の高いGPUは、新しいモデルや計算方法にも対応しやすい一方、特定の処理だけに特化した設計ではありません。OpenAIは、ChatGPT、Codex、APIなどを日常的に運用しています。日々の運用から得た知見を基に、自社サービスの推論に必要な機能を重視してJalapeñoを設計しました。

OpenAIとBroadcom

Jalapeñoの開発では、OpenAIがモデルの特性、推論時の演算、システムの構成、将来の製品計画を踏まえて基本設計を行いました。Broadcomは、その基本設計を実際に製造できる半導体へ仕上げる技術と、データセンター内で多数の半導体を接続するネットワーク技術を提供しました。Celesticaは、基板やラックを含むシステムへの組み込みを支援しました。

Jalapeñoは、OpenAIのモデル開発とサービス運営の知見に、Broadcomの半導体設計と量産技術を組み合わせた製品です。AI企業が半導体に必要な機能を決め、半導体企業が製造に向けた設計を担うことで、用途に特化したカスタムASICの開発期間を短縮できます。

開発チームは、初期設計からテープアウトまでを9カ月で終えました。テープアウトは、半導体の設計を確定し、製造工程へ引き渡す段階です。OpenAIは自社のAIモデルを使って複数の実装案を検討し、設計案の作成、測定、検証にかかる時間を短縮しました。演算回路の最適化にもAIを使い、限られた面積で高い演算性能を得られるようにしました。半導体の開発工程にもAIを活用した点が、Jalapeñoの特徴です。

データ移動を減らす

LLMの推論は、主にプリフィルとデコードの2段階に分かれます。プリフィルでは、利用者が入力した文章をまとめて読み込みます。この段階では、多数の計算を同時に進める演算性能が重要です。デコードでは、前に生成した内容を参照しながら、回答を1トークンずつ出力します。同じデータを繰り返し読み出すため、メモリーの容量や転送速度が処理時間に影響します。

大規模なモデルを複数の半導体に分散して動かすと、チップ間の通信も増えます。演算装置が高速でも、必要なデータを待つ間は処理を進められません。そのため、半導体の理論性能を高めても、推論サービス全体が同じ割合で速くなるとは限りません。

データの転送距離や回数が増えるほど、転送にかかる時間と消費電力も増えます。推論で繰り返し参照する情報を演算装置の近くに置けば、待ち時間を減らし、同じ電力でより多くのリクエストを処理できます。この考え方が、Jalapeñoの設計全体に反映されています。

Jalapeñoを使う推論システムは、演算装置、メモリー、ネットワーク、ソフトウェアを一体として設計し、データの移動と通信待ちを減らしています。回答を生成する際に参照するKVキャッシュも、必要な演算装置の近くに置けます。SemiAnalysisによると、JalapeñoはHBM4を搭載し、メモリー帯域は15.4TB/秒に達します。演算性能を高めるだけでなく、処理の待ち時間を抑える設計によって、実際の処理速度を高めています。

OpenAIはJalapeñoを2026年末から導入し、複数世代にわたって規模を拡大する計画です。ただし、すべての処理を独自半導体へ移す方針ではありません。学習、高負荷の推論、常時動作するAIエージェントでは、必要な半導体やシステムが異なります。OpenAIは今後も複数企業の計算資源を利用しながら、Jalapeñoを自社の計算基盤に加える計画です。

Jalapeñoの実力

OpenAIは2026年8月25日、Jalapeñoの性能測定結果を公表しました。測定には、SemiAnalysisが運営する公開ベンチマーク「InferenceX」を使用しました。チップ単体の理論性能ではなく、リクエストを受けてから回答の生成が終わるまで、推論処理全体を測った点が特徴です。

3つの公開モデルでNVIDIA製システムと比較

試験には、GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3モデルを使用しました。いずれも入力8,000トークン、出力1,000トークンの条件です。複数のトークンを先読みする仕組みは使わず、1トークンずつ生成する条件で比較しました。

GPT-OSS 120Bでは、Jalapeñoの処理量は1kW当たり毎秒8万5448トークンでした。比較対象のGB200は1kW当たり毎秒4万4960トークンで、Jalapeñoが約1.9倍です。リクエストの処理開始から回答の生成完了までを測るエンドツーエンドの遅延は、Jalapeñoが1.03秒、GB200が1.80秒でした。

DeepSeek R1では、処理量はJalapeñoが1kW当たり毎秒1万9641トークン、GB300が1kW当たり毎秒1万1781トークンで、約1.7倍の差が付きました。エンドツーエンドの遅延は、Jalapeñoが1.65秒、GB300が5.99秒で、Jalapeñoは遅延を約72％短縮しています。Kimi K2.5でも、処理量はJalapeñoが1kW当たり毎秒1万8195トークン、GB300が1kW当たり毎秒1万1862トークンで約1.5倍、遅延は1.56秒対5.31秒で約71％短縮しています。

3つのモデルを通じて、Jalapeñoのピーク時の電力当たり処理量は約1.5～1.9倍となり、エンドツーエンドの遅延は約41～72％短くなりました。OpenAIが開発したGPT-OSSだけでなく、構造や規模の異なるDeepSeekとKimiでも、電力効率と応答速度の両方が比較対象を上回りました。

応答速度を保ったまま処理量を増やした

AIサービスでは、一定時間に多くのリクエストを処理できても、一つひとつの回答が遅ければ利用者の待ち時間が長くなります。反対に、1人当たりの応答速度を上げるために同時処理数を減らせば、対応できる利用者が減り、設備当たりの収益性が下がります。推論基盤では、用途に応じて応答速度と処理量のバランスを取る必要があります。

OpenAIは、連続するトークンを出力する間隔も測定しました。この間隔をTBTと呼び、数値が小さいほど回答が滑らかに表示されます。Jalapeñoの最短TBTは、GPT-OSS 120Bで0.69ミリ秒、DeepSeek R1で1.43ミリ秒、Kimi K2.5で1.44ミリ秒でした。比較対象となったNVIDIA製システムは、それぞれ1.87ミリ秒、5.90ミリ秒、5.48ミリ秒です。Jalapeñoはトークン間の待ち時間を約63～76％短縮しました。

比較対象のシステムが記録した最短TBTと同じ応答速度に条件を合わせると、Jalapeñoの電力当たり処理量はGPT-OSS 120Bで約53.7倍、DeepSeek R1で約104.3倍、Kimi K2.5で約56.1倍になりました。この大きな倍率は、Jalapeñoの総合性能が常に50倍以上になるという意味ではありません。比較対象のNVIDIA製システムでは、遅延を短くすると、同時に処理できるリクエストが減ります。一方、Jalapeñoは同じ応答速度でも、より多くのリクエストを処理できたため、このような大きな差が生じました。

低遅延は、会話を快適にするだけではありません。AIエージェントは、検索したり外部ツールを操作したりするたびにモデルを呼び出し、次の行動を決めます。モデルを何度も呼び出せば、わずかな待ち時間の差が積み重なります。AIエージェントでは、トークンの生成速度がタスク全体の所要時間に直結します。

実際の利用条件で測る

Jalapeñoの定格消費電力は700Wですが、試験中に測定した消費電力は550W以下でした。比較対象の定格消費電力は、GB200が1200W、GB300が1400Wです。電力当たりの処理量は、各製品の定格消費電力を使って計算しており、Jalapeñoには700Wを適用しています。

ただし、今回の数値は、実際のデータセンターでシステム全体の消費電力を測った結果ではありません。サーバーにはCPU、メモリー、ネットワーク機器、電源、冷却設備も必要です。NVIDIA製システムについては、Jalapeñoと同じ方法で測定した消費電力が公表されていません。実際の運用費を比べるには、ラック単位またはデータセンター全体の消費電力、設備価格、稼働率、保守費用まで確認する必要があります。

今回の測定には、最初に製造されたA0版のJalapeñoを使用しました。SemiAnalysisによると、現在製造中のB0版では、電力当たりの性能が約25％向上する見込みです。一方、公開済みの試験は入力8,000トークン、出力1,000トークンに限られています。長い文脈を維持しながらモデルを何度も呼び出すAIエージェントを想定した試験は、まだ公表されていません。

今回の試験では、3つのモデルすべてでJalapeñoが低遅延と高い電力効率を両立しました。AI半導体の競争では、演算性能に加え、利用者の待ち時間と電力当たりの処理量も重視されるようになりました。

半導体需要の拡大と期待

世界の半導体売上高や各社の決算を見ると、AI向けの需要は、GPUだけでなく、用途に特化した半導体、メモリー、ネットワーク製品にも広がっています。

伸びる半導体売上高

米国半導体工業会によると、2026年7月の世界半導体売上高は1468億ドルでした。前月比6.4％増、前年同月比135.1％増です。世界の半導体売上高は17カ月連続で前月を上回り、2026年1～7月の累計売上高は、過去最高だった年間売上高をすでに上回っています。

世界半導体市場統計は、2026年の市場規模を前年比89.9％増の1兆5112億ドルと予測しています。2027年はさらに前年比26.6％増の1兆9137億ドルに達する見通しです。2025年の市場規模は7956億ドルで、2027年までの2年間で2倍以上になる見通しです。

成長を主に支えているのはメモリーです。2026年のメモリー市場は前年比約250％増となり、8000億ドルを超えると予測されています。AIシステムには、計算を担うアクセラレーターに加え、大規模なモデルのデータを保持し、演算装置へ高速に送るHBMも必要です。JalapeñoもHBM4を採用しており、低遅延と高い処理量を実現するうえでメモリー帯域が性能を左右します。

ロジック半導体市場も、2026年は前年比37％増となる見通しです。GPUやカスタムASICの導入が増えれば、それらを接続するスイッチ、通信装置、光部品の需要も増えます。データセンター向けのAI投資が増えるにつれ、GPUだけでなく、メモリー、ネットワーク、電源、冷却の需要も拡大しています。

カスタムASICとGPUの需要拡大

Jalapeñoの開発に参加したBroadcomの決算からも、カスタム半導体に対する需要の強さが分かります。2026年度第3四半期のAI半導体売上高は167億ドルとなり、前年同期比で221％、前四半期比で54％増加しました。全社の売上高も前年同期比86％増の295億9100万ドルに達しています。同社は第4四半期のAI半導体売上高を217億ドルと見込んでおり、実現すれば前年同期比236％増となります。

BroadcomのAI関連事業には、顧客ごとに設計するアクセラレーターだけでなく、多数の半導体を接続するネットワーク製品も含まれます。AI企業が独自半導体の開発を進めるほど、設計支援とネットワーク技術を持つBroadcomの重要性も高まります。汎用品だけでなく、AI企業と半導体メーカーが役割を分担して開発する製品も増えています。

NVIDIAの2027年度第2四半期のデータセンター売上高は890億ドルでした。前年同期比117％増、前四半期比18％増です。AI企業が独自半導体の開発を進める一方で、NVIDIA製品への需要も大きく伸びています。GPUは幅広いモデルや大規模な学習に対応し、ASICは特定の推論処理を効率化します。

OpenAIは今後も、NVIDIA、AMD、Cerebrasの半導体を、Microsoft、AWS、CoreWeaveの計算基盤と組み合わせて利用する方針です。Jalapeñoは、既存の計算資源に加わる新たな選択肢です。

好決算でもなぜ株価が下がるのか

半導体需要が伸びても、関連企業の株価が上がるとは限りません。株価には現在の売上高だけでなく、数年先の成長に対する期待も織り込まれています。実際の業績が伸びていても、投資家がさらに高い成長を期待していれば、決算発表後に株価が下がる場合があります。

Broadcomが2026年度第3四半期の決算を発表した際、AI半導体売上高は前年同期比で3倍を超え、全社の売上高と利益は市場予想を上回りました。同社は翌年度以降のAI半導体売上高の見通しも引き上げています。それでも、発表後の時間外取引では株価が一時1％を超えて下落しました。第4四半期の全社売上高予想が市場予想をわずかに下回り、AI投資の採算性や競争激化への懸念も残っていたためです。

半導体の実需は、企業の売上高や受注、生産能力、データセンターへの導入計画から確認できます。これに対して株価は、業績の予想と実績の差、金利、投資家の資金配分、将来の利益率などにも左右されます。投資資金が短期間に集中すれば、株価は業績の伸びを超えて上昇します。反対に、市場の期待が後退すれば、需要が伸びている最中でも急落します。

AI関連株の値動きだけで半導体需要の増減を判断すると、市場の実態を見誤ります。2026年の世界半導体売上高、BroadcomのAI半導体売上高、NVIDIAのデータセンター売上高は、いずれも実需の拡大を示しています。半導体の需要が伸びていても、株価が妥当な水準にあるとは限りません。

Jalapeñoは、用途に応じた製品の使い分けが進むAI半導体市場の変化を象徴する存在です。半導体に求められる性能は用途によって異なります。幅広いモデルを動かすには汎用性、大規模な学習には並列処理性能、対話型サービスには低遅延、大量のリクエストを処理するデータセンターには電力効率が必要です。単一の指標だけでは、AI半導体の優劣を判断できません。半導体の実需を判断するには、投機的な株価の動きではなく、売上高と導入規模を確かめる必要があります。

まとめ

OpenAIとBroadcomは、LLMの推論処理に合わせて、演算装置、メモリー、ネットワーク、ソフトウェアを一体化したシステムを設計しました。Jalapeñoは、そのシステムの中核となる半導体です。公表された試験では、NVIDIAのGB200、GB300を使ったシステムと比べ、電力当たりの処理量は約1.5～1.9倍となり、エンドツーエンドの遅延は約41～72％短くなりました。

AIエージェントは、モデルを何度も呼び出しながら複数の処理を進めます。待ち時間が短くなれば、会話が快適になるだけでなく、仕事全体の所要時間も短縮できます。AI半導体では、理論上の演算性能に加え、限られた電力でどれだけ速く大量の処理を実行できるかが問われています。

世界全体の半導体売上高が急増するなか、BroadcomのAI半導体売上高とNVIDIAのデータセンター売上高も大幅に伸びています。AI向けの需要は、GPUだけでなく、カスタムASIC、HBM、ネットワーク製品にも広がっています。株価は短期的には市場の期待に左右されます。半導体の実需を見極めるには、売上高、生産能力、導入計画を確認する必要があります。

参考文献

OpenAI and Broadcom unveil LLM-optimized inference chip

Jalapeño’s first results show industry-leading speed and efficiency in AI inference

OpenAI Jalapeño: Better Than Nvidia Blackwell