生成AIや大規模言語モデルの開発で渇望されるハイエンドGPU「NVIDIA H100」が不足する理由とは？

Facebookでシェア Twitterでツイート

半導体メーカー・NVIDIAのTensorコアGPUであるNVIDIA H100は、TSMCの4Nプロセスノードを使用して製造された、記事作成時点では最新かつ高パフォーマンスのGPUです。

生成AIや大規模言語モデル(LLM)といった昨今人気を集める推論AIワークロードに特化したNVIDIA H100は、需要過多により販売価格が高騰していることが指摘されており、NVIDIAもこれを認めています。

このGPUの供給不足がなぜ起こるのかについてGPU Utilsがまとめて…
続きを読む
Facebookでシェア Twitterでツイート