脱炭素とはなにか
エヌビディアのジェンセン・フアンCEO。2018年1月7日、米ネバダ州ラスベガスで開催されたCESの基調講演で。
Rick Wilking/Reuters
- 権威ある調査会社のセミアナリシスがこのほど、テック界を2つのグループに分けた。
- その1つが｢GPUプア｣で、エヌビディアの最新AIチップの利用が限られているグループ。
- もう｢1つが｢GPUリッチ｣で、大きくリードしているグループだ。各グループに属する企業を以下に挙げる。
エヌビディア（Nvidia）は、最もパワフルなAIモデルのトレーニングに必要なGPUを開発している。このチップを多く手に入れることができれば、他社を大きくリードすることができる。逆に供給が十分でなければ、初めから遅れを取ることになる。
もはや決算説明会で、できるだけ多く｢AI｣と言っている場合ではない。この超高額な装置を導入するための技術要素、その他インフラ、優れた計画が、実際になければならない。エヌビディアのGPUの最前線にいること、エヌビディアに気に入られることは、今や必須だ。
調査会社セミアナリシス（SemiAnalysis）のディラン・パテル（Dylan Patel）とダニエル・ニッシュボール（Daniel Nishball）がこのほど、この状況について説得力のある投稿をした。この記事は大半が有料コンテンツとなっているため、AIについて真剣に考えている読者には、同社の素晴らしいニュースレターを購読することを勧める。ここでは、無料で読むことができる範囲について、筆者の個人的な意見をシェアする。
GPUプア
パテルとニッシュボールは、テック界を2つの大きなグループに分けた。それが｢GPUプア｣と｢GPUリッチ｣だ。GPUプアはそのほとんどが、スタートアップとオープンソースの研究者らであり、GPUの供給不足にあえいでいる。
その筆頭がヨーロッパのスタートアップや、政府が支援するスーパーコンピューター、例えばジュール・ベルヌ（Jules Verne）などで、セミアナリシスの記者らは｢まったく競争力がない｣としている。
有名なAI企業では、ハギング・フェイス（Hugging Face）、データブリックス（Databricks）、トゥギャザー（Together）もGPUプアだ。
エヌビディアからGPUを大量に購入しているものの元は取れていない、中間層の小規模グループもある。コーヒア（Cohere）、サウジアラビアやアラブ首長国連邦（UAE）が、これにあたるという。
GPUリッチ
パテルとニッシュボールは次に、エヌビディアのGPU、A100とH100の両方またはいずれかを、2万以上保有する企業をリストアップした。
トップはOpenAI、グーグル（Google）、アンスロピック（Anthropic）、インフレクション（Inflection）、イーロン・マスク（Elon Musk）のX（旧Twitter）やメタ（Meta）で、研究者のコンピュート・リソース比率が最も高いと著者は記している。
このうち数社は、中国の複数の企業と同様、2024年までに10万以上のGPUを確保することになる。メタは、H100 GPUの保有数で世界第2位になるだろうと著者は指摘した。
では、GPUリッチのトップ企業はどこだろうか。
それはグーグルだという。グーグルは｢世界で最もコンピュート・リッチな企業｣であり、｢無敵に効率的なアーキテクチャ｣があるとパテルとニッシュボールは記した。
数年前、自社をAIファースト企業と発表したグーグルは、まもなく次世代大規模AIモデル、その名もGemini（ジェミナイ）を展開することになる。すでに、その次のバージョンをトレーニング中だ。OpenAIは警戒していることだろう。
｢グーグルは覚醒し、年末までにGPT-4のすべての事前トレーニングのFLOPSの5倍のペースで開発している｣とアナリストは書いている。
｢現在のインフラ整備を考えれば、来年末までに20倍も可能だ。グーグルが創造性や既存のビジネスモデルを損なうことなく、これらのモデルを公にする度量があるかどうかは、別の議論だ｣
