新しい Microsoft AI チップは Nvidia にとって脅威ではありませんが、成長する LLM はカスタム シリコンを駆動する必要があります

7 月 11 ～ 12 日にサンフランシスコで経営トップに会い、リーダーたちが成功に向けて AI 投資をどのように統合し、最適化しているかを聞きましょう。 もっと詳しく知る

本日の The Information の報道によると、Microsoft は 2019 年の初めから社内コード名「Athena」と呼ばれる新しい人工知能 (AI) チップの開発を行っています。 同社は、早ければ来年にもAthenaを社内およびOpenAI内で広く利用できるようにする可能性がある。

専門家らは、NVIDIA がこうした動きによって脅かされることはないと述べているが、これはハイパースケーラーが独自のカスタム シリコンを開発する必要性を示唆している。

このチップは、Google (TPU) や Amazon (Trainium および Inferentia プロセッサ アーキテクチャ) が自社開発したものと同様、大規模言語モデル (LLM) トレーニングを処理できるように設計されています。 Gartner のアナリストである Chirag Dekate 氏は、高度な生成 AI モデルの規模が、そのトレーニングに必要なコンピューティング能力を上回る速度で成長しているため、これは不可欠であると VentureBeat に電子メールで語った。

John Peddie Research によると、AI チップの供給に関しては Nvidia が圧倒的な市場リーダーであり、約 88% の市場シェアを占めています。 各企業は、それぞれ数万ドルもするハイエンドの A100 および H100 GPU へのアクセスを予約するためだけに争っており、GPU 危機とも言える事態を引き起こしています。

トランスフォーム 2023

7 月 11 ～ 12 日にサンフランシスコで開催されるイベントにご参加ください。そこでは、経営陣が AI 投資をどのように統合して最適化して成功に導き、よくある落とし穴を回避したかを共有します。

「最先端の生成 AI モデルは現在、エクサスケールの計算能力を必要とする数千億のパラメーターを使用しています」と彼は説明しました。 「次世代モデルのパラメータは何兆にも及ぶため、主要な技術革新者がトレーニングにかかる​​時間とコストを削減しながらトレーニングを加速するための多様な計算アクセラレータを模索していることは驚くべきことではありません。」

Microsoft はコストを削減しながら生成 AI 戦略を加速させようとしているため、同社が差別化されたカスタム AI アクセラレータ戦略を開発するのは理にかなっていて、これは「従来のコモディティ化されたテクノロジーのアプローチでは実現できない、破壊的な規模の経済を実現するのに役立つ可能性がある」と同氏は付け加えた。 」

重要なことに、高速化の必要性は、機械学習推論をサポートする AI チップにも当てはまります。つまり、モデルが一連の重みに要約され、その後、ライブ データを使用して実用的な結果を生み出す場合です。 たとえば、ChatGPT が自然言語入力に対する応答を生成するたびに、コンピューティング インフラストラクチャが推論に使用されます。

J Gold Associates のアナリスト、Jack Gold 氏は、VentureBeat への電子メールで、Nvidia は非常に強力な汎用 AI チップを製造しており、特に ML トレーニングを行う方法として並列コンピューティング プラットフォーム CUDA (およびその派生製品) を提供していると述べました。 しかし、一般に推論に必要なパフォーマンスはそれほど低くなく、ハイパースケーラーはカスタマイズされたシリコンで顧客の推論ニーズにも影響を与える方法を模索していると同氏は説明した。

同氏は、「推論は最終的にはMLよりもはるかに大きな市場になるため、すべてのベンダーがここで製品を提供することが重要だ」と述べた。

ゴールド氏は、MicrosoftのAthenaは、10年前の深層学習「革命」の推進に同社が貢献して以来、NVIDIAが優位に立ってきたAI/ML分野におけるNVIDIAの地位に対するそれほどの脅威とは考えていない、と述べた。 強力なプラットフォーム戦略とソフトウェア中心のアプローチを構築しました。 そして、GPU を多用する生成 AI の時代に同社の株価が上昇しました。

同氏は、「ニーズが拡大し、使用方法の多様性も拡大するにつれ、Microsoftや他のハイパースケーラーにとって、自社のアーキテクチャ向けに独自に最適化されたバージョンのAIチップと、（CUDA固有ではない）最適化されたアルゴリズムを追求することが重要だ」と述べた。

それはクラウドの運用コストに関するものであるだけでなく、高コストの Nvidia オプションを必要としない、または望んでいない可能性がある多様な顧客に低コストのオプションを提供することでもある、と同氏は説明しました。 「すべてのハイパースケーラーが、汎用クラウド コンピューティングにおいて Nvidia だけでなく Intel と競争するために独自のシリコンの開発を続けることを期待しています。」

Dekate 氏はまた、Nvidia には勢いが衰える気配はないと主張した。 「Nvidia は引き続き、極めて大規模な生成 AI の開発とエンジニアリングを推進する主要な GPU テクノロジであり続けます」と同氏は述べています。 「企業は、カスタム AI ASIC の登場に伴い、Nvidia がリーダークラスのイノベーションを継続的に構築し、競争上の差別化を推進することを期待する必要があります。」

しかし同氏は、「ムーアの法則の最終段階におけるイノベーションは、GPUとアプリケーション固有のカスタムチップで構成される異種アクセラレーションによって推進されるだろう」と指摘した。 これは広範な半導体業界、特に「急速に進化するAI市場のニーズへの対応にまだ有意義に取り組んでいないテクノロジープロバイダー」に影響を与えると同氏は説明した。

VentureBeat の使命は、技術的な意思決定者が変革をもたらすエンタープライズ テクノロジーに関する知識を獲得し、取引を行うためのデジタル タウン スクエアとなる予定です。 ブリーフィングをご覧ください。