AMDがAIチップ「Instinct MI300」シリーズでNVIDIAの牙城に切り込む、既にOpenAI・Microsoft・Meta・Oracleが採用を決定

AMDがNVIDIA H100の最大1.6倍の性能を誇るGPUである「Instinct MI300X」と、CPUとGPUを組み合わせたAPUである「Instinct MI300A」を発表しました。
AMD Delivers Leadership Portfolio of Data Center AI Solutions with AMD Instinct MI300 Series :: Advanced Micro Devices, Inc. (AMD)
https://ir.amd.com/news-events/press-releases/detail/1173/amd-delivers-leadership-portfolio-of-data-center-ai
Meta and Microsoft to buy AMD's new AI chip as alternative to Nvidia
https://www.cnbc.com/2023/12/06/meta-and-microsoft-to-buy-amds-new-ai-chip-as-alternative-to-nvidia.html
AMD introduces data center and PC chips aimed at accelerating AI | VentureBeat
https://venturebeat.com/ai/amd-introduces-data-center-and-pc-chips-aimed-at-accelerating-ai/
◆Instinct MI300X
Instinct MI300XはAMD CDNA 3アーキテクチャを搭載したGPUで、前世代であるInstinct MI250Xより約40％多いコンピューティングユニット、1.5倍のメモリ容量、1.7倍のピーク理論メモリ帯域幅を備えているとのこと。

Instinct MI300XはNVIDIA H100のような競合製品に対しても優位を保っており、大規模言語モデルでの推論を実行する際のスループットは最大1.6倍に達します。またメモリ容量は2.4倍の1.5TBで、パラメータサイズが70B(700億)あるLlama2のようなモデルの推論を1台でこなせる現行の製品はInstinct MI300Xしかありません。

既に複数の大手AI企業がInstinct MI300Xの採用を表明しており、Microsoftのケヴィン・スコットCTOは「Azureのウェブサービスを通じてInstinct MI300Xへのアクセスを提供します」と述べました。
また、Microsoftとともに2023年に最も多くのH100を購入した企業となったMetaは、AIステッカーの処理、画像編集、アシスタント操作などのAI推論ワークロードにInstinct MI300Xを使用すると発表しています。
そのほか、OpenAIはAI研究の際にチップ機能にアクセスするのに使われるソフトウェア製品「Triton」でInstinct MI300Xへのアクセスを提供するほか、Oracleもクラウド事業にInstinct MI300Xを採用するとのことです。
◆Instinct MI300A
Instinct MI300AはAMD CDNA 3のGPUコアとZen 4のCPUコアを組み合わせたAPUで、「ハイパフォーマンスコンピューティング(HPC)とAI向けのデータセンターAPUとしては世界初」と位置づけられています。

特にエネルギー効率に優れており、前世代であるInstinct MI250Xと比較するとワット当たりのHPCワークロードパフォーマンスは約2.6倍とのこと。また、AI性能ではNVIDIA H100とほぼ互角ですが、HPCの分野では最大1.8倍のパフォーマンスを示しています。

◆フォーラム開設中
本記事に関連するフォーラムをGIGAZINE公式Discordサーバーに設置しました。誰でも自由に書き込めるので、どしどしコメントしてください！Discordアカウントを持っていない場合は、アカウント作成手順解説記事を参考にアカウントを作成してみてください！
• Discord | "AI開発用チップでAMDはNVIDIAに対抗できると思う？" | GIGAZINE(ギガジン)
https://discord.com/channels/1037961069903216680/1182242859919884289