Metaが自社開発のAIチップ「MTIA」第2世代を発表、前世代の3倍の性能を実現しデータセンターにも導入済み

2024年4月10日、MetaがAIワークロード向けに設計した自社開発のAIチップ「Meta Training and Inference Accelerator(MTIA)」の第2世代を発表しました。第1世代と比較してパフォーマンスが大幅に向上し、すでにMetaのデータセンターに導入されているとのことです。
Our next generation Meta Training and Inference Accelerator
https://ai.meta.com/blog/next-generation-meta-training-inference-accelerator-AI-MTIA/

Introducing Our Next Generation Infrastructure for AI | Meta
https://about.fb.com/news/2024/04/introducing-our-next-generation-infrastructure-for-ai/
Meta’s new AI chips run faster than before - The Verge
https://www.theverge.com/2024/4/10/24125924/meta-mtia-ai-chips-algorithm-training
Meta unveils its newest custom AI chip as it races to catch up | TechCrunch
https://techcrunch.com/2024/04/10/meta-unveils-its-newest-custom-ai-chip/
Metaは自社のさまざまなアプリやサービスでAIを活用しており、マーク・ザッカーバーグCEOは「汎用(はんよう)人工知能の構築とオープンソース化を目指す」と宣言するなど、AIに大きく注力しています。また、MetaはソフトウェアだけでなくAI開発に特化したハードウェアの構築も推進しており、2024年末までに35万台のH100を含む大規模な計算インフラストラクチャーの構築を目指しているほか、2023年には独自開発のAIチップ「MTIA」を発表しました。
MTIAはFacebookやInstagramなどのランキングやオススメ広告モデルで最適に動作するように設計されており、トレーニングをより効率的にすると共に推論タスクを容易にしてくれるとのこと。Metaは、「MTIAはMeta独自のワークロードに最も効率的なアーキテクチャを提供するための長期的な賭けです。AIワークロードが当社の製品やサービスにとってますます重要になるにつれて、この効率性は、世界中のユーザーに最高のエクスペリエンスを提供する能力の中核となるでしょう」と述べています。
そして2024年4月10日、Metaは第2世代のMTIAについての詳細を発表しました。第2世代MTIAは「Artemis」というコードネームで開発されていたAIチップであり、コンピューティング・メモリ帯域幅・メモリ容量の適切なバランスを取ることに重点を置いているとのこと。
Metaが2024年後半に独自設計のAIプロセッサ「Artemis」を自社データセンターに導入することが明らかに - GIGAZINE

第1世代MTIAが7nmプロセスで製造されているのに対し、第2世代MTIAは5nmプロセスで製造されています。動作周波数は第1世代が800MHzで第2世代が1.35GHz、オンチップメモリは第1世代が128MBで第2世代が256MB、熱設計電力は第1世代が25Wで第2世代が90Wとなっています。

Metaの初期テスト結果では、4つのモデルで第2世代MTIAが前世代よりも3倍優れたパフォーマンスを発揮することが示されました。Metaによるとすでに第2世代MTIAは生産が始まっており、Metaのデータセンターにも導入されているとのこと。
Metaは、「MTIAはデータセンターに配備され、現在は本番モデルでサービスを提供しています。このプログラムのおかげで、より集中的なAIワークロードに多くの計算能力を割り当てて投資することが可能となり、すでに良好な結果が出ています。Meta特有のワークロードにパフォーマンスと効率の最適な組み合わせを提供する上で、MTIAが市販のGPUと非常に相補的であることが証明されています」と述べました。