AppleやAMDを渡り歩いた伝説的エンジニアのジム・ケラーが「NVIDIAがうまく対応していない市場」を狙ったAIチップを開発中

ジム・ケラー氏はAppleやAMD、テスラなどを渡り歩いてさまざまなプロセッサの開発に携わった、伝説とも評されるエンジニアです。そんなケラー氏が、自身がCEOを務めるAIチップメーカーのTenstorrentは、「NVIDIAがうまく対応していない市場」を狙ったAIチップを開発しているとNikkei Asiaのインタビューで明かしました。
U.S. chip designer aims to bring down AI prices pushed up by Nvidia - Nikkei Asia
https://asia.nikkei.com/Business/Tech/Semiconductors/U.S.-chip-designer-aims-to-bring-down-AI-prices-pushed-up-by-Nvidia2

Chip design legend Jim Keller aims for Tenstorrent wins in market 'not well served by Nvidia' | Tom's Hardware
https://www.tomshardware.com/tech-industry/artificial-intelligence/chip-design-legend-jim-keller-aims-for-tenstorrent-wins-in-markets-not-well-served-by-nvidia
ケラー氏はAMDのAthlonやZenマイクロアーキテクチャ、AppleのA4といったプロセッサ開発で主要な役割を果たし、テスラでもオートパイロットのチップセット開発に携わりました。
そんなケラー氏は2023年に、カナダのトロントに本社を置くAIチップスタートアップ・TenstorrentのCEOに就任しました。Tenstorrentは2024年3月に、AI推論に特化したPCIe拡張カード「Grayskull e75」と「Grayskull e150」を発表しています。
ジム・ケラーのAIチップ企業「Tenstorrent」がAI推論に特化したPCIe拡張カード「Grayskull e75」と「Grayskull e150」をリリース＆日本のLSTCやRapidusとの協力も発表 - GIGAZINE

さらにTenstorrentは、2024年末に第2世代の多目的AIプロセッサを販売する準備をしているとのこと。記事作成時点では、AI向けチップ市場はNVIDIAによってほぼ支配されていますが、ケラー氏はNikkei Asiaに「NVIDIAがうまく対応していない市場はたくさんあります」と述べ、NVIDIAが目を向けていない分野でチャンスがあると考えています。
AIは現代社会のさまざまなシチュエーションで活用されていますが、NVIDIAのハイエンドGPUは2万～3万ドル(約310～470万円)に達するため、企業はより安価な代替品を探しています。Tenstorrentが狙っているのはこの層であり、同社のGalaxyシステムはNVIDIAのDGXシステムより3倍も効率的で、価格も33％安いと主張しています。
ケラー氏はTenstorrentのプロセッサが安い理由のひとつに、大量のデータを高速転送するための高帯域幅メモリ(HBM)を使用していない点を挙げています。HBMは生成AIチップの重要なコンポーネントであり、NVIDIA製品の成功においても大事な役割を果たしてきました。しかし、HBMはAIチップの膨大なエネルギー消費や高価格の原因になっているそうで、ケラー氏は「HBMを使用する人々でさえ、そのコストと構築のための設計時間に苦労しています」と述べ、HBMを使用しないと決定したとのこと。
一般的なAIチップセットでは、GPUはプロセスが実行されるたびにデータをメモリに送信しており、これにはHBMによる高速データ転送機能が必要です。しかし、Tenstorrentはこのデータ転送を大幅に減らすようにチップを設計し、HBMを使わないAIプロセッサを実現しました。
Tenstorrentが開発するAIプロセッサの特徴は、100個を超える各コアにそれぞれCPUが搭載されているという点です。各コアに搭載されたCPUがデータ処理の優先順位を決定することで全体的な効率が向上するほか、各コアが比較的独立しているため、コア数を調整することで幅広いアプリケーションに適応可能だとのこと。ケラー氏は、「現時点ではAIに最適なアプリケーションがどれほどのサイズになるのかわかりません。ですから、私たちの戦略は幅広い製品に適した技術を構築することです」と述べました。