クラウド上ではなくスマホ上で動くローカルファーストLLM「Gemini Nano」がPixel 8 Proで動作可能に、GboardのSmart Replyとレコーダーの自動要約強化に先行投入

Googleが2023年12月6日に大規模言語モデル「Gemini」を発表しました。さらに、このGeminiをPixel 8 Proに導入し、クラウドではなくデバイス上で動作するローカルAIとして動作させることを明らかにしました。
Google Pixel December feature drop: New Gemini AI-powered updates
https://blog.google/products/pixel/pixel-feature-drop-december-2023/

Android Developers Blog: A New Foundation for AI on Android
https://android-developers.googleblog.com/2023/12/a-new-foundation-for-ai-on-android.html

A Present For Your Pixel | December ‘23 Feature Drop - YouTube

Googleは2023年12月6日に次世代マルチモーダルAI「Gemini」を発表しました。このGeminiにはUltra・Pro・Nanoという3つのサイズが用意されています。
文字・音声・画像を同時に処理して人間以上に自然なやりとりができるGPT-4を超える性能のマルチモーダルAI「Gemini」がリリースされる - GIGAZINE

Googleの製品管理担当ヴァイスプレジデントであるブライアン・ラコウスキー氏は「オンデバイスタスク用に構築された最も効率的なモデルであるGemini Nanoを、2023年12月7日よりPixel 8 Proで実行可能です」と発表しました。
Gemini Nanoを搭載することで、2023年12月からPixel 8 Proで以下のことが可能になるとのこと。
・レコーダーで要約する
Gemini Nanoによって、レコーダーアプリで録音した会話の文字起こしから要約を即座に行えるようになるとのこと。この機能はオンデバイスで動作し、ネットワーク接続がなくても使えるそうです。ただし、記事作成時点では英語のみの対応。

・Smart Reply
キーボードアプリの「Gboard」で、AIがメッセンジャーアプリで自動返信の文章を生成してくれる機能が「Smart Reply」です。記事作成時点ではWhatsAppで使うことが可能で、2024年にはもっと多くのアプリで利用できるようになるとのこと。ただし、記事作成時点では英語のみの対応となっています。

さらにAndroid開発部は、デバイス上でプリインストールされたAIへのアクセスできる「Android AICore」について明らかにしています。Android AICoreにより、Gemini Nanoの低ランク適応(Low Rank Adaptation：LoRA)によるファインチューニングが可能になり、アプリ独自のユースケースに合わせてファインチューニングされた大規模言語モデルを使用できるとのこと。

このAndroid AICoreとGemini NanoはPixel 8 Proで展開され、今後数カ月以内にさらに多くの対応デバイスが発表される予定です。