ChatGPTに「ローカルLLM入手方法」を聞くと、Google提供の端末内AIアプリ「Google AI Edge Gallery」(Android版)を勧められました。
Al Edge Galleryは、世界で最もパワフルなオープンソースの大規模言語モデ ル(LLM)をモバイルデバイス上で実行できる最高のプラットフォームで す。高性能な生成型AIを、完全オフライン、プライベート、そして超高速で、 お使いのハードウェア上で直接体験できます。
アプリのインストールから簡単な使い方は、ChatGPTが教えてくれますね。
Google Playストアで公開されていたのでインストールしました。
最初に7個のAIモデルの内のどれかのダウンロードが必要です。
サイズが584MB~4.9GBで、サイズが大きい方が詳しい回答が得られるようです。
「Gemma-3n-E4B-it」 4.9 GBモデルをダウンロードしました。
本当にローカルで動作しているかの確認は、端末を「機内モード」にして、質問して回答が得られるか確認するのが良いそうです。
ローカルLLM(大規模言語モデル / Large Language Model)の注意点は、最新ニュースやリアルタイム情報を自動取得できないそうです。
今日の天気を聞いても、気象庁のサイトなどのリンクが表示されました。
高市総理のプロフィールを聞くと、簡単なプロフィールが表示されました。
ある程度の人物の情報は持っているようです。
「素数とは」を聞くと回答が表示されたので、ローカルの百科事典のように使えますね。
インスタント メディア検索機能を試しました。
EmbeddingGemma 2 を使用すると、写真や動画をローカルで整理、検索できます
ローカル(端末内)画像と動画を自然な言葉で検索する機能です。
最初に2つのモデルから1つのダウンロードが必要です。
次にローカルの動画&画像の登録が必要で、多いと登録に時間がかかります。
「将棋」で検索すると、盤面画像や棋士の写真や動画が表示されました。
画像を1つ選択すると、選択した画像に似た画像の検索ができました。
動画も言葉で検索できるのは面白いですね。
【リンク】
Google AI Edge Gallery - Google Play のアプリ -
https://play.google.com/store/apps/details?id=com.google.ai.edge.gallery&hl=ja