iPhoneから自宅パソコンの高性能AIを使ってみる、スマホの限界を超える活用術

　最近、筆者はスマホやパソコン上でAIを動かすことに凝っております。4月のみんなのケータイでは、「Pixel 8a」に「Google AI Edge Gallery」というアプリを使って、ローカルAIを載せてみた話を書きました。

　実は最近、もう一台の愛機「iPhone 15」でも、「Edge Gallery」のほかに「Locally AI」というアプリでローカルAIを試しています。

　こちらでは、プリセットで使えるAIにIBM製の「Granite」や、PrismMLという米カリフォルニア工科大発スタートアップ製の「Bonsai」といったものがありまして。これがまた面白いのですよね。

　ご存じですか？　Bonsaiって、1ビットLLMと呼ばれるタイプのモデルで、極限までデータの軽量化を進めたおかげで、パラメータ数が約80億あるにもかかわらず、メモリー使用量はかなり小さいんです。

　……何がなんだか、読んでいてよく分からないかもしれませんが、要は「わりと賢い（？）くせに、非力なスマホでも動かしやすいAIがある」、ということです。

　「ええ？　本当に使い物になるの？」と思われる方は、App Storeから「Locally AI」をインストールして、「Manage Model」からLLMに「Bonsai」を選んで、ちょっとチャットしてみてください。本当にそれだけで、AI「Bonsai」を試すことができます。

「Locally AI」での「Bonsai」選択画面、ちょちょいのちょい、です

日本語、大丈夫！

（今気付いたんですけど、iPhone 15 Pro以上推奨なんですね……15でも普通に動きますよ）

　それとそれと。この「Locally AI」には、「Edge Gallery」にはない特徴的な機能があります。スマホから、パソコン上で動いているローカルAIに接続して使う機能があるんですよ。

　正確には、パソコン上で「LM Studio」というAIプラットフォームを動かし、その上でAIモデルを実行している場合、スマホ側の「Locally AI」と「LM Link」という機能でつなげることで、iPhoneからパソコン上のAIを使えるのです。

　スマホ単体のAIは手軽ですが、やはり使えるモデルや速度には限界があります。その点、パソコン上のAIなら、グラフィックボードやメモリーを使って、もう少し大きなモデルを動かせます。実用で使い始めると、こっちの方が便利なんですよね。

　ということで、筆者はパソコンの「LM Studio」で「gemma-4-e4b-uncensored-hauhaucs-aggressive」を動かし、「LM Link」経由でiPhone 15の「Locally AI」からリモートアクセスしてみたりしています。

はい、母艦パソコンのAIをスマホから選択してーー

こちら側からiPhoneをつなぐ

あとは普通にスマホのAIとチャットするのと同じ感覚で、パソコンのAIとチャットできます

　いや、Gemma 4さん、GPT-4さんやGemini 3さんには負けるけど、それなりに賢いし、軽くて便利だわ。

　それに、自分の家でAIを動かしていると、課金を気にしなくていいから気が楽ですよー。なんてったってランニングコストは電気代だけですもんね！

　イニシャルコストも、我が家の場合、ちょっとおこづかい稼ぎに使っていた12GB VRAM搭載のグラフィックボードをデスクトップパソコンに載せただけで、母艦AIパソコンができちゃいましたし。うんうん、安上がりっていいことだ！

　……いや、本当はねぇ。iPhoneのProモデルのようなメモリーの多いスマホを買っておけば、スマホ上でも「gemma-4-e4b」クラスのAIを動かせるような気もするんですよ。

　そもそもパソコンのメモリーが安ければ、もっとグラフィックボードもメモリーもいっぱい挿して、もっともっと上のクラスのAIを使いたいんですけどねぇ……　今から買うのはちょっと躊躇します……。

　みんなメモリー高騰が悪いんや。（涙）