NTTの「tsuzumi」に期待、スマホ上で動く秘書アプリができるかも？

　NTTは独自の大規模言語モデル（LLM）「tsuzumi」を開発し、2024年3月から商用サービスをスタートさせると発表した。

　特徴は世界トップレベルの日本語処理性能だ。日本の企業が手がけたLLMなので、当然のようにも感じるが、驚くべきは、それが「軽量」で動いているという点だ。超軽量版は6億パラメータ、軽量版は70億パラメータとなっている。超軽量版はCPU、軽量版は1GPUでの推論動作が可能だという。

　NTTの島田明社長は「NTTが持つ40年以上の自然言語処理技術研究のノウハウを結集した。日本語では世界トップレベルの性能を誇り、英語でもMetaのLLMと同程度の性能を誇る。GPT-3と同等の性能でありながら、軽量であるため、消費電力も抑えることができる、サステナリビティに貢献できる」としている。

島田社長

　ちなみに、OpenAIのGPT-3は1750億パラメータであるが、tsuzumiの軽量版は25分の1、超軽量版は約300分の1となる。これが、学習や推論におけるコストにダイレクトに効いてくるというわけだ。

　NTTではtsuzumiをNTTグループ内で活用するだけでなく、グループ企業によって、他の法人に売り込んでいく計画だ。

　今回、NTTの説明を聞いていて、次第に興奮が抑えられなくなってきた。

　1週間前、マウイ島で開催されたクアルコムの「Snapdragon Summit」において、Snapdragon 8 Gen 3などで、MetaのLLMである「Llama 2」によって、様々な質問に答えるAIアシスタントが動いているのを目の当たりにしたのであった。

　クアルコムのクリスティアーノ・アモンCEOは「これからはオンデバイスAIの時代だ」と宣言。実際、Snapdragon 8 Gen 3のAIアシスタントは機内モードで「マウイから東京までの行き方は」といった質問にしっかりと答えていた。

　クアルコムでは「100億パラメータまでサポートできる」（クアルコムの製品管理担当シニアバイスプレジデント、ジアド・アスガー氏）と説明し、マイクロソフトやOpenAI、Meta、AndroidやBaiduなどのLLMなどが紹介されていたが、残念ながら、日本の企業名は確認することができず、寂しい思いをしていたのだった。

　しかし、tsuzumiが70億パラメータというサイズであれば、Snapdragonで動く可能性も十分に見えてくる。

　実際、tsuzumiは将来的にスマートフォンで動く可能性はあるのか。単刀直入に質問したところ、木下真吾研究企画部門長は「もちろん、ターゲットにしてやっている。言語モデルでは実現できていないが、音声認識エンジンはスマートフォンどころかApple Watchで動かすことができている。小型化が得意なので、頑張っていくつもりだ」としている。

木下氏

オンデバイス処理ならではのメリット

　日本語に長けたAIが、オンデバイスだけで処理されるとなれば、ユーザーのプライバシーをしっかりと守りつつ、個人の属性に合わせた進化が可能になる。

　クラウド上のAIに対しては、大人と子どもが同じ質問をした場合、同じ答えしか返ってこない。しかし、オンデバイス処理によって、個人の属性に合わせたAI処理が可能となれば、同じ質問でも、子どもに対する答えと大人に対する答えを変えるということが可能になる。

　個人的にスマートフォン上でのオンデバイスAIに期待したいのが、メールやメッセンジャー、スケジューラーなどがAIによって連携し、さらに秘書的に動いて勝手にメールの返事を書いてくれたり、スケジュールを調整してくれる機能だ。

　毎日、似たような文面のメールを書くのは面倒だし、返事をしつづけるのも骨が折れる。スケジュールの調整なども大変で、結構、頭を悩ませている。

　これが将来的にオンデバイスAIによって、一通り、メールを分析し、返事を書き、送ってくれたり、それらのメールの文面からスケジュールを埋めてくれるようになってはくれないものか。

　そんな願望をNTTのtsuzumi担当者にぶつけたところ「その方向性は是非とも実現していきたい。例えば、tsuzumiでは画面に表示されているものを認識、解析できるので、メールの文面も理解することが可能。個人的にもぜひそのような機能は欲しいと思う」と答えてくれた。

　NTTドコモではかつては「しゃべってコンシェル」、現在では「my daiz」といったエージェント的なアプリを提供しているが、必ずしもユーザーの期待には応えてくれるものではなかった。

　しかし、チップ的にはSnapdragon 8 Gen 3、LLMとしてはtsuzumiが登場してきているだけに、「ユーザーの秘書として、スマホ上のデータをプライバシーをきっちりと保護しつつ、メールの返信やスケジュール管理をサポートしてくれるエージェントアプリ」の登場に期待したいところだ。