AI用語の基礎知識

【第14回】「SLM」とは――スマホの中のAIは”小さい”からこそ役に立つ

小さな端末内にAIを。「小さめAI」のSLMで(筆者がChatGPT Image 2で生成)

 最近のスマートフォンの新製品発表を見ていると気が付くことがあります。それは「AI」、「オンデバイスAI」、「端末内で処理」といった言葉がやたらと出てくることです。iPhoneも、Galaxyも、Pixelも。とにかくAI一色ですよね。で、そうした機能の裏側で働いていることが多い、端末の中で動いている“小さめAI”が、今回取り上げる「SLM」です。

 SLMとは、「小規模言語モデル」を意味する英語 "Small Language Model" の略です。【第4回】で解説したLLM(大規模言語モデル)の「Large」(大規模)が「Small」(小規模)になったもの、と考えてもらえば、だいたい合っています。

 とはいえ「小規模」といっても、現在のSLMは数億から数百億のパラメータを持っています。たとえばGoogleの「Gemma」シリーズや、Microsoftの「Phi」シリーズが代表的なSLMですが、「Gemma」で10億から270億パラメータのモデルを展開していますし、Microsoftの「Phi-4」も140億パラメータに達します。このくらいの規模って、実は数年前ならLLMと呼ばれていたクラス(例:2023年にMetaが公開したLLM・Llama 2が130億パラメータ)なのですよね。小さい小さいと言いつつ、中身はなかなかのものなのです。

「小さいから性能が低い」ではなく「小さいから手元で動く」。しかも、賢い!

 ふつうに考えれば、AIは大きいほど賢いはずです。実際のところ、その傾向は今も変わっていません。では、なぜわざわざ小さいモデルが出てくるのでしょうか? 答えは簡単で、「小さければ、小さい機械でも動かせるから」です。

 ChatGPTやGeminiのようなLLMは、クラウド上の巨大なサーバーで動いています。ユーザーが質問を入力すると、そのデータがインターネットを通じてサーバーに送られ、処理されて戻ってくる。手元のスマホは、いわば「窓口」にすぎないわけです。

 一方、SLMはコンパクトなので、スマホやPCに載っているプロセッサ、NPU、Neural EngineのようなAI処理用の回路でも動かしやすくなります。端末の中だけで処理できれば、インターネットにつながらない場所でも使えますし、入力した内容が端末の外に出ないのでプライバシーの面でも安心です。応答も、通信の待ち時間なしで返ってきます。冒頭の「オンデバイスAI」と相性がいいのは、まさにこうした小さなモデルというわけです(ただ、ケースによっては、SLMをクラウド上で動かしてコストを抑える、という使い方もあり「SLM=必ず端末内」というわけではないのですが……)。

 たとえるなら、LLMが「何でも調べてくれる遠くのサポートチーム」だとすれば、SLMは「いつもポケットに入っている職人さん」でしょうか。難しい相談にはちょっと頼りないところもあるのですが、そばにいて、すぐに答えてくれる。規模は小さくても、「手元にいる」ことに価値があるわけですね。

 とはいえ、気になるのは賢さです。小さくしてしまって、性能のほうは大丈夫なのでしょうか?

 もちろん、幅広い知識や複雑な推論では、SLMはLLMにかないません。ところが面白いことに、SLM搭載AIに何でもやらせるのではなく、翻訳や要約、文章の校正といった「特定のタスク」に絞って作業させれば、LLMと遜色ない結果を出せるケースもあるのです。

 じゃあ、なぜ小さいのにそこそこ賢いのか。ここで効いてくるのが、学習データの「質」です。Microsoftが「Phi」シリーズで示したように、教科書のような質の高いデータを厳選して学習させると、小さなモデルでも驚くほど賢くなることがわかってきました。「量より質」で鍛えれば、小さくても戦える。ここがSLMの面白いところなんですね。

実は、もうあなたのスマホの中にもいます……たぶん

「SLMなんて使ったことがない」と思うかもしれませんが、実はすでに多くの人のポケットの中で働いています。

 Appleの「Apple Intelligence」では、端末上で動く約30億パラメータの言語モデルが、メールの要約や文章校正、通知の優先順位づけをこなしています。GoogleはPixel向けに「Gemini Nano」という軽量モデルを用意し、オフラインでも動くAI機能を実現していますし、Samsungの「Galaxy AI」も、通話のリアルタイム翻訳など一部の機能を端末単体で処理しています。

 また、機密データを外部に送りたくない企業が、社内のPCやサーバーで小さなモデルを動かす、という使い方も広がりつつあります。社内文書をAIに参照させたいなら、【第8回】で解説したRAGと組み合わせる、というわけですね。

 ただ、そこまで賢いのではLLMはもういらないのでは? と思われるかもしれませんが、そうではありません。

 SLMは、パラメータ数が少ない分、幅広い分野の知識を網羅する力ではLLMに及びません。

 専門外の質問には的外れな答え……ハルシネーションを返してしまうこともあります。何段階も考えを積み重ねる高度な推論や、長い文脈を扱うタスクも、現時点ではLLMに分があります。それに、端末の上でAIを動かすとなると、バッテリー消費や発熱といった悩みもついてまわります。

 SLMとLLMは、どちらが優れているかではなく、役割が違うと考えるのが自然でしょう。日常の細々としたタスクは手元の小さなAIがさばき、難しい相談はクラウドの巨大なAIに任せる。そんな「使い分け」の時代が、もうすぐそこまで来ているのです。