小規模言語モデル（SLM）とは。LLMとの違い・代表モデル・向く用途を解説

「小規模言語モデル（SLM）という言葉を最近よく聞くが、ChatGPTのようなLLMと何が違い、自社でどう使えるのかが分からない」という方も多いでしょう。しかし、クラウドの大規模モデルは便利な一方で、機密データを外部に送る不安やAPI利用料の負担がついて回ります。そこで本記事では、

• SLM（小規模言語モデル）とは何か
• LLMとの違い（規模・コスト・速度・精度）とメリット
• 代表的なSLMと、向く用途・向かない用途
• 業務での使いどころと自社環境での動かし方

についてわかりやすく解説します。社内でのAI活用を検討している方は、ぜひ最後までご覧ください。

自社データを外部に出さずにAIを使いたいという方はリベルクラフトへご相談ください。 ⇨リベルクラフトのローカルAI環境構築支援の詳細はこちら

小規模言語モデル（SLM）とは

SLM（Small Language Model）とは、パラメータ数を数億〜十数億程度に抑えた軽量な言語モデルを指します。テキストの理解や生成といった自然言語処理を、大規模モデルよりも少ない計算リソースで実行できるように設計されています(参考：Microsoft Azure「小規模言語モデル（SLM）とは？」)。

パラメータとは、モデルが学習を通じて獲得する内部の重みの数で、モデルの規模を表す代表的な指標です。数が大きいほど表現力は高まりますが、そのぶん動かすためのメモリや計算能力も必要になります。

明確な線引きが決まっているわけではありませんが、2026年時点ではおおむね14B（billion＝10億）以下をSLM、70B以上をLLM（Large Language Model：大規模言語モデル）と呼び分ける見方が広がっています。SLMは「小さいから性能が低い」ものではなく、「限られたハードウェアでも動かせるように設計された実用モデル」と捉えると分かりやすくなります。

SLMがこれほど注目されるようになった背景には、クラウドのLLMを使い続けるコストと運用負荷が積み上がってきたことがあります。加えて、スマートフォンやPCの中だけで完結する「オンデバイスAI」の実用性が高まり、AIエージェントが定型タスクを自律的にこなす際の”小回りの利く頭脳”としてSLMを組み込む動きも広がっています。クラウドの大規模モデル一本足から、用途に応じて軽量モデルを使い分ける方向へ、企業のAI活用の重心が移りつつある段階だといえます。

SLMとLLMの違い

前述のとおりSLMとLLMはパラメータ規模で区別されますが、違いは規模だけにとどまりません。実際に使ううえで効いてくるのは、コスト・速度・精度・動かせる場所という4つの観点です。

まず、代表的な違いを表で整理します。

観点	SLM（小規模言語モデル）	LLM（大規模言語モデル）
パラメータ規模	数億〜十数B程度	数百億〜数兆
動かす場所	ノートPC・オンプレサーバー・スマホ等で動作可能	高性能GPUやクラウド基盤が前提
コスト	自社環境で動かせば利用量に応じた課金が発生しない	API従量課金や大規模GPUの費用がかかる
応答速度	手元で動くため低遅延になりやすい	ネットワーク経由のため遅延が生じやすい
精度・汎用性	特定タスクに絞れば十分な精度、汎用的な難問は苦手	幅広いタスクに高い精度で対応

表のとおり、LLMは「何でも高精度でこなせる代わりに、動かすコストと環境の負担が大きい」モデルです。一方でSLMは「用途を絞れば、手元の身近なハードウェアで低コスト・低遅延に動かせる」モデルです。どちらが優れているという話ではなく、目的に合わせて選び分けるものだと考えると整理しやすくなります。

SLMのメリット

LLMとの違いを踏まえると、SLMには業務利用の観点で見逃せないメリットがあります。ここでは代表的な4点を挙げます。

1つ目は、ローカル環境やオンプレミス、オンデバイスで動かせる点です。SLMは必要なメモリが小さいため、社内サーバーや手元のPC、さらにはスマートフォンの中だけで動かすことも現実的になっています。例えばGoogleの最新モデル「Gemma 4」の軽量版（E2B・E4B）は、スマートフォンやRaspberry Pi等の端末上でオフラインのまま動作させることを想定して設計されています(参考：Google Developers Blog「Gemma 4」)。

2つ目は、コストを抑えやすい点です。クラウドのLLMは利用量に応じたAPI課金が積み上がりますが、SLMを自社環境で動かせば、利用のたびに課金が発生する構造から抜け出せます。

3つ目は、応答が速い点です。手元やオンプレで完結するため、クラウドへの通信を待つ必要がなく、低遅延の応答が期待できます。

4つ目は、機密データを外部に出さずに扱える点です。データが自社のネットワーク内から出ないため、社外秘の資料や個人情報を含む業務でも、情報漏洩のリスクを抑えながら生成AIを使えます。この点は、外部送信に制約がある企業にとって特に大きな利点になります。

代表的なSLM

メリットを理解したところで、実際にどのようなSLMがあるのかを見ていきます。ここでは、オープンに公開され、企業でも扱いやすい代表的なモデルを紹介します。仕様は各モデルの公式情報に基づきます。

モデル	開発元	主なサイズ	特徴
Phi-4-mini	Microsoft	3.8B	推論・指示追従に強く、メモリや計算が限られた環境向けに設計。文脈長は128Kトークン
Gemma 4	Google	E2B・E4B・26B（MoE）・31B	E2B/E4Bはスマートフォンやエッジ端末向けの省メモリ設計。オフラインでの動作を想定し、140以上の言語に対応
Llama 3.2（軽量版）	Meta	1B・3B	エッジ・モバイル端末での動作を想定。Arm・Qualcomm・MediaTek等のハードに対応
Qwen3.5（小型シリーズ）	Alibaba	0.8B・2B・4B・9B	Apache 2.0ライセンスで商用利用可。用途に応じてサイズを選びやすい

Microsoftの「Phi-4-mini」は、3.8Bパラメータながら推論性能を重視して設計されたモデルです(参考：Microsoft「Phi-4-mini-instruct」（Hugging Face）)。Googleの「Gemma 4」は2026年4月に発表された最新世代で、最も軽量なE2B・E4Bはスマートフォンやオフライン環境での動作を想定して設計されています(参考：Google「Gemma 4」公式ブログ)。

Metaの「Llama 3.2」の1B・3Bモデルは、スマートフォンなどのエッジ端末での動作を明確に狙って公開されました(参考：Meta「Llama 3.2」)。Alibabaの最新モデル「Qwen3.5」は0.8Bから複数のサイズが用意され、商用にも使いやすいApache 2.0ライセンスで公開されています(参考：Alibaba Cloud「Qwen3.5」公式ブログ)。いずれも自社環境に取り込んで使える点が共通しています。

ここまで小規模言語モデルについて解説しましたが、「自社のデータを外に出さずに、こうしたSLMを社内で動かせる環境を整えたい」という方は、リベルクラフトへご相談ください。

リベルクラフトでは、Phi・Gemma・Qwenといったオープンなモデルを自社サーバー内で動かすローカルAI基盤の構築が可能です。ただ動かすだけでなく、社内文書を検索して回答に反映するRAGの仕組みや、インターネットに接続しない閉域構成まで設計できるため、機密性の高い業務でも安心して使える環境が実現できます。

以下のリンクからまずは詳細をチェックしてみてください。

⇨リベルクラフトのローカルAI環境構築支援の詳細はこちら

SLMが向く用途・向かない用途

代表的なモデルを押さえたうえで、次に気になるのは「どんな業務に使えて、どんな業務には向かないのか」という点でしょう。SLMは万能ではないため、得意な領域を見極めて使うことが重要になります。

向き・不向きを表で整理します。

	向く用途	向かない用途
タスクの性質	要約・分類・定型文の生成など範囲が定まった処理	高度な専門知識を横断する複雑な推論
データの扱い	社外に出せない機密データを含む処理	最新の一般知識をそのまま幅広く問い合わせる用途
実行環境	オフラインやオンプレで完結させたい業務	常に最高水準の汎用性能を求める用途

SLMは、目的が明確で処理の範囲が定まっているタスクで力を発揮します。例えば、問い合わせメールの分類、社内マニュアルの要約、定型的な報告文の作成といった業務です。一方で、幅広い分野をまたいだ高度な推論や、常に最新の一般知識を必要とする用途では、大規模なLLMのほうが適しています。特定の用途に絞って使い、必要に応じて自社データで調整することが、SLMを生かす基本的な考え方になります。

業務でのSLMの使いどころ

向き・不向きを踏まえると、SLMは業務のどこに組み込むと効果が出やすいのかが見えてきます。ここでは具体的な使いどころを整理します。

1つ目は、社内ナレッジの検索と要約です。就業規則や製品マニュアル、過去の対応履歴といった社内文書をSLMと組み合わせ、「知りたいことを質問すると、社内資料に基づいて回答する」仕組みが作れます。文書が社外に出ないため、機密性の高い資料でも扱いやすくなります。

2つ目は、定型業務の下書き作成です。例えば、問い合わせへの一次回答案、日報や議事録の要約、メールの文面のたたき台などを生成し、人が最終確認する運用にすると、作業時間を圧縮できます。

3つ目は、大量テキストの分類と振り分けです。問い合わせ内容のカテゴリ判定や、アンケート自由記述の仕分けなど、範囲が定まった判断を繰り返す業務はSLMと相性が良い領域です。

いずれも「範囲を絞ったタスクを、機密を守りながら手元で回す」という使い方が共通しています。まずは効果の見えやすい1つの業務から始め、成果を確認しながら対象を広げていくと、無理なく定着させられます。

SLMを自社環境で動かす

最後に、SLMを実際に自社環境で動かすときの進め方を整理します。いきなり大規模な基盤を作るのではなく、段階的に広げていくのが現実的です。

第1段階は、端末1台でのスモールスタートです。まずは1台のPCやサーバーにSLMを導入し、社内文書の要約や検索といった特定の業務で試します。小さく始めることで、効果と課題を早い段階で把握できます。

第2段階は、オンプレのAI基盤の構築です。試した業務で手応えが得られたら、社内サーバーにGPUを備えたAI基盤を用意し、複数の部署やユーザーが使える環境に広げます。この段階で、社内文書を検索して回答に反映するRAGの仕組みを組み込むと、自社に固有の情報にも答えられるようになります。

第3段階は、自社専用AIへの調整です。用途がさらに固まってきたら、自社データを使ったファインチューニング（追加学習によるモデルの微調整）で、業務に合わせた応答精度を高めていきます。

動かすためのハードウェアとしては、48GB級のGPUとDDR5メモリを備えたオンプレGPUサーバーが1つの構成例になります。1顧客あたりの初期費用の目安は100〜200万円規模ですが、要件によって変わるため、目安として捉えてください。自前で構築するには、モデル選定やインフラ設計、セキュリティ整備まで幅広い知識が必要になるため、専門家の支援を受けながら進めると失敗を避けやすくなります。

まとめ

本記事の要点を整理します。

• SLM（小規模言語モデル）とは、パラメータ数を数億〜十数B程度に抑えた軽量な言語モデルで、少ない計算リソースで動かせるように設計されています。
• LLMとの違いは規模だけでなく、コスト・速度・精度・動かせる場所に及び、SLMは用途を絞れば手元のハードウェアで低コスト・低遅延に動かせます。
• ローカルやオンプレ、オンデバイスで動くため、機密データを外部に出さずにAIを使える点が業務利用の大きなメリットです。
• Phi・Gemma・Llama・Qwenなど、企業でも扱いやすいオープンなSLMが公開されています。
• 要約・分類・定型文生成など範囲の定まった業務に向き、複雑な推論や最新の一般知識を要する用途はLLMが適しています。
• 自社環境での導入は、端末1台のスモールスタート、オンプレAI基盤、自社専用AIへの調整と段階的に進めるのが現実的です。

小規模言語モデル・ローカルAI活用の相談は「リベルクラフト」

SLMを業務で成果につなげるには、モデル選定からインフラ設計、社内データの整備、セキュリティ対策まで、幅広い専門知識と経験が求められます。

リベルクラフトでは、SLMを使ったローカルAI環境を、作って終わりにせず運用・改善まで一貫して支援します。社内データの整理から、動かす基盤の設計、社内システムへのつなぎ込み、インターネットに接続しない閉域構成やセキュリティ整備まで、お客様の業務に合わせて進めます。

• 機密データを外部に出さず、社内サーバー内でAIを動かしたい
• 自社の文書やマニュアルに基づいて回答するAIを社内に整えたい
• どのモデルをどのハードウェアで動かせばよいか、構成から相談したい

⇨リベルクラフトのローカルAI環境構築支援の詳細はこちら