1　小規模言語モデル

（1）　概要

ア　定義

小規模言語モデル（SLM：Small Language Model）については、一般に、大規模言語モデル（LLM）と比較してパラメータ数が小さいモデルとされるが、その規模感については幅があり、厳密な定義は統一されていない状況である。海外におけるSLMのベンチマークに関する研究論文では、パラメータ数が70億以下のモデルをSLMとして取り扱っている一方で1、IBMはSLMのパラメータ数について数十〜数百億程度としており2、また、人工知能学会の論文においては、140億パラメータ以下のモデルをSLMとして扱う事例も存在する3。本節では、おおよそパラメータ数が百億程度までのモデルをSLMとして取り扱う。

イ　特徴

SLMはLLMと比べ、パラメータ数が少なく、LLMを利用した効率的な学習なども用いられているほか、カスタマイズが容易である。また、特定分野に限定した学習をさせることで、軽量で特定分野に高い精度をもつモデルの構築も行われている。さらに、計算量が抑えられていることから、計算資源や消費電力の制約がある環境でも利用可能であり、エッジデバイス上での実行に適している。エッジデバイスでの利用は通信を必要としないため、個人情報などプライバシーの保護やセキュリティの観点でも期待が集まっている45。

一方で、パラメータ数が少ないことで、知識のカバー範囲や複雑な推論能力には限界があるとされており、汎用的な知識や高度な推論が求められる用途においては、SLM単体での対応には限界がある。そのため、実務においては検索拡張生成（RAG）を用いた外部知識の活用や、LLMとSLMを組み合わせた構成が有効なアプローチとして整理されている6。

国立情報学研究所の佐藤一郎教授7は、SLMの発展について、当初LLMが性能を重視して開発されてきたが、現在はデータ量などを減らせることがわかり、小型化の技術が非常に進んでいるという。また、SLMの技術発展に伴い、スマートフォンやタブレットといったデバイスでは、デバイス上で利用可能なSLMの性能の限界から、ユーザーが満足する性能を実現できるか不確実なため、SLMの利用が必須にはならないが、デバイスとしてのパソコンは、スマートフォンやタブレットとの差別化のためにSLMが動くことが必須となってくる可能性があり、SLMが動く必要があるデバイスとそうでないデバイスで二極化が進むと指摘している。

1　Pham, N. T. et al. （2025）“SLM-Bench: A Comprehensive Benchmark of Small Language Models on Environmental Impacts.” （Association for Computational Linguistics 『Findings of the Association for Computational Linguistics』EMNLP 2025 pp. 21369-21392）

2　Rina Diane Caballar「小規模言語モデルとは」〈https://www.ibm.com/jp-ja/think/topics/small-language-models〉（2026年1月30日参照）

3　杉山 弘晃（2025）「小規模な言語モデルに関する研究開発の動向」（『人工知能』40（3）, 328-336, 人工知能学会）

4　黒田 康浩, 小澤 佑介, 鈴木 文晴（2025）「小規模な言語モデルに関する研究開発の動向」（『人工知能』40（3）, 319-327, 人工知能学会）

5　日高 雅俊（2025）「エンドユーザデバイスにおける AIの推論・学習」（『人工知能』40（3）, 311-318, 人工知能学会）

6　脚注4に同じ。

7　国立情報学研究所 佐藤一郎教授へのヒアリングに基づく。

第2節　最近の研究開発・社会実装動向（PDFファイル（7.63MB））