Small Language Model (SLM)
Küçük dil modeli
Birkaç yüz milyon ile yaklaşık 10 milyar arası parametreye sahip, dizüstü bilgisayarda, telefonda ya da tek bir GPU'da çalışabilecek kadar küçük tutulmuş dil modeli. Evrensel bir boyut eşiği yoktur; 'küçük' kelimesi pratik bir kullanım etiketidir.
Small Language Model (SLM), büyük dil modelleriyle (LLM) aynı mimari ailesinden gelen ama bilinçli olarak küçük tutulmuş bir dil modelidir. Amaç her şeyi bilen bir asistan değil; belirli işleri ucuz, hızlı ve yerelde yapabilen bir modeldir.
"Küçük" için herkesin kabul ettiği bir sınır yok. NVIDIA Research'ün 2025 tarihli "Small Language Models are the Future of Agentic AI" makalesi işlevsel bir tanım kullanır: yaygın bir tüketici cihazına sığan ve tek bir kullanıcının isteklerine pratik gecikmeyle cevap verebilen model. Yazarlar ayrıca "10 milyar parametrenin altındaki çoğu modeli" SLM saymaya hazır olduklarını not eder. Sektörde de pratikte ~0,1B–10B aralığı SLM olarak anılıyor; 12–14B modeller bazen "küçük", bazen "orta" diye etiketleniyor.
2026'da öne çıkan açık ağırlıklı aileler arasında Google Gemma 4 (E2B, E4B), Alibaba Qwen3.5 (0.8B–9B), Mistral Ministral 3 (3B, 8B, 14B), IBM Granite 4.2 (3B, 8B), Microsoft Phi-4-mini (3.8B), Hugging Face SmolLM3 (3B) ve Liquid AI LFM2.5 var. Bunların çoğu distillation, sentetik veri ve quantization gibi tekniklerle büyük modellere göre çok daha az parametreyle iş görür hale getiriliyor.
Büyük bir hastanenin bütün bölümleri ile mahalledeki aile hekimi arasındaki fark gibi. Aile hekimi her ameliyatı yapamaz ama günlük vakaların çoğunu hızlıca, sıra beklemeden ve ucuza çözer; emin olmadığı vakayı da hastaneye sevk eder.
SLM aile hekimidir: cihazının yanı başında durur, rutin işleri saniyeler içinde halleder. Zor vakalar için kapıda büyük model (hastane) bekler.
Bir not alma uygulaması, kullanıcı notlarını özetlemek ve etiketlemek istiyor. Notlar kişisel olduğu için buluta gönderilmesi istenmiyor. Ekip, 4-bit quantize edilmiş bir 2–4B modeli doğrudan dizüstü bilgisayarda ve telefonda çalıştırıyor: özetleme ve etiketleme çevrimdışı çalışıyor, istek başına API ücreti yok.
Kullanıcı "son üç ayın notlarından bir proje planı çıkar" gibi uzun ve zor bir şey istediğinde ise uygulama, kullanıcı onay verirse isteği bulutta çalışan büyük bir modele devrediyor. Rutin iş küçük modelde, zor iş büyük modelde.
# Etiketler ollama.com/library sayfalarından (Ekim 2026)
ollama run gemma4:e2b "Bu cümleyi tek kelimeyle sınıflandır: 'Kargom hâlâ gelmedi.'"
ollama run qwen3.5:4b
ollama run ministral-3:3b# pip install transformers torch
from transformers import pipeline
chat = pipeline("text-generation", model="HuggingFaceTB/SmolLM3-3B")
messages = [
{"role": "system", "content": "/no_think"}, # SmolLM3'te düşünme modunu kapatır
{"role": "user", "content": "Kuantizasyonu tek cümleyle açıkla."},
]
out = chat(messages, max_new_tokens=120)
print(out[0]["generated_text"][-1]["content"])- Verinin cihazdan çıkmaması gereken işler: kişisel notlar, sağlık ya da hukuk belgeleri, kurum içi veri
- Gecikmenin kritik olduğu yerler: otomatik tamamlama, sesli asistan, gerçek zamanlı sınıflandırma
- Çevrimdışı ya da zayıf bağlantılı ortamlar: saha uygulamaları, gömülü cihazlar, uçak modu
- Çok sayıda tekrarlı, dar görev: etiketleme, bilgi çıkarma, yönlendirme, ajan içindeki araç çağrıları
- Kendi verinle LoRA fine-tuning yapıp ucuza servis etmek istediğin özel görevler
- Geniş dünya bilgisi gerektiren açık uçlu sorular — küçük modeller daha az bilgi ezberler ve daha kolay uydurur
- Uzun, çok adımlı akıl yürütme, zor matematik ya da büyük kod tabanında kod üretimi
- Görev tanımı belirsiz ve her gün değişiyorsa — genel amaçlı büyük model daha esnek
- Trafiğin az olduğu yerler: ayda birkaç yüz istek için yerel altyapı kurmak, bir API çağrısından pahalıya gelebilir
Parametre sayısını tek ölçü sanmak
Gemma 4 E2B'nin model kartı 2,3B 'etkili' ama gömmelerle birlikte 5,1B toplam parametre bildiriyor. Bellek ihtiyacı toplam ağırlıklara, quantization seviyesine ve bağlam uzunluğuna (KV cache) bağlı; sadece adındaki sayıya bakarak donanım seçme.
Benchmark tablosuna güvenmek
Model kartlarındaki skorların neredeyse tamamı üreticinin kendi ölçümü ve genel benchmark'lar. Küçük modeller arasındaki fark asıl kendi görevinde ortaya çıkar; 50–200 örneklik kendi değerlendirme setini kur.
Lisansı okumamak
Açık ağırlık, sınırsız ticari kullanım demek değil. Qwen3.5, Gemma 4, Ministral 3, Granite 4.2 ve SmolLM3 Apache 2.0; Phi-4-mini MIT. Llama 3.2 kendi topluluk lisansıyla, LFM2.5 ise yıllık geliri 10 milyon doları aşan şirketlerin ticari kullanımını sınırlayan LFM Open License v1.0 ile geliyor.
Türkçe performansını varsaymak
Bazı model kartları Türkçeyi açıkça listeler (ör. Phi-4-mini), bazıları listelemez. Küçük modellerde dil desteği büyük modellere göre daha kırılgandır; Türkçe kullanacaksan kendi Türkçe örneklerinle test et.
Agresif quantization'ı ücretsiz sanmak
4-bit genellikle iyi bir denge, ama 2–3 bit ve çok küçük modeller birleşince kalite hızla düşebilir. Quantize ettiğin sürümü, orijinal sürümle aynı değerlendirme setinde karşılaştır.