Açık Ağırlıklı Dil Modelleri Rehberi: Llama, Qwen, DeepSeek, Mistral ve Gemma Hangi İşte İyi?

"Açık kaynak" yerine "açık ağırlıklı" demek daha doğru: bu modellerin ağırlık dosyaları indirilebilir ve kendi donanımınızda çalıştırılabilir, ancak eğitim verisi ve süreci genellikle kapalıdır. Beş büyük aile var ve her birinin karakteri farklı.

Llama (Meta)

Ekosistemin en geniş olduğu aile. Neredeyse her araç, her kütüphane önce Llama'yı destekler. İngilizce'de güçlü, Türkçe'de orta. Lisansı ticari kullanıma izin verir ancak çok büyük kullanıcı sayısı için ek koşullar içerir; kurumsal kullanımda lisans metnini okumak gerekir.

Qwen (Alibaba)

Çok dilli performansta açık modellerin en iyilerinden; Türkçe dahil onlarca dilde tutarlı. Küçükten büyüğe geniş bir boyut yelpazesi sunar, kod ve matematik sürümleri ayrıca yayınlanır. Aynı boyuttaki rakiplerine göre Türkçe metin üretiminde genellikle daha doğal sonuç verir. Apache lisansı ticari kullanımı rahatlatır.

DeepSeek

Uzman karışımı (MoE) mimarisiyle çok büyük ama verimli modeller. R1 serisi, uzun düşünme adımlarıyla akıl yürütme görevlerinde kapalı modellerle yarışır. Tam sürümler yalnızca sunucu sınıfı donanımda çalışır; küçük bilgisayarlar için damıtılmış (distilled) sürümleri vardır. Veri gizliliği konusunda hassas kurumlar bulut API'si yerine yerel kurulumu tercih ediyor.

Mistral

Avrupa merkezli, verimlilik odaklı. Orta boy modelleri düşük gecikme ile çalışır, kod ve fonksiyon çağırma gibi ajan görevlerinde tutarlı. Bazı modelleri araştırma lisansıyla gelir; ticari kullanım için sürüme göre kontrol edilmelidir.

Gemma (Google)

Küçük ve orta boyutta güçlü. Tek ekran kartında ya da güçlü bir dizüstünde rahat çalışır, görsel anlama yeteneği olan sürümleri var. Mobil ve uç cihazlar için tasarlanmış hafif türevleri de mevcut. Google'ın kendi lisans koşullarına tabidir.

Boyut seçimi

Parametre	Donanım	Uygun iş
1-4 milyar	Telefon, 8 GB RAM dizüstü	Sınıflandırma, kısa özet, basit sohbet
7-9 milyar	8-12 GB ekran kartı	Genel asistan, belge soru-cevap, e-posta
14-32 milyar	16-24 GB ekran kartı	Kod yardımı, uzun metin, çok dilli işler
70 milyar ve üzeri	Çoklu kart veya sunucu	Kapalı modellere yakın genel kalite

Nicemleme: kaliteyi düşürmeden küçültmek

Modeller 16 bit hassasiyetle yayınlanır; 8 bit ve 4 bit nicemlenmiş sürümler belleği yarıya ve çeyreğe indirir. 4 bit sürümlerde kalite kaybı çoğu işte fark edilmez, ancak matematik ve kodda hata oranı biraz artar. Bellek yetiyorsa 8 bit, yetmiyorsa 4 bit tercih etmek makul bir kural.

Seçim için kısa yol

Türkçe ağırlıklı iş için Qwen ile başlayın. Kod için Qwen Coder veya DeepSeek türevleri. En geniş araç desteği için Llama. Tek kartta hızlı asistan için Gemma veya Mistral. Sonra kendi verinizle 20 örneklik bir test yapın; aileler arası farklar kâğıt üzerindekinden daha küçük, sizin verinizdeki fark ise daha büyük çıkar.