RAG Nedir? Küçük İşletme İçin Belge Asistanı Kurmanın Yolu

Dil modelleri genel bilgiyle eğitilir; sizin fiyat listenizi, iade politikanızı ya da geçen yılki toplantı notlarınızı bilmez. RAG (Retrieval-Augmented Generation), soruyla ilgili belgeleri önce bulup sonra modele "bu metinlere dayanarak cevapla" demenin adı. Modeli yeniden eğitmeden, kendi verinizle konuşan bir asistan kurmanın en pratik yolu.

Nasıl çalışır

1. Belgeler parçalara bölünür (genellikle birkaç yüz kelimelik bloklar).
2. Her parça, anlamını sayısal bir vektöre çeviren bir embedding modelinden geçirilir ve vektör veritabanına yazılır.
3. Kullanıcı soru sorduğunda soru da vektöre çevrilir; en yakın parçalar bulunur.
4. Bulunan parçalar ve soru birlikte dil modeline verilir; model bu bağlama dayanarak cevap yazar ve kaynağı gösterebilir.

Ne işe yarar

• Müşteri hizmetleri: ürün kılavuzları ve sık sorulan sorulardan otomatik cevap.
• İç bilgi tabanı: prosedürler, sözleşmeler, geçmiş yazışmalar üzerinden arama.
• Hukuk ve muhasebe: uzun belgelerde ilgili maddeyi bulma.
• Destek ekipleri: yeni çalışanın yüzlerce sayfayı okumadan cevap bulması.

Nerede hata yapar

RAG'ın en sık sorunu yanlış parçayı getirmek. Belge kötü bölünmüşse ya da soru belgedeki kelimelerle örtüşmüyorsa model alakasız bağlamla cevap üretir ve bunu güvenle söyler. İkinci sorun tablolar ve görseller: PDF içindeki tabloyu düz metne çevirmek satırları karıştırır. Üçüncüsü güncellik: belge değişince vektörlerin yeniden üretilmesi gerekir; bunu unutmak eski bilgiyle cevap almak demek.

Basit bir mimari

Küçük bir işletme için karmaşık altyapı gerekmez:

• Belgeler: bir klasördeki PDF, Word ve metin dosyaları.
• Embedding: açık bir model (ör. çok dilli bge veya e5 aileleri) ya da bir bulut API'si. Türkçe için çok dilli model şart.
• Vektör veritabanı: birkaç bin belge için SQLite eklentisi veya Chroma yeterli; milyonlarca parça için Qdrant, Weaviate veya pgvector.
• Dil modeli: yerel (Ollama ile Qwen) veya bulut API'si.
• Arayüz: Open WebUI, AnythingLLM gibi hazır araçlar bu zinciri tek kurulumda sunar.

Kaliteyi artıran ayarlar

• Parça boyutu: çok küçük parça bağlamı koparır, çok büyük parça gürültü ekler. 300-600 kelime ve parçalar arasında örtüşme iyi bir başlangıç.
• Hibrit arama: vektör aramasına klasik anahtar kelime aramasını eklemek, özel isim ve kod numarası içeren sorularda isabeti belirgin artırır.
• Yeniden sıralama: bulunan 20 parçayı bir reranker modelle sıralayıp en iyi 5'ini vermek, cevap kalitesini en çok artıran tek adım.
• Kaynak gösterme: modele hangi parçaya dayandığını belirtmesini söyleyin; kullanıcı kontrol edebilsin.
• Bilmiyorum demeyi öğretin: bağlamda cevap yoksa uydurmak yerine "bu bilgi belgelerde yok" demesini sistem mesajına yazın.

Gizlilik

Belgeler hassassa embedding ve dil modelini yerelde çalıştırın; bulut API'sine yalnızca anonimleştirilmiş veri gönderin. Bulut kullanacaksanız sağlayıcının veriyi eğitimde kullanmadığını yazılı olarak teyit edin.