İçeriğe geç
parazade
Yapay Zeka

RAG Nedir?

İngilizce: Retrieval-Augmented Generation

Yayın: · Son güncelleme:

RAG Nedir? Kısaca

RAG (Retrieval-Augmented Generation, erişimle zenginleştirilmiş üretim), bir dil modelinin soruyu cevaplamadan önce bir belge koleksiyonunda ilgili bölümleri bulup bu bölümlere dayanarak yanıt yazmasını sağlayan yöntemdir. Modeli yeniden eğitmeden kendi belgeleriniz hakkında soru sormanızı sağlar.

RAG nedir?
İçindekiler
  1. RAG nedir?
  2. Nasıl çalışır?
  3. Avantajları
  4. Sınırları

RAG nedir?

Dil modelleri yalnızca eğitim sırasında öğrendikleri bilgilere sahiptir; şirket içi belgelerinizi, sözleşmelerinizi ya da notlarınızı bilmezler. RAG bu sorunu modeli yeniden eğitmeden çözer: soru geldiğinde önce ilgili belge parçaları bulunur, ardından bu parçalar soruyla birlikte modele verilir ve model cevabını bu metinlere bakarak oluşturur.

Nasıl çalışır?

  1. Belgeleri hazırlama: Belgeler küçük parçalara bölünür.
  2. Embedding üretme: Her parça, anlamını temsil eden sayısal bir vektöre (embedding) dönüştürülür ve bir vektör veri tabanında saklanır.
  3. Arama: Kullanıcının sorusu da vektöre çevrilir ve anlamca en yakın belge parçaları bulunur.
  4. Cevap üretme: Bulunan parçalar soruyla birlikte dil modeline gönderilir; model cevabı bu bağlama dayanarak yazar.

Avantajları

  • Modeli yeniden eğitmek gerekmez; belge eklemek ya da çıkarmak yeterlidir.
  • Cevabın hangi belgeden geldiği gösterilebilir, bu da doğrulamayı kolaylaştırır.
  • Bilgi güncellendiğinde yalnızca belgeler güncellenir.
  • Yerel bir modelle kurulduğunda belgeler bilgisayardan dışarı çıkmaz.

Sınırları

RAG'in başarısı büyük ölçüde arama adımına bağlıdır. İlgili bölüm bulunamazsa model eksik ya da yanlış cevap verebilir. Taranmış ve metni seçilemeyen PDF'ler önce metne dönüştürülmelidir. Ayrıca bulunan parçaların toplamı modelin bağlam penceresine sığmak zorundadır. Önemli işlerde cevabın dayandığı kaynağın kontrol edilmesi önerilir.

Sıkça Sorulan Sorular

RAG ile model eğitimi arasındaki fark nedir?

Eğitimde modelin ağırlıkları değiştirilir; RAG'de model değişmez, yalnızca soru anında ilgili belgeler modele bağlam olarak verilir. Bu yüzden RAG daha hızlı kurulur ve belgeler kolayca güncellenir.

RAG kurmak için hangi araçlar kullanılabilir?

Open WebUI ve AnythingLLM gibi uygulamalar, belgeleri yükleyip yerel bir dil modeliyle soru sormayı kod yazmadan sağlar. Geliştiriciler ise bu yapıyı kütüphanelerle kendi uygulamalarına ekleyebilir.

İlgili terimler

EmbeddingEmbedding, bir kelimenin, cümlenin, belgenin ya da görselin anlamını sayılardan oluşan bir vektörle temsil etme yöntemidir. Anlamca birbirine yakın içeriklerin vektörleri de birbirine yakın olduğu için anlamsal arama ve RAG sistemlerinin temelini oluşturur.Bağlam Penceresi(Context Window)Bağlam penceresi (context window), bir dil modelinin tek seferde dikkate alabildiği en fazla metin miktarıdır ve token cinsinden ölçülür. Konuşma geçmişi, yüklenen belgeler ve modelin cevabı bu sınırın içine sığmak zorundadır.Halüsinasyon(Hallucination)Yapay zekâ halüsinasyonu, bir dil modelinin gerçekte var olmayan ya da yanlış bir bilgiyi akıcı ve kendinden emin bir dille doğruymuş gibi sunmasıdır. Uydurma kaynaklar, hatalı rakamlar ve var olmayan özellikler en sık görülen örneklerdir.Büyük Dil Modeli(Large Language Model)Büyük dil modeli (LLM), çok büyük miktarda metinle eğitilen ve bir metnin devamında hangi parçanın geleceğini tahmin ederek yazı üreten yapay zekâ modelidir. Sohbet asistanları, kod yardımcıları ve özetleme araçlarının temelinde bu modeller bulunur.Görüntü Tanıma(Image Recognition)Görüntü tanıma (image recognition), bir yapay zekâ sisteminin fotoğraf ya da videodaki nesneleri, yüzleri, hayvanları, yazıları veya sahneleri tespit edip tanımlamasıdır. Bilgisayarlı görünün temel görevlerinden biridir.Yapay Zekâ Okuryazarlığı(AI Literacy)Yapay zekâ okuryazarlığı (AI literacy), yapay zekânın temel olarak nasıl çalıştığını anlama, araçları amaca uygun ve güvenli biçimde kullanma, çıktılarını eleştirel değerlendirme ve etik riskleri fark etme becerilerinin bütünüdür.

İlgili yazılar

Yapay Zeka ile Kazanç

Kendi Bilgisayarında Ücretsiz Yapay Zekâ Sistemi Kur: Ekran Kartı, İşlemci ve RAM ile Adım Adım

Kendi bilgisayarında ücretsiz ve limitsiz bir yapay zekâ sistemi kurmak mümkün: Ollama ya da LM Studio ile dil modeli, Continue ile kod asistanı, ComfyUI ya da Forge ile görsel üretim. Belirleyici olan ekran kartının belleğidir (VRAM); 8 GB'lık kartta 7-8B modeller rahat çalışır, kart yoksa işlemci ve RAM ile daha yavaş çalışır.

· 30 dk okuma