İçeriğe geç
parazade
Yapay Zeka

Temellendirme (Grounding) Nedir?

İngilizce: Grounding

Yayın: · Son güncelleme:

Temellendirme (Grounding) Nedir? Kısaca

Temellendirme (grounding), bir yapay zekâ modelinin cevabını yalnızca eğitimde öğrendiklerine değil, belge, veri tabanı, arama sonucu gibi doğrulanabilir ve güncel kaynaklara dayandırmasıdır. Uydurma bilgiyi azaltmayı ve kaynak göstermeyi amaçlar.

Temellendirme nedir?
İçindekiler
  1. Neden gerekir?
  2. Nasıl yapılır?
  3. Örnek
  4. Sınırları

Temellendirme, bir dil modelinin "neye dayanarak" konuştuğunu belirli kaynaklara bağlama işidir. Model, cevap verirken önüne konan belgeleri ya da verileri esas alır ve mümkünse hangi bilgiyi nereden aldığını gösterir. Böylece cevaplar daha güncel, doğrulanabilir ve bağlama uygun hâle gelir.

Neden gerekir?

Dil modelleri eğitim verisindeki kalıplardan yola çıkarak akıcı metin üretir. Bilmedikleri bir konuda bile ikna edici ama yanlış cevaplar verebilirler; buna halüsinasyon denir. Ayrıca bilgi kesim tarihinden sonraki gelişmeleri bilmezler. Temellendirme, modeli güvenilir kaynaklara "bağlayarak" bu sorunları azaltır.

Nasıl yapılır?

  • RAG: Soruyla ilgili belgeler bir bilgi havuzundan bulunur ve modele bağlam olarak verilir.
  • Web araması: Güncel bilgiler için arama sonuçları kullanılır.
  • Yapılandırılmış veri: Hesap bakiyesi, ürün fiyatı gibi bilgiler veri tabanı ya da API'den çekilir.
  • Kaynak gösterimi: Model cevabındaki iddiaları ilgili belge parçasına bağlar.
  • Talimat: "Yalnızca verilen belgelere dayan; bilgi yoksa bilmediğini söyle" gibi kurallar konur.

Örnek

Varsayımsal bir sigorta şirketinin asistanı, "Poliçem deprem hasarını kapsıyor mu?" sorusunu genel bilgisinden değil, kullanıcının poliçe belgesinden cevaplar ve ilgili maddeyi gösterir. Belgede bilgi yoksa bunu açıkça söyler.

Sınırları

Temellendirme hatayı tamamen ortadan kaldırmaz. Yanlış ya da eski belge getirilirse cevap da yanlış olur. Model doğru belgeyi okuyup yanlış yorumlayabilir ya da kaynağı gösterip bilgiyi çarpıtabilir. Bu nedenle önemli kararlarda gösterilen kaynağı açıp kendin kontrol etmelisin. Temellendirmenin başarısı, düzenli model değerlendirme testleriyle ölçülmelidir.

Sıkça Sorulan Sorular

Temellendirme ile RAG aynı şey mi?

RAG, temellendirmenin en yaygın yöntemlerinden biridir ama tek yolu değildir. Web araması, veri tabanı sorguları ve araç çağırma da cevapları kaynaklara dayandırmak için kullanılır.

Kaynak gösteren yapay zekâ cevabı kesin doğru mudur?

Hayır. Model kaynağı yanlış yorumlayabilir ya da kaynakta olmayan bir bilgiyi ona atfedebilir. Önemli konularda kaynağı açıp ilgili bölümü kendin okumalısın.

İlgili terimler

RAG(Retrieval-Augmented Generation)RAG (Retrieval-Augmented Generation, erişimle zenginleştirilmiş üretim), bir dil modelinin soruyu cevaplamadan önce bir belge koleksiyonunda ilgili bölümleri bulup bu bölümlere dayanarak yanıt yazmasını sağlayan yöntemdir. Modeli yeniden eğitmeden kendi belgeleriniz hakkında soru sormanızı sağlar.Halüsinasyon(Hallucination)Yapay zekâ halüsinasyonu, bir dil modelinin gerçekte var olmayan ya da yanlış bir bilgiyi akıcı ve kendinden emin bir dille doğruymuş gibi sunmasıdır. Uydurma kaynaklar, hatalı rakamlar ve var olmayan özellikler en sık görülen örneklerdir.Bilgi Kesim Tarihi(Knowledge Cutoff)Bilgi kesim tarihi (knowledge cutoff), bir dil modelinin eğitim verisinin kapsadığı son tarihtir. Model bu tarihten sonra yaşanan olaylar, değişen oranlar ya da yeni düzenlemeler hakkında, dış kaynağa bağlanmadıkça bilgi sahibi değildir.Vektör Veritabanı(Vector Database)Vektör veritabanı, metin, görsel ya da ses gibi verilerin anlamını temsil eden sayısal vektörleri (embedding) saklayan ve bunlar arasında benzerlik araması yapmak için optimize edilmiş veri tabanı türüdür.Poliçe(Insurance Policy)Poliçe, sigorta sözleşmesinin varlığını ve şartlarını gösteren, sigorta şirketinin düzenleyip sigorta ettirene verdiği belgedir. Teminatlar, prim, süre, muafiyet ve istisnalar poliçede yazılıdır.Model Değerlendirme(Model Evaluation)Model değerlendirme (model evaluation), bir yapay zekâ modelinin belirli bir görevdeki başarısını, güvenilirliğini, adaletini ve güvenliğini; test verileri, metrikler, karşılaştırma testleri ve insan incelemesiyle ölçme sürecidir.