İçeriğe geç
parazade
Yapay Zeka

Bağlam İçi Öğrenme Nedir?

İngilizce: In-Context Learning

Yayın: · Son güncelleme:

Bağlam İçi Öğrenme Nedir? Kısaca

Bağlam içi öğrenme (in-context learning), bir dil modelinin hiçbir ağırlığı güncellenmeden, yalnızca prompt içinde verilen talimat ve örneklerden yeni bir görevin nasıl yapılacağını çıkarıp uygulayabilmesi yeteneğidir.

Bağlam İçi Öğrenme nedir?
İçindekiler
  1. Bağlam içi öğrenme nedir?
  2. Türleri
  3. Nelere dikkat etmeli?

Bağlam içi öğrenme, 2020'de yayımlanan ve büyük bir dil modelinin birkaç örnekle pek çok görevi yapabildiğini gösteren çalışmayla geniş kitlelerin gündemine geldi. Büyük dil modellerinin en dikkat çekici özelliklerinden biri olarak kabul edilir.

Bağlam içi öğrenme nedir?

Klasik makine öğrenmesinde yeni bir görev öğretmek için model, etiketli verilerle yeniden eğitilir. Bağlam içi öğrenmede ise eğitim yoktur. Örnekler doğrudan prompta yazılır ve model bunlardan kalıbı yakalar.

Örneğin şu prompt verildiğinde:

elma -> apple
kitap -> book
ev ->

model "house" cevabını verir. Kimse ona açıkça "çeviri yap" dememiştir; görevi örneklerden çıkarmıştır.

Türleri

Nelere dikkat etmeli?

  • "Öğrenme" kalıcı değildir. Sohbet bittiğinde ya da örnekler bağlamdan çıktığında model bu bilgiyi hatırlamaz.
  • Örneklerin sırası, biçimi ve çeşitliliği sonucu belirgin şekilde etkileyebilir.
  • Örnekler bağlam penceresinde yer kaplar; bu da maliyeti ve gecikmeyi artırır.
  • Çok özel ya da sürekli tekrarlanan görevlerde ince ayar daha verimli olabilir.

İyi seçilmiş, çeşitli ve tutarlı biçimlendirilmiş birkaç örnek çoğu zaman en iyi sonucu verir.

Sıkça Sorulan Sorular

Bağlam içi öğrenmede model gerçekten öğrenir mi?

Ağırlıkları değişmediği için kalıcı bir öğrenme olmaz. Model, prompttaki örneklerden görevi o anlık olarak çıkarır ve uygular; bağlam silindiğinde bu bilgi kaybolur.

Bağlam içi öğrenme ile ince ayar arasındaki fark nedir?

İnce ayarda model ek veriyle eğitilir ve ağırlıkları kalıcı olarak değişir. Bağlam içi öğrenmede ise yalnızca prompt değişir; model aynı kalır.

İlgili terimler

Az Örnekli Öğrenme(Few-shot Learning)Az örnekli öğrenme (few-shot learning), bir modelin bir görevi yalnızca birkaç örnek görerek yapabilmesidir. Dil modellerinde genellikle prompt içine birkaç girdi-çıktı örneği eklenerek uygulanır; modelin yeniden eğitilmesi gerekmez.Sıfır Örnekli Öğrenme(Zero-shot Learning)Sıfır örnekli öğrenme (zero-shot learning), bir modelin o göreve özel hiç örnek görmeden, yalnızca talimat ya da genel bilgisiyle görevi yerine getirmesidir. Dil modellerinde 'şu metni özetle' gibi örneksiz istekler bunun tipik örneğidir.Prompt Mühendisliği(Prompt Engineering)Prompt mühendisliği, bir yapay zekâ modelinden doğru, tutarlı ve istenen biçimde çıktı almak için talimatları (promptları) bilinçli biçimde tasarlama, deneme ve iyileştirme sürecidir. Rol, bağlam, örnek ve çıktı biçimi gibi öğeleri kapsar.İnce Ayar(Fine-tuning)İnce ayar (fine-tuning), önceden eğitilmiş bir yapay zekâ modelini daha küçük ve göreve özel bir veri kümesiyle yeniden eğiterek belirli bir işe, üsluba veya alana uyarlama işlemidir.PromptPrompt (istem), bir yapay zekâ modeline ne yapmasını istediğinizi anlatan metindir; bir soru, talimat, örnek ya da bunların birleşimi olabilir. Modelin cevabının kalitesi büyük ölçüde promptun ne kadar açık ve ayrıntılı yazıldığına bağlıdır.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.