İçeriğe geç
parazade
Yapay Zeka

Ön Eğitim (Pre-training) Nedir?

İngilizce: Pre-training

Yayın: · Son güncelleme:

Ön Eğitim (Pre-training) Nedir? Kısaca

Ön eğitim, bir yapay zekâ modelinin belirli bir göreve uyarlanmadan önce çok büyük ve genel bir veri kümesiyle eğitilerek dil, görüntü gibi alanlarda genel bilgi ve beceri kazandığı ilk aşamadır.

Ön Eğitim nedir?
İçindekiler
  1. Ön eğitim nasıl yapılır?
  2. Ön eğitimden sonra ne olur?
  3. Nelere dikkat etmeli?

Ön eğitim (pre-training), bir modelin genel yeteneklerini kazandığı ilk ve en maliyetli eğitim aşamasıdır. Büyük dil modelleri bu aşamada çok büyük miktarda metin görerek dil bilgisini, kelimeler arası ilişkileri ve dünyaya dair pek çok bilgiyi öğrenir.

Ön eğitim nasıl yapılır?

Dil modellerinde en yaygın yöntem bir sonraki tokeni tahmin etmektir. Model "Ankara Türkiye'nin başkenti..." gibi bir metnin devamını tahmin eder, tahmin gerçek metinle karşılaştırılır ve hata azaltılır. Bu işlem milyarlarca örnek üzerinde tekrarlanır.

Bu yöntemin avantajı, insanların veriyi tek tek etiketlemesine gerek olmamasıdır: Hedef, metnin kendisinden gelir. Buna öz-denetimli öğrenme denir. Görsel modellerde ise resmin gizlenen parçalarını tahmin etmek veya görsel ile açıklamasını eşleştirmek gibi görevler kullanılır.

Ön eğitimden sonra ne olur?

Ön eğitimden çıkan model metni sürdürmeyi bilir ama talimatlara uymayı ya da sohbet etmeyi tam bilmez. Bu yüzden ardından şu aşamalar gelir:

  1. Talimat-cevap örnekleriyle ince ayar
  2. İnsan tercihleriyle ayarlama (RLHF ve benzerleri)
  3. Güvenlik testleri ve değerlendirme

Nelere dikkat etmeli?

Ön eğitim çok büyük işlem gücü, enerji ve veri gerektirir. Model, verinin toplandığı tarihten sonrasını bilemez; bu sınıra bilgi kesim tarihi denir. Eğitim verisindeki hatalar, önyargılar ve tekrarlı içerikler modelin davranışına yansır. Verinin telif ve kişisel veri açısından durumu da tartışma konusudur.

Sıkça Sorulan Sorular

Ön eğitim ile ince ayar arasındaki fark nedir?

Ön eğitim, modelin çok büyük ve genel veriyle temel yeteneklerini kazandığı aşamadır. İnce ayar ise bu hazır modelin daha küçük, göreve özel veriyle uyarlanmasıdır ve çok daha az kaynak ister.

Ön eğitimli model neden sohbet edemez?

Çünkü yalnızca metni sürdürmeyi öğrenmiştir. Bir soruyu cevaplamak yerine soruya benzeyen başka sorular yazabilir. Sohbet becerisi, sonraki talimat ince ayarı ve tercih eğitimi aşamalarında kazanılır.

İlgili terimler

Temel Model(Foundation Model)Temel model, çok geniş ve çeşitli verilerle ön eğitilen, ardından ince ayar veya promptlarla pek çok farklı göreve uyarlanabilen büyük ölçekli yapay zekâ modelidir.İnce Ayar(Fine-tuning)İnce ayar (fine-tuning), önceden eğitilmiş bir yapay zekâ modelini daha küçük ve göreve özel bir veri kümesiyle yeniden eğiterek belirli bir işe, üsluba veya alana uyarlama işlemidir.Eğitim Verisi(Training Data)Eğitim verisi, bir makine öğrenmesi modelinin kalıpları öğrenmek için kullandığı örneklerin bütünüdür; modelin ne bildiğini, ne kadar doğru olduğunu ve hangi önyargıları taşıdığını büyük ölçüde belirler.Bilgi Kesim Tarihi(Knowledge Cutoff)Bilgi kesim tarihi (knowledge cutoff), bir dil modelinin eğitim verisinin kapsadığı son tarihtir. Model bu tarihten sonra yaşanan olaylar, değişen oranlar ya da yeni düzenlemeler hakkında, dış kaynağa bağlanmadıkça bilgi sahibi değildir.Büyük Dil Modeli(Large Language Model)Büyük dil modeli (LLM), çok büyük miktarda metinle eğitilen ve bir metnin devamında hangi parçanın geleceğini tahmin ederek yazı üreten yapay zekâ modelidir. Sohbet asistanları, kod yardımcıları ve özetleme araçlarının temelinde bu modeller bulunur.Denetimli Öğrenme(Supervised Learning)Denetimli öğrenme, modelin girdi ile doğru cevabın birlikte verildiği etiketli örneklerden öğrenerek yeni girdiler için doğru cevabı tahmin etmeyi öğrendiği makine öğrenmesi türüdür.RLHF(Reinforcement Learning from Human Feedback)RLHF (insan geri bildirimiyle pekiştirmeli öğrenme), insanların model cevaplarını karşılaştırarak verdiği tercihlerle bir ödül modeli eğitip dil modelini bu ödüle göre ayarlama yöntemidir.