İçeriğe geç
parazade
Yapay Zeka

Bagging Nedir?

Yayın: · Son güncelleme:

Bagging Nedir? Kısaca

Bagging (bootstrap aggregating), eğitim verisinden yerine koymalı rastgele örnekler çekip her biriyle ayrı bir model eğiten ve bu modellerin tahminlerini oylama ya da ortalama ile birleştiren bir topluluk öğrenmesi yöntemidir.

Bagging nedir?
İçindekiler
  1. Bagging nedir?
  2. Nasıl çalışır?
  3. Örnek
  4. Nelere dikkat etmeli?

Bagging, "bootstrap aggregating" ifadesinin kısaltmasıdır. Aynı türden birçok modeli, verinin farklı rastgele kopyaları üzerinde eğitip sonuçlarını birleştirerek daha kararlı tahminler elde etmeyi amaçlayan bir topluluk öğrenmesi tekniğidir.

Bagging nedir?

Bazı modeller, özellikle derin karar ağaçları, eğitim verisindeki küçük değişikliklere çok duyarlıdır; veri biraz değişince tahminleri de çok değişir. Buna yüksek varyans denir. Bagging, bu oynaklığı birçok modelin ortalamasını alarak azaltır.

Nasıl çalışır?

  1. Eğitim setinden, aynı boyutta ve yerine koymalı rastgele örnekler çekilir (bootstrap örnekleri). Bu yüzden bazı satırlar bir örnekte birden çok kez yer alır, bazıları hiç yer almaz.
  2. Her örnekle ayrı bir model eğitilir.
  3. Sınıflandırmada modellerin çoğunluk oyu, sayısal tahminde ortalaması alınır.

Örneklere girmeyen satırlara "torba dışı" (out-of-bag) veri denir; bunlar ayrı bir test seti ayırmadan modelin başarısını kabaca ölçmek için kullanılabilir.

Örnek

Varsayımsal olarak 1.000 satırlık bir veriyle 100 karar ağacı eğittiğini düşün. Her ağaç, 1.000 satırlık farklı bir bootstrap örneği görür. Yeni bir müşteri için 70 ağaç "ödeme yapar", 30 ağaç "yapmaz" diyorsa sonuç "ödeme yapar" olur.

Nelere dikkat etmeli?

  • Bagging esas olarak varyansı azaltır; zaten basit ve yanlı bir modeli düzeltmede sınırlı etkilidir.
  • Model sayısı arttıkça hesaplama maliyeti artar, ancak modeller paralel eğitilebilir.
  • En yaygın uygulaması rastgele orman algoritmasıdır.

Sıkça Sorulan Sorular

Bagging hangi problemi çözer?

Eğitim verisindeki küçük değişikliklere aşırı duyarlı, yani yüksek varyanslı modellerin tahminlerini daha kararlı hâle getirir. Bu da aşırı öğrenme riskini azaltmaya yardım eder.

Bagging ile rastgele orman aynı şey mi?

Rastgele orman, bagging'in karar ağaçlarına uygulanmış ve her bölünmede özellikleri de rastgele seçen bir türüdür. Yani bagging'in özel ve geliştirilmiş bir hâlidir.

İlgili terimler

Topluluk Öğrenmesi(Ensemble Learning)Topluluk öğrenmesi (ensemble learning), birden fazla makine öğrenmesi modelinin tahminlerini oylama, ortalama ya da başka bir modelle birleştirerek tek bir modelden daha doğru ve kararlı sonuç elde etmeyi amaçlayan yaklaşımdır.Rastgele Orman(Random Forest)Rastgele orman (random forest), her biri verinin rastgele bir örneği ve rastgele seçilen özelliklerle eğitilen çok sayıda karar ağacının tahminlerini oylama ya da ortalama ile birleştiren bir makine öğrenmesi algoritmasıdır.Karar Ağacı(Decision Tree)Karar ağacı, veriyi bir dizi koşul sorusuyla adım adım dallara ayırarak sınıflandırma ya da sayısal tahmin yapan, ağaç biçiminde gösterilebilen ve kararları kolay yorumlanan bir makine öğrenmesi modelidir.Bootstrap Yöntemi(Bootstrapping)Bootstrap yöntemi, eldeki tek bir örneklemden yerine koyarak çok sayıda yeni örneklem üretip bir istatistiğin dağılımını, standart hatasını ve güven aralığını tahmin etmeye yarayan yeniden örnekleme tekniğidir.Varyans(Variance)Varyans, istatistikte değerlerin ortalamadan ne kadar saptığını ölçen yayılım ölçüsüdür; makine öğrenmesinde ise bir modelin tahminlerinin, farklı eğitim verileriyle eğitildiğinde ne kadar değiştiğini, yani veriye duyarlılığını ifade eder.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.