İçeriğe geç
parazade
Yapay Zeka

Varyans Nedir?

İngilizce: Variance

Yayın: · Son güncelleme:

Varyans Nedir? Kısaca

Varyans, istatistikte değerlerin ortalamadan ne kadar saptığını ölçen yayılım ölçüsüdür; makine öğrenmesinde ise bir modelin tahminlerinin, farklı eğitim verileriyle eğitildiğinde ne kadar değiştiğini, yani veriye duyarlılığını ifade eder.

Varyans nedir?
İçindekiler
  1. Varyans nedir?
  2. Makine öğrenmesinde varyans
  3. Yanlılık-varyans dengesi

Varyans iki bağlamda karşına çıkar: İstatistikte bir veri kümesinin ne kadar dağınık olduğunu, makine öğrenmesinde ise bir modelin eğitim verisindeki değişikliklere ne kadar duyarlı olduğunu anlatır. İkisi aynı matematiksel fikre dayanır.

Varyans nedir?

İstatistikte varyans, her değerin ortalamadan farkının karesi alınıp bu karelerin ortalaması alınarak hesaplanır. Varyansın karekökü standart sapmadır.

Varsayımsal bir örnek: 4, 6 ve 8 sayılarının ortalaması 6'dır. Farklar −2, 0 ve 2; kareleri 4, 0 ve 4'tür. Kareler ortalaması 8/3 ≈ 2,67 olur (örneklem varyansında paydaya n−1 yazılır ve sonuç 4 çıkar). Varyans büyüdükçe veriler ortalamadan daha uzağa dağılmış demektir.

Makine öğrenmesinde varyans

Bir modelin varyansı, aynı problem için farklı eğitim örnekleriyle eğitildiğinde tahminlerinin ne kadar oynadığıdır.

  • Yüksek varyanslı model: Eğitim verisindeki gürültüyü de öğrenir; eğitimde çok iyi, yeni veride zayıf sonuç verir. Bu durum aşırı öğrenme olarak bilinir. Derin bir karar ağacı tipik örnektir.
  • Düşük varyanslı model: Veri değişse de benzer tahminler yapar; ancak fazla basitse yanlılığı (bias) yüksek olabilir.

Yanlılık-varyans dengesi

Bir modelin toplam hatası kabaca yanlılık, varyans ve kaçınılmaz gürültüden oluşur. Model karmaşıklaştıkça yanlılık genellikle düşer, varyans artar. İyi bir model bu ikisi arasında denge kurar.

Varyansı azaltmak için kullanılan başlıca yöntemler:

  • Daha fazla eğitim verisi toplamak.
  • Düzenlileştirme (ridge, dropout, ağırlık azaltma).
  • Bagging ve rastgele orman gibi topluluk yöntemleri.
  • Modeli sadeleştirmek ya da özellik sayısını azaltmak.

Sıkça Sorulan Sorular

Yüksek varyans ne anlama gelir?

İstatistikte verilerin ortalamadan çok uzağa dağıldığını gösterir. Makine öğrenmesinde ise modelin eğitim verisine aşırı uyum sağladığına ve yeni verilerde tutarsız sonuç verebileceğine işaret eder.

Varyans ile standart sapma arasındaki fark nedir?

Standart sapma, varyansın kareköküdür. Standart sapma verinin kendi biriminde ifade edildiği için yorumlaması genellikle daha kolaydır.

İlgili terimler

Standart Sapma(Standard Deviation)Standart sapma, bir veri setindeki değerlerin aritmetik ortalama etrafında ne kadar yayıldığını gösteren yayılım ölçüsüdür. Varyansın kareköküdür ve verinin kendi birimiyle ifade edilir; küçük olması değerlerin ortalamaya yakın toplandığını gösterir.Aşırı Öğrenme(Overfitting)Aşırı öğrenme (overfitting), bir modelin eğitim verisindeki genel kalıplar yerine gürültü ve ayrıntıları ezberlemesi sonucu eğitimde çok başarılı, yeni verilerde ise zayıf sonuç vermesidir.Genelleme(Generalization)Genelleme, bir makine öğrenmesi modelinin eğitim sırasında görmediği yeni veriler üzerinde de doğru tahminler yapabilme yeteneğidir; iyi genelleyen model ezberlemek yerine verideki genel kalıpları öğrenmiş demektir.BaggingBagging (bootstrap aggregating), eğitim verisinden yerine koymalı rastgele örnekler çekip her biriyle ayrı bir model eğiten ve bu modellerin tahminlerini oylama ya da ortalama ile birleştiren bir topluluk öğrenmesi yöntemidir.Eğitim Verisi(Training Data)Eğitim verisi, bir makine öğrenmesi modelinin kalıpları öğrenmek için kullandığı örneklerin bütünüdür; modelin ne bildiğini, ne kadar doğru olduğunu ve hangi önyargıları taşıdığını büyük ölçüde belirler.Ağırlık Azaltma(Weight Decay)Ağırlık azaltma (weight decay), sinir ağı eğitiminde her güncelleme adımında model ağırlıklarını küçük bir oranda sıfıra doğru çeken, böylece büyük ağırlıkları cezalandırarak aşırı öğrenmeyi azaltan bir düzenlileştirme tekniğidir.