İçeriğe geç
parazade
Yapay Zeka

Lojistik Regresyon Nedir?

İngilizce: Logistic Regression

Yayın: · Son güncelleme:

Lojistik Regresyon Nedir? Kısaca

Lojistik regresyon, girdilerin ağırlıklı toplamını sigmoid fonksiyonundan geçirerek 0 ile 1 arasında bir olasılık üreten ve bu olasılığı bir eşikle karşılaştırarak sınıflandırma yapan temel bir istatistik ve makine öğrenmesi yöntemidir.

Lojistik Regresyon nedir?
İçindekiler
  1. Lojistik regresyon nedir?
  2. Nasıl eğitilir?
  3. Örnek
  4. Nelere dikkat etmeli?

Lojistik regresyon, adında "regresyon" geçse de esas olarak bir sınıflandırma yöntemidir. Bir e-postanın spam olup olmadığı, bir müşterinin aboneliği iptal edip etmeyeceği gibi evet-hayır sorularına olasılık temelli cevap verir.

Lojistik regresyon nedir?

Model önce, doğrusal regresyonda olduğu gibi, her özelliği bir ağırlıkla çarpıp toplar ve bir sabit ekler. Bu toplam her değeri alabilir. Ardından sonuç sigmoid fonksiyonundan geçirilir; sigmoid her sayıyı 0 ile 1 arasına sıkıştırır. Çıkan değer, örneğin pozitif sınıfa ait olma olasılığı olarak yorumlanır.

Genellikle 0,5 eşik olarak kullanılır: Olasılık 0,5'in üzerindeyse "evet", altındaysa "hayır" denir. Eşik, probleme göre değiştirilebilir.

Nasıl eğitilir?

Ağırlıklar, modelin gerçek etiketlere verdiği olasılıkları en yüksek yapacak şekilde seçilir. Pratikte bu, ikili çapraz entropi kaybını gradyan inişi benzeri yöntemlerle küçültmek demektir.

Örnek

Varsayımsal bir model, bir müşterinin üyeliğini iptal etme olasılığını son ayki giriş sayısı ve destek talebi sayısına bakarak tahmin etsin. Model bir müşteri için 0,8 hesaplarsa, bu müşteri "iptal riski yüksek" grubuna girer.

Nelere dikkat etmeli?

  • Model, özellikler ile log-odds arasında doğrusal bir ilişki varsayar; karmaşık ilişkileri kendiliğinden yakalayamaz.
  • Ağırlıkların işareti ve büyüklüğü yorumlanabilir; bu, açıklanabilirlik isteyen alanlarda avantajdır.
  • Birbirine çok bağlı özellikler ağırlıkları kararsız yapabilir; düzenlileştirme (ridge, lasso) yardımcı olur.
  • Sınıflar dengesizse doğruluk oranı tek başına yanıltıcı olabilir.

Sıkça Sorulan Sorular

Lojistik regresyon neden regresyon diye adlandırılır?

Çünkü arka planda bir olasılığın log-odds değerini doğrusal bir denklemle modeller. Sonuç bir eşikle sınıfa çevrildiği için pratikte sınıflandırma yöntemi olarak kullanılır.

Lojistik regresyon çok sınıflı problemlerde kullanılır mı?

Evet. Çok terimli (multinomial) lojistik regresyon, sigmoid yerine softmax kullanarak birden çok sınıf için olasılık üretir.

İlgili terimler

Sigmoid Fonksiyonu(Sigmoid Function)Sigmoid fonksiyonu, σ(x) = 1 / (1 + e^(−x)) formülüyle tanımlanan, her gerçek sayıyı 0 ile 1 arasına S biçiminde bir eğriyle eşleyen ve bu yüzden olasılık üretmek için lojistik regresyonda ve sinir ağlarında kullanılan bir fonksiyondur.Doğrusal Regresyon(Linear Regression)Doğrusal regresyon, bir hedef değişkeni bir ya da daha fazla bağımsız değişkenin ağırlıklı toplamı ve bir sabitle tahmin eden, ağırlıkları genellikle hata karelerinin toplamını en aza indirerek bulan temel bir istatistik ve makine öğrenmesi yöntemidir.Sınıflandırma(Classification)Sınıflandırma (classification), bir makine öğrenmesi modelinin her girdiyi önceden tanımlanmış kategorilerden (sınıflardan) birine ya da birkaçına atadığı denetimli öğrenme görevidir. Spam filtresi ve dolandırıcılık tespiti tipik örneklerdir.İkili Çapraz Entropi(Binary Cross-Entropy)İkili çapraz entropi (log loss), yalnızca iki olası sonucu olan sınıflandırma problemlerinde kullanılan kayıp fonksiyonudur. Modelin pozitif sınıf için verdiği olasılığın gerçek etiketle ne kadar uyumlu olduğunu ölçer ve kendinden emin hataları ağır cezalandırır.Çapraz Entropi(Cross-Entropy)Çapraz entropi, bir modelin tahmin ettiği olasılık dağılımının gerçek dağılımdan ne kadar uzak olduğunu ölçen bir kayıp fonksiyonudur. Doğru sınıfa düşük olasılık veren tahminleri ağır cezalandırır; sınıflandırma modelleri ve dil modelleri eğitiminde standarttır.Gradyan İnişi(Gradient Descent)Gradyan inişi, bir modelin kayıp fonksiyonunu en aza indirmek için parametreleri, kaybın en hızlı azaldığı yönde (gradyanın tersine) küçük adımlarla tekrar tekrar güncelleyen optimizasyon yöntemidir.