İçeriğe geç
parazade
Yapay Zeka

Sigmoid Fonksiyonu Nedir?

İngilizce: Sigmoid Function

Yayın: · Son güncelleme:

Sigmoid Fonksiyonu Nedir? Kısaca

Sigmoid fonksiyonu, σ(x) = 1 / (1 + e^(−x)) formülüyle tanımlanan, her gerçek sayıyı 0 ile 1 arasına S biçiminde bir eğriyle eşleyen ve bu yüzden olasılık üretmek için lojistik regresyonda ve sinir ağlarında kullanılan bir fonksiyondur.

Sigmoid Fonksiyonu nedir?
İçindekiler
  1. Sigmoid fonksiyonu nedir?
  2. Nerelerde kullanılır?
  3. Nelere dikkat etmeli?

Sigmoid fonksiyonu, adını grafiğinin "S" harfine benzemesinden alır. Lojistik fonksiyon olarak da bilinir ve makine öğrenmesinde bir değeri olasılığa çevirmek için sıkça kullanılır.

Sigmoid fonksiyonu nedir?

Formülü şöyledir:

σ(x) = 1 / (1 + e^(−x))

Burada e, yaklaşık 2,718 değerindeki doğal logaritma tabanıdır. Fonksiyonun özellikleri:

  • Çıktı her zaman 0 ile 1 arasındadır.
  • x = 0 iken çıktı tam 0,5'tir.
  • x büyük pozitif bir sayı oldukça çıktı 1'e, büyük negatif bir sayı oldukça 0'a yaklaşır.

Varsayımsal bir örnek: σ(2) yaklaşık 0,88, σ(−2) yaklaşık 0,12'dir.

Nerelerde kullanılır?

  • Lojistik regresyon: Doğrusal bir skoru, bir olayın gerçekleşme olasılığına çevirir.
  • İkili sınıflandırma çıkış katmanı: Sinir ağlarında "evet/hayır" türü problemlerde son katmanda kullanılır; genellikle ikili çapraz entropi kaybıyla birlikte.
  • Çok etiketli sınıflandırma: Bir örnek birden fazla etikete sahip olabiliyorsa, her etiket için ayrı bir sigmoid kullanılır.
  • Kapı mekanizmaları: LSTM ve GRU gibi tekrarlayan ağlarda bilginin ne kadarının geçeceğine karar veren "kapılar" sigmoid ile çalışır.

Nelere dikkat etmeli?

Sigmoid, bir zamanlar gizli katmanlarda da yaygın olarak kullanılıyordu. Ancak iki sorunu vardır:

  1. Doygunluk ve kaybolan gradyan: Çok büyük ya da çok küçük girdilerde eğri düzleşir ve türev sıfıra yaklaşır. Derin ağlarda bu, ilk katmanların çok yavaş öğrenmesine yol açar.
  2. Sıfır merkezli değildir: Çıktılar hep pozitif olduğu için eğitim daha dengesiz ilerleyebilir.

Bu yüzden gizli katmanlarda bugün genellikle ReLU ve türevleri tercih edilir. Çok sınıflı çıkışlarda ise sigmoid yerine softmax kullanılır.

Sıkça Sorulan Sorular

Sigmoid ile softmax arasındaki fark nedir?

Sigmoid tek bir değeri 0-1 arasına çevirir ve her çıktı bağımsızdır. Softmax ise birden çok değeri toplamı 1 olan bir olasılık dağılımına dönüştürür.

Sigmoid fonksiyonunun türevi nedir?

Türevi σ(x) × (1 − σ(x)) biçimindedir ve en yüksek değeri x = 0'da 0,25'tir. Bu küçük türev, derin ağlarda gradyanın zayıflamasına katkıda bulunur.

İlgili terimler

Lojistik Regresyon(Logistic Regression)Lojistik regresyon, girdilerin ağırlıklı toplamını sigmoid fonksiyonundan geçirerek 0 ile 1 arasında bir olasılık üreten ve bu olasılığı bir eşikle karşılaştırarak sınıflandırma yapan temel bir istatistik ve makine öğrenmesi yöntemidir.SoftmaxSoftmax, bir sayı vektörünün her elemanının üstelini alıp bunları toplamlarına bölerek, tüm değerleri 0 ile 1 arasında ve toplamı 1 olan bir olasılık dağılımına dönüştüren, çok sınıflı sınıflandırmada yaygın kullanılan bir fonksiyondur.Tanh Fonksiyonu(Hyperbolic Tangent Function)Tanh (hiperbolik tanjant) fonksiyonu, her gerçek sayıyı −1 ile 1 arasına S biçimli bir eğriyle eşleyen, sıfır merkezli olduğu için sigmoid'e göre bazı avantajlar sunan ve özellikle tekrarlayan sinir ağlarında kullanılan bir aktivasyon fonksiyonudur.Aktivasyon Fonksiyonu(Activation Function)Aktivasyon fonksiyonu, yapay sinir ağındaki bir nöronun girdilerinin ağırlıklı toplamını dönüştürerek çıktısını belirleyen ve ağa doğrusal olmayan ilişkileri öğrenme yeteneği kazandıran matematiksel fonksiyondur.Etiket(Label)Etiket (label), makine öğrenmesinde bir veri örneği için bilinen doğru cevaptır; örneğin bir fotoğrafın "kedi" olduğu ya da bir e-postanın "spam" olduğu bilgisi. Denetimli öğrenmede model, girdilerden bu etiketleri tahmin etmeyi öğrenir.LSTM(Long Short-Term Memory)LSTM (uzun kısa süreli bellek), tekrarlayan sinir ağlarının uzun dizilerde bilgiyi unutma sorununu, neyin saklanıp neyin unutulacağına karar veren kapılar ve ayrı bir hücre durumu ile hafifleten sinir ağı yapısıdır.