İçeriğe geç
parazade
Yapay Zeka

Olabilirlik Fonksiyonu Nedir?

İngilizce: Likelihood Function

Yayın: · Son güncelleme:

Olabilirlik Fonksiyonu Nedir? Kısaca

Olabilirlik fonksiyonu (likelihood), gözlenmiş bir veri setinin, bir modelin farklı parametre değerleri altında ne kadar olası olduğunu gösteren fonksiyondur. Veri sabit tutulur, parametre değişkendir.

Olabilirlik Fonksiyonu nedir?
İçindekiler
  1. Olabilirlik fonksiyonu nedir?
  2. Örnek
  3. Makine öğrenmesindeki yeri

Olabilirlik fonksiyonu, istatistik ve makine öğrenmesinde model parametrelerini veriden tahmin etmenin temel aracıdır. Olasılıkla yakından ilişkilidir ama bakış açısı farklıdır.

Olabilirlik fonksiyonu nedir?

Olasılık sorusu şudur: "Parametre bilindiğinde, şu veriyi görme ihtimalim ne?" Olabilirlik ise soruyu tersine çevirir: "Bu veriyi gördüğüme göre, hangi parametre değeri bu veriyi daha makul kılıyor?"

Matematiksel olarak L(θ | veri) = P(veri | θ) yazılır. Formül aynıdır, ama veri sabit tutulup θ parametresi değiştirilir. Olabilirlik bir olasılık dağılımı değildir; parametrelere göre toplamının 1 olması gerekmez.

Örnek

Varsayımsal olarak bir parayı 10 kez atıp 7 tura gördüğünü düşün. Turanın olasılığı p olsun:

  • p = 0,5 için olabilirlik C(10,7) × 0,5^7 × 0,5^3 ≈ 0,117
  • p = 0,7 için olabilirlik C(10,7) × 0,7^7 × 0,3^3 ≈ 0,267

Gözlenen veri p = 0,7 değerini daha olası kılar. Olabilirliği en büyük yapan değeri bulma işlemine en çok olabilirlik kestirimi (maximum likelihood estimation, MLE) denir; bu örnekte sonuç 0,7'dir.

Makine öğrenmesindeki yeri

Pratikte çarpımlar çok küçük sayılara yol açtığı için olabilirliğin logaritması kullanılır. Bir modeli eğitirken negatif log-olabilirliği en aza indirmek, olabilirliği en büyüklemekle aynı anlama gelir. Çapraz entropi ve ortalama kare hata gibi yaygın kayıp fonksiyonu türleri bu fikirden türetilebilir.

Bayesçi yaklaşımda olabilirlik, önsel olasılıkla çarpılarak sonsal dağılım elde edilir. Böylece veri, başlangıçtaki inancı güncelleyen kanıt rolünü üstlenir.

Sıkça Sorulan Sorular

Olabilirlik ile olasılık arasındaki fark nedir?

Olasılıkta parametre sabittir ve farklı sonuçların ihtimali sorulur. Olabilirlikte ise veri sabittir ve farklı parametre değerlerinin bu veriyi ne kadar iyi açıkladığı karşılaştırılır.

Neden log-olabilirlik kullanılır?

Çok sayıda küçük olasılığın çarpımı bilgisayarda sıfıra yuvarlanabilir. Logaritma çarpımı toplama çevirir, hesabı kararlı hâle getirir ve en büyük değerin yerini değiştirmez.

İlgili terimler

Önsel Olasılık(Prior Probability)Önsel olasılık (prior), yeni veri gözlemlenmeden önce bir olay ya da parametre hakkında sahip olunan olasılık inancıdır. Bayes teoreminde olabilirlikle birleştirilerek güncellenmiş sonsal olasılığı üretir.Bayes Teoremi(Bayes' Theorem)Bayes teoremi, bir olayın olasılığının yeni bir kanıt ya da bilgi elde edildiğinde nasıl güncelleneceğini gösteren olasılık kuralıdır. Önsel olasılık, olabilirlik ve kanıtın olasılığını birleştirerek sonsal olasılığı hesaplar.Log Olasılık(Log Probability)Log olasılık (log probability, logprob), bir olayın olasılığının doğal logaritmasıdır. Dil modellerinde her tokenin seçilme olasılığını ifade etmek için kullanılır; değer 0'a yaklaştıkça olasılık yüksek, eksi yönde büyüdükçe düşüktür.Kayıp Fonksiyonu(Loss Function)Kayıp fonksiyonu, bir modelin tahmini ile gerçek değer arasındaki farkı tek bir sayıyla ölçen fonksiyondur; eğitimin amacı bu kayıp değerini olabildiğince küçültmektir.Olasılık Dağılımı(Probability Distribution)Olasılık dağılımı, rastgele bir değişkenin alabileceği değerleri ve bu değerlerin ya da değer aralıklarının gerçekleşme olasılıklarını tanımlayan matematiksel bir fonksiyon veya tablodur. Kesikli ve sürekli olmak üzere iki ana türü vardır.Çapraz Entropi(Cross-Entropy)Çapraz entropi, bir modelin tahmin ettiği olasılık dağılımının gerçek dağılımdan ne kadar uzak olduğunu ölçen bir kayıp fonksiyonudur. Doğru sınıfa düşük olasılık veren tahminleri ağır cezalandırır; sınıflandırma modelleri ve dil modelleri eğitiminde standarttır.Ortalama Kare Hata(Mean Squared Error)Ortalama kare hata (MSE), bir modelin tahminleriyle gerçek değerler arasındaki farkların karesini alıp bu karelerin ortalamasını hesaplayan hata ölçütüdür. Değer küçüldükçe tahminler gerçeğe yaklaşır; özellikle regresyon problemlerinde kayıp fonksiyonu olarak kullanılır.