İçeriğe geç
parazade
Yapay Zeka

SHAP Nedir?

Yayın: · Son güncelleme:

SHAP Nedir? Kısaca

SHAP (SHapley Additive exPlanations), bir makine öğrenmesi modelinin verdiği tek bir tahminde her girdi özelliğinin sonuca ne kadar katkı yaptığını, oyun teorisindeki Shapley değerlerine dayanarak hesaplayan bir açıklama yöntemidir.

SHAP nedir?
İçindekiler
  1. SHAP nedir?
  2. Örnek
  3. Nelere dikkat etmeli?

SHAP, "SHapley Additive exPlanations" ifadesinin kısaltmasıdır. Bir modelin belirli bir tahmini neden verdiğini, her özelliğe artı ya da eksi yönde bir katkı puanı atayarak açıklar. Bu puanların toplamı, modelin ortalama tahmininden o örnekteki tahmine olan farkı verir.

SHAP nedir?

Yöntem, adını ve temelini işbirlikçi oyun teorisindeki Shapley değerlerinden alır. Bu teoride bir ekibin kazancı, oyuncular arasında her birinin katkısına göre adil biçimde paylaştırılır. SHAP'te "oyuncular" modelin girdi özellikleri, "kazanç" ise modelin tahminidir. Her özelliğin katkısı, olası özellik kombinasyonlarına eklendiğinde tahmini ne kadar değiştirdiğinin ortalaması alınarak bulunur.

Örnek

Varsayımsal bir kredi skorlama modeli bir başvuru için "yüksek risk" tahmini versin. SHAP çıktısı, örneğin "düşük gelir riski artırdı, uzun çalışma süresi riski azalttı" gibi bir döküm sunar. Böylece kararın hangi bilgilere dayandığı görünür hâle gelir. Bu yaklaşım, açıklanabilir yapay zekâ çalışmalarının temel araçlarından biridir.

Nelere dikkat etmeli?

  • Tam Shapley hesabı çok sayıda özellikte pahalıdır; pratikte yaklaşık yöntemler kullanılır.
  • SHAP değerleri korelasyonu gösterir, nedenselliği kanıtlamaz.
  • Birbiriyle güçlü ilişkili özelliklerde katkılar yanıltıcı biçimde bölüşülebilir.
  • Açıklama modelin davranışını anlatır; modelin doğru ya da adil olduğunu tek başına göstermez.

Sıkça Sorulan Sorular

SHAP ile LIME arasındaki fark nedir?

İkisi de tek bir tahmini açıklar. LIME, tahminin çevresinde basit bir yerel model kurar; SHAP ise katkıları Shapley değerlerine dayanan, toplamı tutarlı bir çerçevede hesaplar. SHAP genellikle daha tutarlı ama hesaplama açısından daha ağırdır.

SHAP her modelde kullanılabilir mi?

Evet, modelden bağımsız sürümleri vardır. Ağaç tabanlı modeller ve sinir ağları için daha hızlı çalışan özel sürümler de geliştirilmiştir.

İlgili terimler

LIMELIME (Local Interpretable Model-agnostic Explanations), karmaşık bir makine öğrenmesi modelinin tek bir tahminini, o tahminin yakın çevresinde kurulan basit ve yorumlanabilir bir modelle açıklayan, modelden bağımsız bir yöntemdir.Açıklanabilir Yapay Zekâ(Explainable AI)Açıklanabilir yapay zekâ (explainable AI, XAI), bir yapay zekâ modelinin verdiği kararın ya da tahminin hangi etkenlere dayandığını insanların anlayabileceği biçimde ortaya koyan yöntem ve yaklaşımların genel adıdır.Yorumlanabilirlik(Interpretability)Yorumlanabilirlik (interpretability), bir yapay zekâ modelinin belirli bir çıktıyı neden ve nasıl ürettiğini insanların anlayabilmesi ve bu amaçla modelin iç işleyişini inceleyen yöntemlerin ve araştırma alanının genel adıdır.Özellik(Feature)Özellik (feature), makine öğrenmesinde her bir örneği tanımlayan ve modelin tahmin yaparken girdi olarak kullandığı ölçülebilir nitelik ya da değişkendir. Örneğin ev fiyatı tahmininde metrekare, oda sayısı ve konum birer özelliktir.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.Dil Tespiti(Language Detection)Dil tespiti (language detection), bir metnin ya da ses kaydının hangi dilde olduğunu otomatik olarak belirleyen doğal dil işleme görevidir. Çeviri, arama motorları ve içerik moderasyonu gibi pek çok sistemin ilk adımıdır.