Açıklanabilir Yapay Zekâ (XAI) Nedir?

Açıklanabilir yapay zekâ, "kara kutu" olarak görülen modellerin içine ışık tutmayı amaçlar. Özellikle derin öğrenme modelleri milyonlarca hatta milyarlarca parametreyle çalıştığı için bir kararı neden verdikleri kolayca görülemez. XAI, bu kararları insanlar için anlaşılır hâle getirmeye çalışır.

Neden önemli?

• Güven: Kullanıcılar ve uzmanlar gerekçesini anladıkları sistemlere daha bilinçli güvenir.
• Hata bulma: Model yanlış bir ipucuna dayanıyorsa (ör. röntgendeki hastane etiketine) bu fark edilebilir.
• Adalet: Algoritmik önyargı olup olmadığını incelemeyi kolaylaştırır.
• Hukuki gereklilik: Kredi, sigorta, işe alım gibi alanlarda kararların gerekçelendirilmesi beklenebilir.

Yaygın yöntemler

• Özellik önemi: Hangi değişkenlerin karara ne kadar etki ettiğini gösterir. SHAP ve LIME bu alanda bilinen tekniklerdir.
• Isı haritaları: Görüntü modellerinde kararı en çok etkileyen bölgeleri renklendirir.
• Karşı olgusal açıklama: "Gelirin şu kadar yüksek olsaydı başvurun onaylanırdı" gibi senaryolar sunar.
• Doğası gereği yorumlanabilir modeller: Karar ağaçları ya da doğrusal modeller gibi zaten anlaşılır yapıları tercih etmek.

Örnek

Varsayımsal bir kredi modeli başvuruyu reddetti. Açıklama aracı, kararın büyük ölçüde "son 12 ayda gecikmeli ödeme sayısı" ve "gelire göre borç oranı" değişkenlerinden etkilendiğini gösteriyor. Hem başvuru sahibi hem de banka bu bilgiyle neyin değişmesi gerektiğini anlayabilir.

Sınırları

Açıklamalar çoğu zaman modelin tam iç işleyişini değil, yaklaşık bir özetini verir; yanıltıcı ölçüde basitleştirebilir. Farklı açıklama yöntemleri aynı karar için farklı sonuçlar gösterebilir. Bu nedenle açıklamalar insan değerlendirmesinin yerine geçmemeli, ona yardımcı olmalıdır.