Yapay Zekâ Etik İlkeleri: Şeffaflık, Adalet ve Sorumluluk Ne Demek?

Yapay zekâ etik ilkeleri, sistemlerin insanlara zarar vermeden, adil ve denetlenebilir biçimde geliştirilmesini ve kullanılmasını amaçlayan ortak kurallardır. Uluslararası belgelerde en sık geçenler şeffaflık, adalet, hesap verebilirlik, gizlilik, güvenlik ve insan denetimidir. Bu ilkeler yalnız büyük şirketleri değil, bir sohbet botuyla ödev hazırlayan öğrenciyi ya da müşteri için metin yazan freelancerı da ilgilendirir.

Aşağıda her ilkeyi bir tanım ve günlük hayattan bir örnekle anlatıyoruz. Mevzuat maddelerine girmeden, ilkelerin pratikte neye benzediğini ve bireysel kullanımda nasıl uygulanabileceğini gösteriyoruz. En sonda da kendi yapay zekâ kullanımınızı gözden geçirmek için kısa bir kontrol listesi var.

Yapay zekâ etiği neden ayrı bir konu?

Çünkü yapay zekâ, insanların hayatını etkileyen kararları hızla, büyük ölçekte ve çoğu zaman görünmeden verebiliyor. Bir memurun hatalı kararı tek bir dosyayı etkiler; hatalı bir model ise aynı hatayı binlerce başvuruda tekrarlayabilir. Yapay zekâ etiği, bu ölçek ve görünmezlikten doğan sorunları ele alan alanın adıdır.

İkinci neden, sorumluluğun dağınık olmasıdır. Bir sistemde veriyi toplayan, modeli eğiten, ürünü satan ve kullanan farklı kişiler olabilir. Bir şey ters gittiğinde "kimin hatası?" sorusunun cevabı kolay değildir. Etik ilkeler, bu belirsizliği azaltmak için her aşamada kimin neye dikkat etmesi gerektiğini tarif eder.

Uluslararası düzeyde sık anılan iki belge var. UNESCO, 2021'de üye devletlerin kabul ettiği bir yapay zekâ etiği tavsiyesi yayımladı. OECD de 2019'da yapay zekâ ilkelerini açıkladı ve bunlar birçok ülkenin politikalarına referans oldu. Belgelerin dili farklı olsa da öne çıkan ilkeler büyük ölçüde örtüşüyor.

Temel etik ilkeler tek tabloda

Aşağıdaki tablo, belgelerde en sık geçen ilkeleri ve her birinin günlük karşılığını özetliyor. Liste resmî ve sabit bir sıralama değildir; kurumlar bu ilkeleri farklı adlarla ve farklı gruplamalarla kullanabilir.

İlke	Kısaca ne demek	Günlük örnek
Şeffaflık	Yapay zekâ kullanıldığını ve nasıl karar verdiğini açıklamak	Müşteri hizmetlerinde bot ile konuştuğunuzun belirtilmesi
Adalet	Gruplar arasında haksız ayrım yapmamak	Kredi modelinin semt ya da cinsiyete göre dezavantaj yaratmaması
Hesap verebilirlik	Hata olduğunda sorumlunun belli olması	Reddedilen başvuruya itiraz edilebilecek bir birimin bulunması
Gizlilik	Kişisel verileri gereğinden fazla toplamamak ve korumak	Sohbet kayıtlarının izinsiz eğitimde kullanılmaması
Güvenlik ve sağlamlık	Sistemin hatalara ve kötüye kullanıma dayanıklı olması	Zararlı taleplerin reddedilmesi
İnsan denetimi	Önemli kararlarda son sözün insanda olması	Teşhis önerisini doktorun onaylaması
Toplumsal fayda	Sistemin insanlara ve çevreye yarar sağlaması	Enerji ve kaynak tüketiminin gözetilmesi

İlkeler bazen birbiriyle çatışır. Daha fazla şeffaflık için daha çok veri paylaşmak gizliliği zayıflatabilir; daha fazla güvenlik için sıkı filtreler koymak, meşru kullanıcıların işini de zorlaştırabilir. Etik bir karar, çoğu zaman bu ilkeler arasında bilinçli bir denge kurmaktır.

Şeffaflık: ne zaman ve nasıl açıklamalı?

Şeffaflık, insanların bir yapay zekâ ile etkileşimde olduğunu bilmesi ve verilen kararın mantığını anlayabilmesidir. İki katmanı var. Birincisi basittir: kullanıcıya "şu an bir botla konuşuyorsunuz" ya da "bu görsel yapay zekâ ile üretildi" demek. İkincisi daha zordur: bir kararın hangi bilgiye dayanarak verildiğini açıklamak.

İkinci katmanın zorluğu teknik bir sorundan gelir. Derin öğrenme modelleri milyonlarca ya da milyarlarca sayısal ayardan oluştuğu için, tek bir kararın gerekçesini insanın anlayacağı dille göstermek kolay değildir. Bu duruma kara kutu problemi denir. Açıklanabilir yapay zekâ çalışmaları, bu kutuyu biraz olsun aralamayı hedefliyor.

Bireysel düzeyde şeffaflık, ürettiğiniz içeriğin kaynağını dürüstçe belirtmek anlamına gelir. Sosyal medyada yapay zekâyla üretilmiş gerçekçi bir görsel paylaşırken bunu etiketlemek, hem platform kurallarının hem de etiğin gereğidir. Instagram'daki uygulamayı Instagram yapay zekâ etiketi yazısında anlattık.

Adalet ve önyargı: model kime haksızlık edebilir?

Adalet ilkesi, bir sistemin insanlara cinsiyet, yaş, köken, engellilik ya da yaşadığı yer gibi özellikler nedeniyle haksız davranmamasını ister. Sorun genellikle kötü niyetten değil, veriden doğar. Model, geçmişteki kararları öğrenir; geçmiş kararlar önyargılıysa, model de önyargılı olur. Bu olguya algoritmik önyargı denir.

Örnek bir senaryoda bir şirket, iş başvurularını ön elemeden geçirmek için bir model kullanıyor. Model, son on yılda işe alınanların özgeçmişleriyle eğitilmiş. Geçmişte belirli bir okuldan ya da belirli bir semtten gelenler daha az işe alındıysa, model bu özellikleri olumsuz bir işaret olarak öğrenebilir; üstelik kimse ona böyle bir kural vermemiştir.

Bu tür önyargıyı azaltmanın yolları arasında eğitim verisini farklı gruplar açısından incelemek, modelin sonuçlarını grup grup karşılaştırmak ve şüpheli durumlarda insan incelemesi eklemek var. Hiçbiri tek başına önyargıyı sıfırlamaz. Adalet, bir kez kontrol edilip bırakılan değil, düzenli olarak ölçülmesi gereken bir özelliktir.

Kullanıcı olarak sizin de yapabileceğiniz bir şey var. Bir yapay zekâ aracından bir grup insan hakkında genelleme, örneğin "hangi meslek kime uygun" gibi bir değerlendirme aldığınızda, cevabın kalıp yargı içerip içermediğine bakın. Görsel üretirken "doktor", "mühendis" ya da "hemşire" gibi isteklerde araçların hep aynı tip insanı çizmesi, önyargının en kolay fark edilen hâlidir; tarifinizi çeşitlendirerek bu eğilimi dengeleyebilirsiniz.

Hesap verebilirlik ve insan denetimi

Hesap verebilirlik, bir yapay zekâ sistemi hata yaptığında bunun sorumlusunun belli olması ve etkilenen kişinin itiraz edebilmesidir. "Bilgisayar böyle karar verdi" cevabı, etik açıdan kabul edilebilir bir cevap değildir. Sistemi kullanan kurum, kararın sonuçlarından sorumludur.

İnsan denetimi bu ilkenin pratik karşılığıdır. Sağlık, hukuk, kredi ve işe alım gibi hayatı doğrudan etkileyen alanlarda yapay zekânın önerisini bir insanın gözden geçirmesi beklenir. Bu yaklaşıma döngüde insan adı verilir.

Burada bir tuzak var: insanlar bir süre sonra makinenin önerisini sorgulamadan onaylamaya başlayabilir. Gerçek denetim, onay düğmesine basmaktan fazlasını gerektirir.

Varsayımsal bir örnek: bir sigorta şirketinde bir çalışan, günde 200 hasar dosyasında modelin "onayla" ya da "incele" önerisini görüyor. Dosya başına bir dakikadan az zamanı varsa, önerileri gerçekten değerlendirmesi mümkün değildir ve denetim kâğıt üzerinde kalır. Etik bir düzen, incelenecek dosya sayısını ve süreyi buna göre ayarlamayı da kapsar.

Güvenlik ve sağlamlık neden etik bir konu?

Güvenli bir sistem, beklenmedik girdilerde çökmeyen, kötü niyetli kullanıma direnen ve hata yaptığında zararı sınırlı tutan sistemdir. Bir sohbet botunun zararlı bir talebi reddetmesi, bir görsel üreticinin gerçek kişilerin müstehcen görüntüsünü üretmeyi engellemesi bu ilkenin örnekleridir. Bu korumalar her zaman kusursuz değildir; kullanıcıların filtreleri aşmanın yollarını araması, geliştiricilerle bitmeyen bir yarışa dönüşür.

Sağlamlık ayrıca sistemin koşullar değiştiğinde de makul çalışmasını ister. Bir şehrin trafik verisiyle eğitilmiş bir model, başka bir şehirde ya da bayram trafiğinde yanılabilir. Bu tür sınırların önceden test edilip kullanıcıya bildirilmesi, hem güvenliğin hem de şeffaflığın gereğidir.

Gizlilik ve veri koruma

Gizlilik ilkesi, yapay zekâ sistemlerinin kişisel verileri yalnız gerektiği kadar toplamasını, güvenle saklamasını ve kişinin haberi olmadan başka amaçlarla kullanmamasını ister. Türkiye'de kişisel veri işleme kuralları KVKK çerçevesinde düzenlenir; ayrıntılı yükümlülükler için kurumun resmî sitesindeki güncel rehberlere bakmak gerekir.

Kullanıcı tarafında en sık yapılan hata, başkalarına ait kişisel bilgileri bir sohbet botuna yapıştırmaktır. Bir müşterinin adını, telefonunu ve şikâyetini içeren e-postayı "buna cevap yaz" diye bir araca vermek, o müşterinin verisini üçüncü bir şirketle paylaşmak demektir. Bunun yerine kişisel bilgileri çıkarıp yalnız metnin özünü vermek, hem etik hem de daha güvenli bir yoldur.

Toplumsal fayda ve çevre

Toplumsal fayda ilkesi, yapay zekânın yalnız onu satan şirkete değil, topluma da yarar sağlamasını ister. Bu ilke, son yıllarda çevre boyutuyla birlikte tartışılıyor. Büyük modelleri eğitmek ve çalıştırmak ciddi miktarda elektrik ve soğutma suyu gerektiriyor; bu kaynak tüketiminin nasıl ölçüldüğünü yapay zekâ ne kadar su harcıyor yazısında rakamlarıyla ele aldık.

Bireysel kullanımda etik: ödev, iş ve içerik

Etik ilkeler yalnız sistemi geliştirenler için değil, kullananlar için de geçerlidir. Bir öğrenci için temel soru, yapay zekâdan alınan yardımın okulun izin verdiği sınırlar içinde olup olmadığıdır. Bazı öğretmenler fikir toplamaya izin verir, metnin tamamını yazdırmaya izin vermez. Bu sınırları ve dürüst kullanım yollarını yapay zekâ ile ödev yazısında ele aldık.

İş hayatında etik kullanım, müşteriye ya da işverene yapay zekâ kullandığınızı gerektiğinde açıkça söylemek ve teslim ettiğiniz işin doğruluğundan sizin sorumlu olduğunuzu kabul etmekle başlar. Bir freelancer, bir müşteriye yapay zekâyla yazılmış ve kontrol edilmemiş bir metin teslim ederse, içindeki yanlış bilginin sorumluluğu araca değil ona aittir. Kurumlar için daha ayrıntılı bir çerçeveyi yapay zekânın şirketlerde kullanımı yazısında bulabilirsiniz.

İçerik üretiminde ise iki konu öne çıkar: başkasının emeği ve sahte içerik. Belirli bir sanatçının tarzını birebir taklit eden görseller ya da başkasının yazısını yeniden ürettirip kendi adınıza yayımlamak telif hakkı ve emek tartışmalarına girer. Gerçek bir kişiyi söylemediği bir şeyi söylüyormuş gibi gösteren deepfake içerikler ise çoğu durumda hem etik dışı hem de hukuki risk taşır.

İlkelerin göz ardı edilmesi hâlinde ortaya çıkabilecek riskleri daha geniş bir çerçevede yapay zekâ tehlikeli mi yazısında tartıştık.

Kendi kullanımınız için etik kontrol listesi

Bu hafta, yapay zekâ ile yaptığınız son üç işi aşağıdaki sorularla gözden geçirin. Her soruya "evet" diyebiliyorsanız, kullanımınız büyük ölçüde etik ilkelerle uyumludur. "Hayır" dediğiniz yer, değiştirmeniz gereken alışkanlığı gösterir.

1. Araca başkasına ait kişisel bilgi (ad, telefon, kimlik numarası, sağlık bilgisi) vermekten kaçındım mı?
2. Çıktıdaki bilgileri, rakamları ve kaynakları kendim kontrol ettim mi?
3. Okulum, işverenim ya da müşterim yapay zekâ kullanımını bekliyorsa ya da soruyorsa, açıkça belirttim mi?
4. Ürettiğim görsel ya da metin, gerçek bir kişiyi yanıltıcı biçimde gösteriyor mu, kontrol ettim mi?
5. Bir karar verirken yapay zekânın önerisini sorgulamadan mı kabul ettim, yoksa gerekçesini değerlendirdim mi?

Listeyi bir kez doldurmak yeterli değildir; yeni bir araca başladığınızda ya da yeni bir işte yapay zekâ kullanacağınızda tekrar bakın. Kullandığınız aracın gizlilik ayarlarını açıp sohbetlerinizin model eğitiminde kullanılıp kullanılmadığını kontrol etmek, bu hafta yapabileceğiniz en hızlı ve somut adımdır.