Otonom Silah Sistemleri Nedir?
İngilizce: Lethal Autonomous Weapons
Yayın: · Son güncelleme:
Otonom Silah Sistemleri Nedir? Kısaca
Otonom silah sistemleri, bir kez devreye alındıktan sonra hedefleri insan müdahalesi olmadan seçip etkisiz hâle getirebilen silah sistemleridir. Ölümcül otonom silahlar olarak da anılır ve uluslararası alanda yoğun biçimde tartışılır.
Otonom silah sistemleri, İngilizcede "lethal autonomous weapons" olarak geçen ve hedef seçme ile saldırma kararını belirli koşullarda kendi başına verebilen silahları ifade eder. Yapay zekâ etiğinin ve uluslararası güvenliğin en kritik konularından biridir.
Otonom silah sistemleri nedir?
Bu sistemleri tanımlarken temel ölçüt, kritik kararlarda insanın rolüdür:
- İnsan döngüde: Sistem hedef önerir, saldırı kararını insan verir.
- İnsan döngünün üzerinde: Sistem kendi başına hareket eder, insan izler ve gerekirse durdurabilir.
- İnsan döngünün dışında: Sistem hedefi seçer ve insan onayı olmadan saldırır.
Tartışmaların odağı, özellikle son kategoride yer alan ve ölümcül kararların insan denetimi olmadan verildiği sistemlerdir. Bu kavram, insan döngüde ilkesiyle doğrudan ilişkilidir.
Neden tartışılıyor?
- Hesap verebilirlik: Bir sistem hata yaparak sivillere zarar verirse sorumluluğun kimde olduğu belirsizleşir.
- Uluslararası insancıl hukuk: Ayrım gözetme ve orantılılık ilkelerine bir makinenin nasıl uyacağı sorgulanır.
- Teknik güvenilirlik: Görüntü tanıma hataları, beklenmedik ortam koşulları ve siber saldırılar ciddi riskler doğurur.
- Tırmanma ve yayılma: Kararların makine hızında alınması çatışmaların hızla tırmanmasına yol açabilir; bu teknolojilerin devlet dışı aktörlere yayılması da endişe kaynağıdır.
- İnsan onuru: Ölüm kararının makineye bırakılmasının temel etik ilkelerle çeliştiği savunulur.
Uluslararası düzenleme çabaları
Konu, Birleşmiş Milletler çatısı altında Belirli Konvansiyonel Silahlar Sözleşmesi kapsamında yıllardır tartışılmaktadır. Bazı devletler ve sivil toplum kuruluşları bağlayıcı bir yasak veya düzenleme çağrısı yaparken, bazı devletler mevcut hukukun yeterli olduğunu savunur. Henüz bu sistemleri kapsamlı biçimde düzenleyen bağlayıcı bir uluslararası anlaşma bulunmamaktadır; gelişmeleri güncel resmî kaynaklardan takip etmek gerekir. Genel çerçeve için yapay zekâ etiği maddesine bakabilirsin.
Sıkça Sorulan Sorular
Otonom silahlar ile insansız hava araçları aynı şey mi?
Hayır. İnsansız hava araçlarının çoğu uzaktan bir operatör tarafından yönetilir ve saldırı kararını insan verir. Otonom silah sistemlerinde ise hedef seçme ve saldırı kararı insan müdahalesi olmadan verilebilir.
Otonom silahları yasaklayan bir uluslararası anlaşma var mı?
Bu sistemleri kapsamlı biçimde düzenleyen bağlayıcı bir anlaşma henüz yoktur. Konu Birleşmiş Milletler bünyesinde tartışılmaya devam etmektedir.