Yapay Zekâ Tehlikeli mi? Gerçek Riskler, Abartılan Korkular ve Önlemler

Yapay zekâ bugün en çok dolandırıcılık, sahte içerik, yanlış bilgi, önyargılı kararlar ve kişisel verilerin kötüye kullanımı yoluyla zarar veriyor. Bu riskler gerçek ve ölçülebilir; çoğuna karşı bireysel önlem almak da mümkün. İnsanlığın varlığını tehdit eden, kontrolden çıkmış bir yapay zekâ senaryosu ise ciddi araştırmacıların tartıştığı ama ne kadar olası olduğu konusunda uzlaşı bulunmayan bir konu.

Aşağıda riskleri iki grupta ele alıyoruz: bugün yaşanan somut zararlar ve geleceğe dair tartışmalı senaryolar. Her birinde neyin kanıtlanmış, neyin görüş olduğunu ayırmaya çalışıyoruz. Son bölümde de kendinizi ve ailenizi korumak için bu hafta yapabileceğiniz adımlar var.

Yapay zekâ tehlikeli mi, kısaca cevap

Yapay zekâ, kendi başına iyi ya da kötü olmayan, ama kötü amaçla kullanıldığında zarar verme kapasitesi yüksek bir araçtır. Bıçak ya da otomobil gibi düşünebilirsiniz: tehlikeyi büyük ölçüde onu kimin, nasıl kullandığı belirler. Fark şu ki yapay zekâ, bir kişinin yapabileceği kötü işi binlerce kez çoğaltabilir ve bunu çok ucuza yapabilir.

Riskleri değerlendirirken iki soruyu ayırmak işe yarar. Birincisi "şu an kime, nasıl zarar veriyor?" sorusudur ve cevabı haberlerde, mahkeme kayıtlarında ve dolandırıcılık şikâyetlerinde görülür. İkincisi "ileride ne olabilir?" sorusudur ve cevabı tahmine, varsayıma ve kişisel görüşe dayanır. İkisini karıştırmak, ya gereksiz paniğe ya da gerçek tehlikeyi hafife almaya yol açar.

Risk	Bugün yaşanıyor mu	Kimi etkiler	Bireysel önlem mümkün mü
Ses ve görüntü taklidiyle dolandırıcılık	Evet	Herkes, özellikle yaşlılar	Evet
Sahte haber ve deepfake	Evet	Toplum, kamu figürleri	Kısmen
Yanlış bilgi (halüsinasyon)	Evet	Kullanıcılar	Evet
Önyargılı otomatik kararlar	Evet	Başvuru sahipleri, çalışanlar	Sınırlı
Kişisel veri kullanımı	Evet	Kullanıcılar	Evet
İş gücü dönüşümü	Başladı	Bazı meslek grupları	Kısmen
Kontrolden çıkan süper zekâ	Hayır, tartışmalı	Tüm insanlık	Hayır

Bugün yaşanan somut riskler nelerdir?

En yaygın ve en kişisel risk dolandırıcılıktır. Birkaç saniyelik bir ses kaydı, ses klonlama araçlarıyla bir kişinin sesini taklit etmek için kullanılabiliyor. Dolandırıcılar bu sesle aile üyelerini arayıp acil para istiyor. Bu yöntemin işleyişini ve korunma yollarını yapay zekâ ses taklidi dolandırıcılığı yazısında ayrıntılı anlattık.

İkinci risk sahte içeriktir. Deepfake videolar, tanınmış bir kişiyi hiç söylemediği bir şeyi söylüyormuş gibi gösterebiliyor. Bunlar sahte yatırım reklamlarında, şantajda ve siyasi dezenformasyon kampanyalarında kullanılıyor. Sahte bir ünlünün "bu uygulamayla günde şu kadar kazanıyorum" dediği video reklamları, bu riskin sık rastlanan bir örneği.

Üçüncü risk, yapay zekânın kendisinin yanlış bilgi üretmesidir. Sohbet botları, ikna edici bir dille var olmayan bir kanun maddesi, uydurma bir kaynak ya da yanlış bir ilaç dozu yazabilir. Bu olguya halüsinasyon denir. Tehlike, kullanıcının cevabı kontrol etmeden bir karara dönüştürmesiyle büyür.

Bir örnek: kira sözleşmesindeki bir maddeyi soran biri, sohbet botundan "bu madde geçersizdir" cevabı alıp ev sahibiyle buna göre tartışabilir. Cevap yanlışsa, kişi hem hukuki hem maddi zarar görebilir. Riskin büyüklüğü, konunun önemine bağlıdır: bir tatil önerisinde yanılmak ile ilaç etkileşiminde yanılmak aynı şey değildir.

Siber saldırılar ve kötüye kullanım

Yapay zekâ, saldırganların işini de kolaylaştırıyor. Eskiden imla hatalarıyla dolu olduğu için kolay fark edilen oltalama e-postaları, artık akıcı ve kişiye özel bir dille yazılabiliyor. Bu da "bozuk Türkçe varsa sahtedir" gibi eski kontrol yöntemlerinin tek başına yetmediği anlamına geliyor.

Saldırganlar sahte web siteleri, sahte müşteri hizmetleri sohbetleri ve sahte iş ilanları üretmek için de bu araçlardan yararlanabiliyor. Savunma tarafı da aynı teknolojiyi kullanıyor: bankalar ve e-posta sağlayıcıları şüpheli işlemleri ve mesajları yakalamak için makine öğrenmesi modelleri çalıştırıyor. Kısacası yarış iki taraflı ve sizin payınıza düşen, bağlantıya tıklamadan önce göndereni doğrulamak.

Çocuklar ve gençler için özel riskler

Çocuklar ve gençler, yapay zekâ ile kurulan sohbetlerde gerçek ile kurguyu ayırmakta daha çok zorlanabilir. Sohbet botunu bir arkadaş ya da danışman gibi görmek, yanlış tavsiyeye fazla güvenmeye ya da gerçek ilişkilerden uzaklaşmaya yol açabilir. Ödevlerde yapay zekâya aşırı yaslanmak da öğrenmenin kendisini zayıflatabilir.

Ebeveynler için pratik yol yasaklamak değil, birlikte kullanmak ve sınır koymaktır. Hangi uygulamanın hangi yaş için uygun olduğunu, kullanım koşullarındaki yaş sınırından kontrol edin. Konuyu daha geniş ele aldığımız yapay zekânın çocuklar üzerindeki etkisi yazısında yaş gruplarına göre öneriler bulabilirsiniz.

Önyargı ve adaletsiz kararlar

Yapay zekâ, eğitildiği verideki önyargıyı öğrenir ve bazen büyütür. Geçmiş işe alım kararlarıyla eğitilmiş bir model, geçmişte belirli bir grubun daha az işe alındığını "kural" olarak öğrenebilir. Bu duruma algoritmik önyargı denir ve kredi, sigorta, işe alım gibi alanlarda insanların hayatını doğrudan etkiler.

Sorunu zorlaştıran şey, kararın neden verildiğinin çoğu zaman görülememesidir. Reddedilen bir başvuru sahibi, modelin hangi bilgiye bakarak karar verdiğini öğrenemeyebilir. Bu yüzden etik tartışmalarında şeffaflık ve insan denetimi ilk sıralarda yer alır; bu ilkeleri yapay zekâ etik ilkeleri yazısında ele aldık.

Kişisel veriler ve gizlilik

Bir sohbet botuna yazdığınız her şey, şirketin politikasına göre sunucularda saklanabilir. Bazı hizmetler bu konuşmaları modeli geliştirmek için kullanabilir, bazıları ayarlardan kapatmanıza izin verir. Sağlık durumu, kimlik numarası ya da şirket sırrı gibi kişisel veri içeren bilgileri paylaşmak, ileride kontrol edemeyeceğiniz bir risk yaratır.

Uygulamaların kendisi de risk taşıyabilir. Resmî mağaza dışından indirilen "ücretsiz premium" yapay zekâ uygulamaları kötü amaçlı yazılım içerebilir. Bu tarafı yapay zekâ uygulamaları tehlikeli mi yazısında, uygulama izinleri ve güvenli kurulum adımlarıyla birlikte inceledik.

İş hayatı ve ekonomi için riskler

Yapay zekâ, bazı meslekleri tamamen ortadan kaldırmaktan çok, mesleklerin içindeki görevleri değiştiriyor. Metin çevirisi, müşteri hizmetleri, basit grafik tasarım ve veri girişi gibi tekrarlı işler bu dönüşümden ilk etkilenen alanlar arasında. Bu, bazı çalışanlar için gelir kaybı ya da yeni beceri öğrenme baskısı anlamına geliyor.

Ekonomik bir başka endişe, gücün birkaç büyük şirkette toplanmasıdır. Çok büyük modelleri eğitmek ciddi miktarda veri, enerji ve donanım gerektirdiği için bu işi yapabilen kuruluş sayısı az. Hangi mesleklerin nasıl etkilenebileceğini yapay zekâ hangi meslekleri bitirecek yazısında daha ayrıntılı tartıştık.

Yapay zekâ insanlık için tehlikeli mi?

Bu sorunun bilimsel bir kesin cevabı yok; birbirine karşıt, ciddi görüşler var. Bir grup araştırmacı, insanı birçok alanda aşan bir yapay genel zekâ geliştirilirse, bu sistemin hedeflerinin insan çıkarlarıyla örtüşmeyebileceğini ve kontrol edilmesinin zorlaşabileceğini savunuyor. Bu kaygı, yapay zekâ hizalaması denen araştırma alanının çıkış noktası.

Kamuoyunda bu görüşün en bilinen ifadesi, Mayıs 2023'te Center for AI Safety tarafından yayımlanan kısa bildiridir. Bildiride yapay zekâdan kaynaklanan yok olma riskinin, salgınlar ve nükleer savaş gibi riskler yanında küresel bir öncelik olması gerektiği söyleniyordu. Metni çok sayıda akademisyen ve yapay zekâ şirketi yöneticisi imzaladı. Aynı ay, derin öğrenmenin öncülerinden Geoffrey Hinton da bu riskler hakkında serbestçe konuşabilmek için Google'dan ayrıldığını açıkladı.

Karşı görüşteki araştırmacılar ise bu senaryoların spekülatif olduğunu düşünüyor. Onlara göre bugünkü sistemler kendi hedefini belirleyen varlıklar değil, istatistiksel tahmin araçları. Uzak bir felakete odaklanmak, bugün yaşanan önyargı, dolandırıcılık ve iş gücü sorunlarından dikkati dağıtabilir. Araştırmacıların kişisel risk tahminlerine verilen ad olan P(doom) değerlerinin kişiden kişiye çok farklı çıkması da bu belirsizliği gösteriyor.

Abartılan korkular hangileri?

Bilim kurgu filmlerindeki gibi bir sabah "uyanıp" insanlara savaş açan bir yapay zekâ, bugünkü teknolojinin işleyişiyle örtüşmüyor. Sohbet botları siz yazmadıkça bir şey yapmaz, kendi başına internete bağlanıp plan kurmaz; bu tür yetenekler ancak geliştiricilerin özellikle bağladığı araçlarla mümkün olur. Telefonunuzdaki bir uygulamanın sizi gizlice "izleyip" bilinç kazanması da gerçekçi bir korku değil.

Gerçekçi olan kaygı daha sıradan görünür: insanların yapay zekâya fazla güvenmesi, kritik kararları denetimsiz sistemlere bırakması ve kötü niyetli kişilerin bu araçları ucuza kullanabilmesi. Abartılı korku ile haklı dikkat arasındaki çizgiyi bu ayrım çizer.

Riskleri azaltmak için neler yapılıyor?

Riskleri azaltmak için üç düzeyde çalışma var: şirketler, hükümetler ve araştırmacılar. Büyük yapay zekâ şirketleri modelleri yayımlamadan önce kötüye kullanım testleri yapıyor ve zararlı talepleri reddeden filtreler ekliyor. Bu çalışmalar yapay zekâ güvenliği başlığı altında toplanıyor.

Hükümetler tarafında ise farklı ülkeler yüksek riskli kullanım alanlarına kurallar getiren düzenlemeler hazırlıyor ya da yürürlüğe koyuyor. Bu düzenlemelerin içeriği ülkeden ülkeye değişiyor ve sık güncelleniyor; belirli bir kuralı merak ediyorsanız ilgili kurumun resmî sayfasından güncel hâlini kontrol edin. Üretilen içeriğe görünmez işaret eklemek ve yapay zekâ ile üretildiğini etiketlemek de sık tartışılan önlemler arasında.

Hiçbir önlem tek başına yeterli değil. Filtreler aşılabiliyor, etiketler silinebiliyor ve düzenlemeler teknolojinin gerisinde kalabiliyor. Bu yüzden bireysel farkındalık hâlâ en hızlı işleyen savunma hattı.

Bu hafta kendinizi korumak için yapabilecekleriniz

Bir senaryo üzerinden düşünelim. Akşam saatinde kardeşinizin sesiyle bir arama geliyor; kaza yaptığını ve hemen 25.000 TL göndermeniz gerektiğini söylüyor. Ses tanıdık, panik gerçek gibi.

Doğru tepki, telefonu kapatıp kardeşinizi bildiğiniz numaradan aramak ya da önceden belirlediğiniz bir aile parolasını sormaktır. Rakam yalnız örnek, ama senaryo gerçek dolandırıcılık şikâyetlerinde sık görülen bir kalıp.

Bu hafta şu adımları atabilirsiniz:

1. Ailenizle, acil durum aramalarında soracağınız basit bir parola belirleyin.
2. Yaşlı yakınlarınıza, tanıdık bir sesin para istemesinin artık tek başına kanıt olmadığını anlatın.
3. Kullandığınız sohbet botunun gizlilik ayarlarını açın ve konuşmaların eğitimde kullanılıp kullanılmadığını kontrol edin.
4. Sosyal medyada gördüğünüz "ünlü önerisi" yatırım videolarını, kişinin resmî hesabından doğrulamadan ciddiye almayın.
5. Yapay zekânın verdiği sağlık, hukuk ve para bilgilerini mutlaka bir uzmana ya da resmî kaynağa danışarak kontrol edin.

Şüpheli bir mesaj ya da arama aldığınızda nelere bakacağınızı dolandırıcılık mesajları nasıl anlaşılır yazısındaki kontrol listesiyle pratik edebilirsiniz. Bu kontrolleri bir alışkanlığa dönüştürmek, teknolojinin kendisinden çok daha hızlı koruma sağlar.