Yapay Zekânın Sınırlılıkları: Çözemediği Sorular ve Nedenleri

Yapay zekânın sınırlılıkları dört ana başlıkta toplanır: yeni ve çok adımlı akıl yürütmede tutarsızlık, güncel bilgiye kendiliğinden erişememe, uzun metinlerde ayrıntı kaçırma ve fiziksel dünyayı deneyimleyememe. Bu sınırlar modelin kötü olduğu anlamına gelmez; nasıl çalıştığının doğal sonucudur. Hangisinin hangi işte ortaya çıktığını bilmek, yapay zekâya neyi bırakıp neyi kendinizde tutacağınıza karar vermenizi kolaylaştırır.

Aşağıda her sınırı bir örnekle açıklıyor, nedenini anlatıyor ve günlük kullanımda nasıl çözüleceğini gösteriyoruz. Yanlış bilgi ve halüsinasyon konusunu yapay zekânın verdiği bilgiler doğru mu yazısında ayrıca ele aldığımız için burada daha çok yapısal sınırlara odaklanıyoruz.

Sınırlar nereden kaynaklanır?

Sınırların çoğu, dil modellerinin nasıl eğitildiğinden kaynaklanır. Bir büyük dil modeli, çok büyük miktarda metin üzerinde "sıradaki kelime ne olmalı" sorusunu cevaplamak üzere eğitilir. Bu yöntem dili, kalıpları ve pek çok bilgiyi şaşırtıcı ölçüde iyi öğretir, ama modele dünyayı gözlemleme, deney yapma ya da bir sonucu kendi kendine doğrulama yeteneği vermez.

Modelin bilgisi, eğitim verisindeki metinlerle sınırlıdır ve belli bir tarihte donar. Gördüğü metinleri ise kelimeler yerine token denen parçalar hâlinde işler. Bu iki teknik ayrıntı, aşağıdaki sınırların önemli bir kısmını açıklar.

Sınır	Gündelik örnek	Temel neden
Akıl yürütme	Kuralları yeni yazılmış bir bulmacada tutarsız cevap	Kalıp tanıma ile adım adım mantığın karışması
Güncellik	Geçen haftaki bir gelişmeyi bilmemek	Eğitim verisinin belli bir tarihte bitmesi
Uzun bağlam	Uzun bir sözleşmenin ortasındaki maddeyi kaçırmak	Sınırlı bağlam ve dikkat dağılımı
Fiziksel dünya	Bir yemeğin tadını ya da bir kumaşın dokusunu bilmemek	Duyu ve beden deneyimi olmaması
Sorumluluk	Hukuki bir kararın sonucunu üstlenememek	Karar veren bir özne olmaması

Akıl yürütmede nerede takılır?

Yapay zekâ, eğitim verisinde sık görülen soru türlerinde çoğu zaman başarılıdır, ama kuralları yeni tanımlanmış bir problemde tutarsızlaşabilir. Matematik ve mantık sorularında model, doğru cevabı kendi akıl yürütmesiyle bulmak yerine benzer sorulardan öğrendiği kalıba yaslanabilir. Soru bu kalıbın dışına çıktığında hata ihtimali artar.

Basit bir deney yapabilirsiniz. İyi bilinen bir mantık bilmecesini alın ve küçük bir ayrıntısını değiştirin; örneğin nehri geçen çiftçi bilmecesinde kurdu tamamen kaldırın. Bazı modeller değişikliği fark etmeden bilmecenin bilinen çözümünü tekrarlayabilir. Bu, modelin soruyu "okumak" yerine tanıdık bir kalıba eşlediğini gösterir.

Çok adımlı hesaplar da benzer bir risk taşır. Yirmi adımlık bir hesapta her adımın yüzde 98 doğru olduğunu varsayalım (rakam örnek amaçlıdır). Yirmi adımın hepsinin doğru çıkma olasılığı yaklaşık yüzde 67'ye düşer. İnsanlar da hata yapar, ama bir insan hesabını kontrol edebilir; model ise kontrol etmesi istenmediği sürece ilk ürettiği sonucu sürdürebilir.

Modelin adımlarını yazarak düşünmesini istemek bu sorunu azaltır. Bu yaklaşıma düşünce zinciri denir ve yeni modellerin bazıları bunu cevap vermeden önce kendiliğinden yapar. Yine de adımların yazılmış olması doğru olduklarını garanti etmez; önemli bir hesapta sonucu ayrı bir araçla kontrol edin.

Harf saymak neden zor?

Harf saymak gibi basit görünen işler, modelin metni nasıl gördüğüyle ilgilidir. Model "kalemlik" kelimesini harf harf değil, bir ya da birkaç parça olarak işler; bu parçalara ayırma işlemine tokenizasyon denir. Kelimenin içinde kaç tane "l" olduğu sorusu, model için doğrudan görülebilen bir bilgi değildir. Bu yüzden karmaşık bir makaleyi özetleyen bir model, basit bir harf sayımında yanılabilir.

Güncel bilgi neden eksik kalır?

Model, eğitim verisinin bittiği tarihten sonra olan olayları kendiliğinden bilmez. Bu tarihe bilgi kesim tarihi denir ve her modelde farklıdır. Seçim sonuçları, yeni çıkan bir yasa, bir şirketin son fiyat listesi ya da dünkü maç skoru bu sınırın dışında kalır.

Bugün birçok sohbet aracı internette arama yapabildiği için bu sınır kısmen aşılmış görünür. Ancak arama özelliği her zaman açık değildir, bazı araçlarda yalnız ücretli planda bulunur ve model bazen arama yapmadan eski bilgisiyle cevap verir. Cevabın bir kaynağa bağlantı verip vermediğine bakmak, aramanın gerçekten yapılıp yapılmadığını anlamanın en kolay yoludur.

Bir başka ayrıntı da şudur: model bilgi kesim tarihini her zaman doğru bilmez. "Bugün hangi tarih?" ya da "En son hangi sürüm çıktı?" gibi sorularda kendinden emin ama yanlış bir cevap verebilir. Tarih, fiyat, oran ve mevzuat gibi değişen bilgilerde resmî kaynağa bakmak bu yüzden şarttır.

Uzun metinlerde neyi kaçırır?

Model bir seferde ancak belli miktarda metni dikkate alabilir; bu sınıra bağlam penceresi denir. Yeni modellerde bu pencere çok büyüdü ve yüzlerce sayfalık belgeleri tek seferde yüklemek mümkün hâle geldi. Ancak pencerenin büyük olması, içindeki her ayrıntıya eşit dikkat edildiği anlamına gelmez.

Pratikte modeller uzun belgelerin başını ve sonunu, ortasından daha iyi hatırlama eğilimi gösterebilir. Somut bir senaryo düşünün: seksen sayfalık bir kira sözleşmesini yükleyip "erken çıkış cezası var mı?" diye soruyorsunuz. İlgili madde kırk ikinci sayfada, başka bir başlığın altında. Model "sözleşmede böyle bir madde yok" diyebilir ya da başka bir maddeyi yanlış yorumlayabilir.

Bunu azaltmanın yolu, uzun belgeyi bölümlere ayırmak ve soruyu ilgili bölümle birlikte sormaktır. Ayrıca modelden cevabının dayandığı maddeyi sayfa numarasıyla göstermesini istemek, cevabı kontrol etmenizi kolaylaştırır. Gösterilen madde gerçekten orada değilse cevaba güvenmeyin.

Sohbetler uzadıkça benzer bir sorun yaşanır. Sohbetin başında verdiğiniz bir talimat, otuz mesaj sonra unutulmuş gibi davranılabilir. Önemli bir kuralı aralarda yeniden hatırlatmak ya da yeni bir sohbet başlatmak çoğu zaman en pratik çözümdür.

Söylenmeyeni anlamakta neden zorlanır?

İnsanlar konuşurken çoğu şeyi söylemeden bırakır ve karşı tarafın bağlamı tamamlamasını bekler. Yapay zekâ ise yalnız yazdığınızı görür; sizin kim olduğunuzu, hangi şehirde yaşadığınızı, bütçenizi ya da bir önceki hafta ne konuştuğunuzu, siz söylemedikçe bilmez. Bu yüzden eksik sorulan bir soruya genel bir cevap verir ve bu cevap sizin durumunuza uymayabilir.

Bir örnek düşünün. "Aylık 30 bin TL ile nasıl birikim yaparım?" diye soran biri İstanbul'da kirada oturan bekâr bir öğrenci de olabilir, Anadolu'da kendi evinde yaşayan üç çocuklu bir ebeveyn de (rakam örnek amaçlıdır). Model bu farkı soramazsa ikisine de aynı listeyi verir. Ayrıntıyı baştan vermek, cevabın kalitesini çoğu zaman modeli değiştirmekten daha çok artırır.

İroni, mizah ve kültürel göndermeler de benzer bir zorluk taşır. Türkçedeki bir deyimi kelimesi kelimesine yorumlayabilir, bir şakayı ciddi bir soru sanabilir ya da yerel bir kurumu başka bir ülkedeki benzeriyle karıştırabilir. Türkiye'ye özgü mevzuat, yerel prosedürler ve kurum adları gibi konularda eğitim verisindeki Türkçe içerik İngilizceye göre daha az olduğu için hata ihtimali artabilir.

Fiziksel dünyayı neden bilemez?

Dil modeli dünyayı metin üzerinden öğrenir; dokunmaz, tatmaz, nesneleri hareket ettirmez. Bir kekin neden çöktüğünü kitaplarda yazanlara göre açıklayabilir, ama mutfağınızdaki fırının ısısını, unun nemini ya da kalıbın boyutunu bilemez. Görsel yükleyebildiğiniz çok modlu modeller bu açığı kısmen kapatır, ama bir fotoğraf da dünyanın yalnız bir anlık görüntüsüdür.

Araştırmacılar bu eksikliği gidermek için dünyanın nasıl işlediğini simüle eden dünya modelleri üzerinde çalışıyor. Robotik alanında da ilginç bir durum vardır: insanlar için kolay olan yürümek, bir bardağı kavramak ya da çamaşır katlamak, makineler için satranç oynamaktan çok daha zor olabilir. Bu gözlem yapay zekâ literatüründe Moravec paradoksu olarak anılır.

Bu yüzden fiziksel beceri gerektiren işler, yapay zekânın en yavaş ilerlediği alanlar arasında kalıyor. Bir tesisatçının dar bir alanda boruyu sökmesi, bir hemşirenin hastayı yatağında çevirmesi ya da bir aşçının tadına bakarak tuzu ayarlaması, metin üreten bir modelin yapabileceği işler değildir.

Yapay zekânın yapamayacağı işler hangileri?

Yapay zekânın tek başına üstlenemeyeceği işler, genellikle sorumluluk, güven ve beden gerektiren işlerdir. Bir doktorun teşhisine, bir hâkimin kararına ya da bir öğretmenin bir öğrenci hakkındaki değerlendirmesine yapay zekâ yardımcı olabilir, ama kararın hukuki ve etik sorumluluğunu taşıyamaz. Model bir hata yaptığında ondan hesap sorulamaz; sorumluluk onu kullanan kişide kalır.

Kararın gerekçesini açıklamak da bir sınırdır. Bir modelin neden belirli bir cevabı ürettiğini tam olarak izlemek çoğu zaman mümkün değildir; buna kara kutu problemi denir. Bir kredi başvurusunun ya da bir iş başvurusunun neden reddedildiğini açıklamanız gereken durumlarda bu sınır pratik bir sorun hâline gelir.

Değer yargısı gerektiren sorular da ayrı bir alandır. "Bu işi bırakmalı mıyım?" ya da "Hangi bölümü seçmeliyim?" gibi sorularda model artıları ve eksileri sıralayabilir, ama hayatınızı, önceliklerinizi ve sizi tanıyan insanların görüşünü bilemez. Yapay zekânın mesleklere etkisini yapay zekâ hangi meslekleri bitirecek yazısında ayrıca ele aldık.

Sınırları bilerek nasıl kullanılır?

Sınırları bilmek, yapay zekâyı daha az değil, daha doğru kullanmayı sağlar. Genel bir kural olarak; taslak, fikir, özet, açıklama ve biçimlendirme gibi işlerde yapay zekâya güvenebilir, ama hesap, tarih, kaynak, mevzuat ve kişisel karar gibi konularda son kontrolü kendinizde tutabilirsiniz.

Pratikte birkaç alışkanlık işe yarar.

Hesap gerektiren işlerde modelden formülü isteyip hesabı bir tabloda yapın. Güncel bilgi gerektiren sorularda kaynağa bağlantı isteyin ve bağlantıyı açın. Uzun belgelerde soruyu ilgili bölümle sorun ve sayfa numarası isteyin. Model "bilmiyorum" demediğinde bile bilmeyebileceğini unutmayın; emin dille yazılmış bir cevap, doğru bir cevap değildir.

Modellerin nasıl çalıştığını daha iyi anlamak isterseniz yapay zekâ nasıl çalışır yazısı temel kavramları sırasıyla anlatıyor. Bilinç ve anlama tartışmaları içinse yapay zekânın bilinci var mı yazısına göz atabilirsiniz.

Kendi sınır listenizi çıkarın

Bu hafta yapay zekâyı en sık kullandığınız üç işi bir kâğıda yazın. Her birinin yanına, yukarıdaki tablodaki beş sınırdan hangisinin o işte risk oluşturduğunu not edin: akıl yürütme, güncellik, uzun bağlam, fiziksel dünya ya da sorumluluk.

Sonra her iş için tek bir kontrol adımı belirleyin. Hesaplarda tabloyla doğrulama, güncel bilgide resmî kaynağa bakma, uzun belgede sayfa numarası isteme gibi. Bu küçük liste, bir sonraki kullanımda nerede yavaşlamanız gerektiğini önceden gösterir ve sizi en pahalı hatalardan korur.