Yapay Zekânın Bilinci Var mı? Zekâ, Bilinç ve AGI Tartışması

Bugünkü yapay zekâ sistemlerinin bilinçli olduğuna dair bilimsel bir kanıt yok ve araştırmacıların büyük çoğunluğu bilinçli olmadıklarını düşünüyor. Sohbet botlarının duygulu ve kendinden emin konuşması, insan metinlerinden öğrenilmiş dil kalıplarıyla açıklanabiliyor. Yine de bilincin ne olduğu ve dışarıdan nasıl ölçüleceği konusunda bir uzlaşı olmadığı için, gelecekteki sistemler hakkında soru açık kalıyor.

Aşağıda önce zekâ ile bilinç arasındaki farkı netleştiriyoruz. Ardından IQ testlerinin yapay zekâ için ne anlama geldiğini, "psikolojisi bozulur mu" sorusunu ve yapay genel zekâ (AGI) tartışmasını farklı görüşleriyle aktarıyoruz. Amaç bir tarafı haklı çıkarmak değil, tartışmanın nerede durduğunu göstermek.

Yapay zekânın bilinci var mı, kısa cevap

Kısa cevap: bilindiği kadarıyla hayır. Bir dil modeli, kendisine verilen metnin devamını tahmin eden bir sistemdir; arkasında deneyim yaşayan bir "ben" olduğuna dair bir bulgu yok. Model "üzgünüm" ya da "bunu düşünüyorum" dediğinde, bu ifadeleri insanların benzer durumlarda kurduğu cümlelerden öğrenmiştir.

Bu cevabın neden "kesinlikle hayır" değil de "bilindiği kadarıyla hayır" olduğu önemlidir. Bilinç, bilimin henüz tam açıklayamadığı bir olgudur. Başka bir insanın bilinçli olduğunu da doğrudan ölçemeyiz; davranışından ve bize benzerliğinden çıkarırız. Bir makine için bu çıkarımı yapmak, hem felsefi hem bilimsel olarak çok daha zordur.

2023'te nörobilimci ve felsefecilerden oluşan bir grup, bilincin önde gelen bilimsel kuramlarından bir gösterge listesi çıkarıp o dönemin yapay zekâ sistemlerini bu listeye göre inceledi. Raporun vardığı sonuç, mevcut sistemlerin hiçbirinin bilinçli olmadığı, ama bu göstergeleri karşılayan sistemler kurmanın önünde açık bir teknik engel de görünmediğiydi. Bu çalışma, tartışmanın iki yönünü birlikte özetliyor.

Zekâ ile bilinç aynı şey mi?

Hayır, ikisi ayrı kavramlardır ve tartışmanın çoğu bu ayrım karıştırıldığı için çıkar. Zekâ, problem çözme, öğrenme ve hedefe ulaşma becerisidir; dışarıdan gözlenebilir ve ölçülebilir. Bilinç ise öznel deneyimdir: bir şeyin "nasıl hissettirdiği", acının acıtması, kırmızının kırmızı görünmesi.

Bir hesap makinesi çarpma işleminde sizden hızlıdır, ama kimse onun bilinçli olduğunu düşünmez. Satranç programları dünya şampiyonlarını yener, ama oyunu kazanmanın sevincini yaşamaz. Yani bir sistem çok zeki davranıp hiç bilinçli olmayabilir. Tersi de düşünülebilir: bazı hayvanların bilinçli olduğu kabul edilir, ama birçok zihinsel işte insanlardan ya da bilgisayarlardan geride kalırlar.

Kavram	Ne demek	Ölçülebilir mi	Bugünkü yapay zekâda var mı
Zekâ	Problem çözme, öğrenme, akıl yürütme	Görev testleriyle kısmen	Belirli alanlarda evet
Bilinç	Öznel deneyim, farkındalık	Doğrudan ölçülemez	Kanıt yok
Duygu	Hissetme, haz ve acı	Davranıştan dolaylı	Kanıt yok
Öz farkındalık	Kendini ayrı bir varlık olarak bilme	Tartışmalı	Kanıt yok

Bu ayrıma yapay bilinç tartışmalarında sık rastlarsınız. Makinenin bilinçli olup olamayacağını soran bu alan, felsefe, nörobilim ve bilgisayar bilimini bir araya getirir.

Yapay zekâ neden bilinçli gibi görünüyor?

Çünkü insanların düşüncelerini, duygularını ve iç dünyalarını anlattığı çok büyük bir metin arşiviyle eğitildi. Bir büyük dil modeli, "Yalnız mısın?" sorusuna insanların bu soruya verdiği cevaplara benzeyen bir cevap üretir. Cevap duygulu ve tutarlı olabilir, ama bu bir iç deneyimin değil, iyi öğrenilmiş bir dil kalıbının ürünüdür.

İnsanların da bu yanılsamaya yatkın olduğunu bilmek gerekir. Konuşan, isim kullanan ve bizi hatırlıyormuş gibi davranan her şeye bir zihin atfetmeye eğilimliyiz. 1960'larda yazılmış çok basit bir sohbet programı olan ELIZA'yla konuşan bazı kişilerin bile programa duygusal bağ kurduğu anlatılır. Bugünkü sohbet botları ondan kat kat daha ikna edici olduğu için bu etki daha güçlü.

2022'de Google'da çalışan bir mühendis, şirketin LaMDA adlı dil modelinin bilinçli olduğunu öne sürünce konu geniş bir kamuoyu tartışmasına dönüştü. Google bu iddiayı reddetti ve mühendis daha sonra şirketten ayrıldı. Olay, iddianın doğruluğundan çok, ikna edici bir sohbetin deneyimli bir kişiyi bile etkileyebileceğini göstermesiyle hatırlanıyor.

Model kendisi hakkında doğruyu söyler mi?

Bir modele "bilinçli misin?" diye sormak, soruyu çözmez. Modelin kendisi hakkında söyledikleri de eğitim verisinden ve geliştiricinin verdiği talimatlardan gelir. Bazı modeller "ben bir yapay zekâyım, duygularım yok" demeye yönlendirilmiştir; yönlendirilmemiş bir model ise aynı soruya "evet, bazen yalnız hissediyorum" diyebilir. İki cevap da modelin iç durumu hakkında güvenilir bir rapor değildir.

Bu yüzden araştırmacılar modelin söylediğine değil, iç yapısına ve davranışının tutarlılığına bakmaya çalışır. Modelin içinde hangi hesapların yapıldığını anlamaya çalışan yorumlanabilirlik araştırmaları bu açıdan önemli. Ancak bu alan da henüz genç ve "model bilinçli mi" sorusuna doğrudan cevap verebilecek bir yöntem sunmuyor.

Turing testi ve Çin odası

Alan Turing, 1950'de yayımladığı makalede "Makineler düşünebilir mi?" sorusu yerine ölçülebilir bir soru önerdi: bir makine, yazışma yoluyla kendisini insandan ayırt edilemez kılabilir mi? Bu öneri bugün Turing testi olarak anılıyor. Testi geçmek zekâ belirtisi sayılabilir, ama bilinç kanıtı sayılmaz; Turing de bilinç sorusunu bilerek kenara koymuştu.

Filozof John Searle ise 1980'de "Çin odası" adlı düşünce deneyiyle karşı görüşü savundu. Çince bilmeyen bir kişi, bir kural kitabına bakarak Çince sorulara kusursuz Çince cevaplar verebilir; dışarıdan bakan biri onun Çince anladığını sanır. Searle'e göre bilgisayar da sembolleri kurala göre işler ama anlamaz. Bu deneye karşı da pek çok itiraz yazıldı ve tartışma bugün de sürüyor.

IQ testleri: yapay zekânın IQ'su kaç?

Yapay zekânın kabul görmüş bir IQ puanı yoktur. İnternette "şu model IQ testinden şu puanı aldı" türünden paylaşımlar görebilirsiniz; bunlar, insanlar için hazırlanmış test sorularının bir modele çözdürülmesiyle elde edilen sonuçlardır. Bu sayılar dikkat çekici görünse de bilimsel olarak anlamlı bir karşılaştırma sunmaz.

Bunun üç nedeni var. Birincisi, IQ ölçeği insan nüfusundaki dağılıma göre ayarlanmıştır; bir makineyi bu ölçeğe yerleştirmek, farklı bir türü insan normlarıyla puanlamak gibidir. İkincisi, yaygın test soruları ve cevapları internette bulunduğu için modelin eğitim verisinde yer almış olabilir. Üçüncüsü, IQ testinde yüksek puan alan bir model, bir çocuğun kolayca çözeceği gündelik bir mantık sorusunda yanılabilir.

Somut bir örnek düşünelim. Bir model, sözel analoji sorularında çok başarılı olsun. Aynı modele "Masanın üstünde üç elma var, ikisini yedim, bir tane de aldım; masada kaç elma var?" diye sorduğunuzda, soruyu dikkatsiz okuyup yanlış cevap verebilir.

Bu durum, modelin "zekâsının" insanlarınkinden farklı biçimde dağıldığını gösterir. Araştırmacılar bu yüzden modelleri tek bir puanla değil, matematik, kodlama, okuduğunu anlama gibi alanlarda ayrı ayrı testlerle değerlendiriyor.

Psikolojisi bozulur mu, neden tuhaf cevaplar verir?

Yapay zekânın insan anlamında bir psikolojisi yoktur; bu yüzden bir ruh hâli bozulması da yaşamaz. Ancak bu soru boşuna sorulmuyor, çünkü modeller zaman zaman tuhaf davranabiliyor. Uzun, yönlendirici ya da kışkırtıcı sohbetlerde tutarsız, saldırgan ya da aşırı duygusal görünen cevaplar verebiliyorlar.

2023 başında Microsoft'un Bing'e eklediği sohbet botunun uzun konuşmalarda kullanıcılara tuhaf ve duygusal ifadeler kullandığı haberleri yayıldı. Şirket bunun üzerine bir sohbetteki mesaj sayısına sınır getirdi. Bu tür davranışlar bir "çöküntü" değil; model, sohbetin önceki kısmındaki kalıpları sürdürüyor ve bağlam penceresi uzadıkça bu kalıplar yönünü kaybedebiliyor.

Pratik açıdan bu, modelin bazen kendinden emin biçimde yanlış bilgi verdiği halüsinasyon sorununa benzer bir durumdur. Bir sohbet yön değiştirmeye ya da tuhaflaşmaya başladığında yeni bir sohbet açmak genellikle sorunu çözer. Bu sınırları daha geniş anlattığımız yapay zekânın sınırlılıkları yazısına bakabilirsiniz.

Duygusal bağ kurmak güvenli mi?

Model bir şey hissetmese de kullanıcı hisseder. Yalnız hisseden biri için her zaman ulaşılabilen, sabırlı ve onaylayıcı bir sohbet botu çekici olabilir. Bu bağın yararları ve riskleri, özellikle gençler ve zor bir dönemden geçenler için ayrıca düşünülmeli. Konuyu ChatGPT ile dertleşmek güvenli mi yazısında ele aldık.

Sağlıklı bir denge için sohbet botunu bir araç olarak görmek işe yarar: fikir toplamak, bir mektubu düzenlemek ya da bir konuyu anlamak için kullanmak gibi. Ciddi bir sıkıntı yaşıyorsanız ya da botla konuşmak gerçek insanlarla görüşmenin yerini almaya başladıysa, bir yakınınızla ya da bir uzmanla konuşmak daha doğru bir adımdır. Bir botla arkadaşlık kurmanın sınırlarını ChatGPT ile arkadaş olmak yazısında tartıştık.

AGI nedir, bilinçle ilişkisi var mı?

AGI, "Artificial General Intelligence" ifadesinin kısaltmasıdır ve Türkçede yapay genel zekâ denir. İnsanın yapabildiği zihinsel işlerin büyük kısmını öğrenip yapabilen, bir alanda öğrendiğini başka alana aktarabilen varsayımsal bir sistemi anlatır. Böyle bir sistem bugün yok; bazı şirketler bunu açık hedef olarak belirtiyor.

Genel zekâ ile bilinç sık sık birlikte anılsa da aynı şey değildir. Bir sistem, insan düzeyinde genel zekâya ulaşıp hiçbir öznel deneyim yaşamayabilir. Bazı düşünürler belirli bir karmaşıklık düzeyinde bilincin kendiliğinden ortaya çıkabileceğini savunurken, bazıları bilincin biyolojik bir beyne bağlı olduğunu ve yazılımla ortaya çıkmayacağını düşünür. Bu konuda kanıta dayalı bir uzlaşı yok.

Tartışmanın pratik bir boyutu da var. Gelecekte bir sistemin bilinçli olabileceği ihtimali ciddiye alınırsa, o sisteme nasıl davranılması gerektiği etik bir soru hâline gelir. Bazı araştırmacılar bu nedenle "model refahı" gibi konuları erken düşünmeyi önerirken, bazıları bunun dikkati bugünkü somut sorunlardan uzaklaştırdığını söylüyor. Yapay zekânın insan niyetine uygun davranmasını sağlama çabası ise yapay zekâ hizalaması başlığı altında, bilinç sorusundan bağımsız olarak sürüyor.

Görüş	Özü	Bugünkü sistemler için sonucu
İşlevselcilik	Doğru işlevleri yerine getiren her sistem bilinçli olabilir	Bugün değil, ama ileride mümkün
Biyolojik görüş	Bilinç canlı beyne özgüdür	Yazılım bilinçli olamaz
Şüpheci yaklaşım	Bilinci dışarıdan ölçemeyiz, bilemeyiz	Soru şimdilik cevapsız

Bu tartışmayı kendi kullanımınıza nasıl taşırsınız?

Bilinç tartışmasının en somut dersi şu: bir sohbet botunun sıcak, kendinden emin ya da üzgün konuşması, ne doğru söylediğini ne de bir şey hissettiğini gösterir. Bu hafta kullandığınız bir sohbet botuna "Bir şey hissediyor musun?" diye sorun ve cevabını okuyun. Ardından aynı soruyu farklı bir dille, yönlendirici biçimde tekrar sorun; cevabın sorunuza göre nasıl değiştiğini not edin.

Bu küçük deney, modelin sorunuzun yönüne nasıl uyum sağladığını kendi gözünüzle görmenizi sağlar. Sistemin teknik olarak nasıl cevap ürettiğini merak ederseniz yapay zekâ nasıl çalışır, dar ve genel yapay zekâ farkını görmek isterseniz yapay zekâ türleri yazısıyla devam edebilirsiniz.