İçeriğe geç
parazade
Yapay Zeka

P(doom) Nedir?

Yayın: · Son güncelleme:

P(doom) Nedir? Kısaca

P(doom), bir kişinin gelişmiş yapay zekânın insanlık için felaketle, örneğin insan neslinin tükenmesi ya da kalıcı kontrol kaybıyla sonuçlanma olasılığına dair verdiği öznel tahmini ifade eden gayriresmî bir terimdir.

P(doom) nedir?
İçindekiler
  1. P nedir?
  2. Neden tartışılır?
  3. Nelere dikkat etmeli?

P(doom), "probability of doom" yani "felaket olasılığı" ifadesinin kısaltmasıdır. Matematikteki olasılık gösterimi P(...) taklit edilerek oluşturulmuş, yarı şaka yarı ciddi bir terimdir. Yapay zekâ araştırmacıları, girişimciler ve yorumcular arasında riskin ne kadar ciddiye alınması gerektiğine dair görüşleri tek bir sayıyla özetlemek için kullanılır.

P(doom) nedir?

Biri "P(doom) değerim yüzde 10" dediğinde, gelişmiş yapay zekânın insanlık için çok kötü bir sonuç doğurma ihtimalini kişisel olarak bu düzeyde gördüğünü anlatır. Bu bir ölçüm ya da bilimsel hesap değildir; kişinin sezgisine, varsayımlarına ve "felaket" kelimesine yüklediği anlama dayanır.

Neden tartışılır?

Terim, yapay zekâ güvenliği ve kontrol problemi üzerine yapılan tartışmalarda sıkça geçer. Bazı kişiler çok düşük, bazıları ise oldukça yüksek değerler verir. Bu büyük fark, alanda uzun vadeli riskler konusunda henüz bir uzlaşı olmadığını gösterir.

Nelere dikkat etmeli?

  • P(doom) değerleri kişisel görüştür; istatistiksel bir veri gibi okunmamalıdır.
  • Kişiler "felaketi" ve zaman aralığını farklı tanımladığı için değerleri birbiriyle doğrudan karşılaştırmak yanıltıcıdır.
  • Terim bazen dikkat çekmek ya da korku yaymak için de kullanılır; kaynağın gerekçesine bakmak önemlidir.
  • Riskleri anlamak için tek bir sayıdan çok, öne sürülen argümanları incelemek daha verimlidir.

Sıkça Sorulan Sorular

P(doom) bilimsel bir ölçüm mü?

Hayır. Kişisel ve öznel bir tahmindir. Belirli bir yöntemle hesaplanmaz, bu yüzden kesin bir bilgi olarak değerlendirilmemelidir.

P(doom) değeri yüksek olan biri yapay zekâya karşı mıdır?

Her zaman değil. Birçoğu yapay zekânın faydalarını kabul eder ama risklerin daha ciddi ele alınması ve güvenlik araştırmalarına daha fazla kaynak ayrılması gerektiğini savunur.

İlgili terimler

Yapay Zekâ Güvenliği(AI Safety)Yapay zekâ güvenliği, yapay zekâ sistemlerinin insanlara ve topluma zarar vermeden, tasarlandığı amaca uygun, öngörülebilir ve insan denetiminde kalacak şekilde geliştirilmesini ve kullanılmasını amaçlayan araştırma ve uygulama alanıdır.Kontrol Problemi(AI Control Problem)Kontrol problemi, giderek daha yetenekli hâle gelen yapay zekâ sistemlerinin insanların niyetine uygun davranmasını, gerektiğinde düzeltilebilmesini ve durdurulabilmesini nasıl güvence altına alacağımız sorusudur.Teknolojik Tekillik(Technological Singularity)Teknolojik tekillik (singularity), yapay zekânın insan zekâsını aşıp kendini hızla geliştirmeye başlayacağı ve teknolojik değişimin öngörülemez hâle geleceği varsayılan gelecek anıdır. Kanıtlanmış bir olgu değil, tartışmalı bir hipotezdir.Yapay Genel Zekâ(Artificial General Intelligence)Yapay genel zekâ (AGI), insanın yapabildiği çok çeşitli zihinsel görevleri, tek bir alana sınırlı kalmadan öğrenebilen ve yerine getirebilen varsayımsal yapay zekâ düzeyidir. Kesin ve herkesçe kabul edilmiş bir tanımı yoktur.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.Dil Tespiti(Language Detection)Dil tespiti (language detection), bir metnin ya da ses kaydının hangi dilde olduğunu otomatik olarak belirleyen doğal dil işleme görevidir. Çeviri, arama motorları ve içerik moderasyonu gibi pek çok sistemin ilk adımıdır.