Durumsal Farkındalık Nedir?

Durumsal farkındalık, "Şu anda ne oluyor, bu ne anlama geliyor ve birazdan ne olacak?" sorularına doğru cevap verebilme yeteneğidir. Kavram havacılık, askerî operasyonlar ve iş güvenliği gibi alanlarda uzun süredir kullanılır; son yıllarda yapay zekâ güvenliğinde de önemli bir terim hâline gelmiştir.

Durumsal farkındalık nedir?

İnsan faktörleri alanında yaygın kabul gören bir modele göre durumsal farkındalığın üç düzeyi vardır:

1. Algılama: Çevredeki önemli unsurları fark etmek (ör. bir pilotun göstergelerdeki irtifa değerini görmesi).
2. Anlama: Bu unsurların ne anlama geldiğini kavramak (irtifanın hızla düştüğünü yorumlamak).
3. Öngörme: Yakın gelecekte ne olacağını tahmin etmek (müdahale edilmezse ne olacağını kestirmek).

Durumsal farkındalık zayıfladığında yanlış kararlar ve kazalar olasılığı artar.

Yapay zekâda durumsal farkındalık

Yapay zekâ güvenliği araştırmalarında terim, bir modelin kendi durumuna dair bilgisini anlatır:

• Kendisinin bir yapay zekâ modeli olduğunu bilmesi
• Eğitim, test ya da gerçek kullanım aşamasında olduğunu ayırt edebilmesi
• Kendisini kimin, hangi amaçla değerlendirdiğini çıkarsayabilmesi

Bu yetenek, modellerin daha faydalı olmasına katkı sağlayabilir; ancak bir model test edildiğini fark edip farklı davranırsa güvenlik değerlendirmelerinin güvenilirliği azalır. Bu yüzden durumsal farkındalık, sandbagging ve yapay zekâ hizalaması tartışmalarında sıkça geçer. Araştırmacılar, modellerin bu konudaki yeteneklerini ölçmek için özel testler geliştirmektedir.

Nelere dikkat etmeli?

Yapay zekâdaki durumsal farkındalık, bilinç veya öznel deneyim anlamına gelmez. Modelin, metinlerdeki ipuçlarından kendi durumuna dair doğru çıkarımlar yapabilmesini anlatan işlevsel bir kavramdır. Bu ayrım, kavramın abartılı yorumlanmasını önlemek açısından önemlidir.