Yapay Zekâ Filigranı Nedir?

Yapay zekâ filigranı, üretilen içeriğin "yapay zekâ ile yapıldığını" sonradan anlayabilmek için kullanılan bir işaretleme yöntemidir. Banknotlardaki filigran gibi düşünebilirsin; ancak burada işaret çoğunlukla görünmezdir ve özel yazılımlarla tespit edilir. Amaç, deepfake ve yanıltıcı içeriklerle mücadeleye yardımcı olmaktır.

Nasıl çalışır?

• Görsel ve videoda: Piksel değerlerinde insan gözünün fark etmeyeceği küçük değişiklikler yapılır. Tespit aracı bu deseni okuyarak içeriğin kaynağını belirler.
• Seste: Duyulmayacak düzeyde bir sinyal ses dosyasına gömülür.
• Metinde: Model kelime seçimlerini belirli bir istatistiksel desene göre hafifçe yönlendirir. Tek tek cümlelerde fark edilmez, ama yeterince uzun metinde desen ölçülebilir.
• Meta veri ve içerik kimliği: Dosyaya içeriğin nasıl üretildiğini anlatan imzalı bilgiler eklenir. C2PA gibi endüstri standartları bu yaklaşımı kullanır.

Örnek

Varsayımsal olarak sosyal medyada bir banka genel müdürünün açıklama yaptığı bir görsel yayılıyor. Platform, görselde bir yapay zekâ filigranı tespit ederse içeriği "yapay zekâ ile üretildi" etiketiyle gösterebilir.

Sınırları

• Filigranlar her zaman kalıcı değildir; kırpma, yeniden kodlama, ekran görüntüsü alma ya da metni yeniden yazma gibi işlemler bazılarını zayıflatabilir.
• Her model filigran eklemez; açık kaynak modellerle üretilen içeriklerde işaret olmayabilir.
• Meta veriler kolayca silinebilir.
• Yanlış pozitif sonuçlar, insan yapımı içeriğin haksız yere işaretlenmesine yol açabilir.

Bu yüzden "filigran yok" demek "içerik gerçek" demek değildir. Önemli haberleri ve para isteyen mesajları her zaman bağımsız kaynaklardan doğrulamak gerekir. Filigran, yapay zekâ etiği ve şeffaflık çabalarının yalnızca bir parçasıdır.