Uç Yapay Zekâ (Edge AI) Nedir?

Uç yapay zekâ, hesaplamayı ağın "ucuna", yani kullanıcıya en yakın cihaza taşır. Telefonunun internet olmadan fotoğraflardaki yüzleri gruplaması, akıllı saatin nabız düzensizliğini tespit etmeye çalışması ya da bir güvenlik kamerasının görüntüyü kendi içinde analiz etmesi bu yaklaşımın örnekleridir.

Avantajları

• Gizlilik: Veri cihazdan çıkmadığı için kişisel bilgilerin dışarıya aktarılma riski azalır.
• Düşük gecikme: Buluta gidip gelme süresi olmadığından tepki hızlıdır; bu, gecikme süresi kritik olan araç ve endüstri uygulamalarında önemlidir.
• İnternetsiz çalışma: Bağlantı olmadığında da işlev sürer.
• Maliyet: Sürekli bulut çağrısı yapılmadığı için işletim maliyeti düşebilir.

Sınırları

• Cihazın işlem gücü, belleği ve pili sınırlıdır; büyük modeller doğrudan çalışmayabilir.
• Modelleri küçültmek için niceleme, damıtma ve budama gibi teknikler gerekir; bu da kaliteyi biraz düşürebilir.
• Binlerce cihazdaki modeli güncellemek ve yönetmek zordur.
• Cihaz çalınırsa ya da ele geçirilirse üzerindeki model ve veri de risk altına girebilir.

Nasıl çalışır?

Modeller çoğunlukla bulutta eğitilir, sonra küçültülerek cihaza yüklenir. Cihazda ise NPU, GPU ya da özel hızlandırıcılarla çıkarım yapılır. Bazı sistemler hibrit çalışır: Basit işler cihazda, karmaşık işler bulutta yapılır.

Örnek

Varsayımsal bir banka uygulaması, kimlik doğrulama sırasında yüzün canlı bir kişiye ait olup olmadığını cihaz üzerinde kontrol edebilir. Böylece işlem hızlanır ve ham görüntünün sürekli sunucuya gönderilmesi gerekmeyebilir. Yine de bir uygulamanın verini nasıl işlediğini anlamak için gizlilik politikasını okumak gerekir; "cihazda işleme" ifadesi her verinin cihazda kaldığı anlamına gelmeyebilir.