NPU Nedir?
İngilizce: Neural Processing Unit
Yayın: · Son güncelleme:
NPU Nedir? Kısaca
NPU (Neural Processing Unit, nöral işlem birimi), telefon, tablet ve bilgisayarlarda yapay zekâ işlemlerini düşük enerji tüketimiyle hızlandırmak için tasarlanmış özel işlemcidir. Yüz tanıma, ses işleme ve yerel asistan gibi görevlerde kullanılır.
NPU, yapay sinir ağlarının hesaplarını yapmak için optimize edilmiş bir işlemci birimidir. Genellikle ayrı bir kart olarak değil, telefon ya da bilgisayarın ana yongasının (SoC) içinde CPU ve GPU'nun yanında yer alır. Farklı üreticiler farklı adlar kullanabilir; ama hepsinin amacı yapay zekâ işlerini cihazda, pili hızla tüketmeden yapmaktır.
Ne işe yarar?
- Fotoğraflarda yüz ve nesne tanıma, portre modu gibi kamera özellikleri
- Gürültü engelleme, canlı altyazı ve konuşma tanıma
- Cihaz üzerinde çalışan küçük dil modelleri ve yazım asistanları
- Görüntülü görüşmede arka plan bulanıklaştırma
Bu işlerin cihazda yapılması uç yapay zekâ olarak adlandırılır ve veriyi buluta göndermeden işlemeyi mümkün kılar.
CPU, GPU ve NPU karşılaştırması
| Birim | Güçlü yanı | Yapay zekâdaki rolü |
|---|---|---|
| CPU | Genel amaçlı, esnek | Kontrol ve hafif işler |
| GPU | Yüksek paralel güç | Ağır modeller, eğitim, oyun |
| NPU | Düşük enerjiyle verimli çıkarım | Sürekli çalışan küçük modeller |
NPU'lar çoğunlukla modelin eğitilmesi için değil, hazır modelin çalıştırılması (çıkarım) için kullanılır.
TOPS değeri ne anlatır?
Üreticiler NPU gücünü genellikle TOPS (saniyede trilyon işlem) ile ifade eder. Ancak bu sayı farklı hassasiyet düzeylerinde ölçülebildiği için markalar arasında doğrudan karşılaştırma yanıltıcı olabilir.
Nelere dikkat etmeli?
Bir cihazda NPU bulunması, her yapay zekâ uygulamasının onu kullandığı anlamına gelmez; yazılımın NPU'yu desteklemesi gerekir. Büyük dil modellerinin çoğu için bellek miktarı ve bant genişliği, NPU'nun TOPS değerinden daha belirleyici olabilir. "Yapay zekâ bilgisayarı" gibi pazarlama ifadelerine değil, ihtiyacın olan uygulamaların gerçek desteğine bak.
Sıkça Sorulan Sorular
Telefonumda NPU olup olmadığını nasıl anlarım?
Cihazın kullandığı yonganın üretici sayfasında genellikle nöral motor ya da yapay zekâ hızlandırıcısı bilgisi yer alır. Son yıllarda çıkan birçok akıllı telefon yongası bu tür bir birim içerir.
NPU ile büyük dil modeli çalıştırılabilir mi?
Küçük ve sıkıştırılmış modeller bazı cihazlarda NPU ile çalıştırılabilir. Daha büyük modeller için bellek sınırları belirleyicidir ve genellikle güçlü GPU ya da bulut gerekir.