İçeriğe geç
parazade
Yapay Zeka

Açık Ağırlıklı Model Nedir?

İngilizce: Open-weight Model

Yayın: · Son güncelleme:

Açık Ağırlıklı Model Nedir? Kısaca

Açık ağırlıklı model, eğitilmiş parametreleri (ağırlıkları) herkesin indirip kendi donanımında çalıştırabileceği ve çoğu zaman uyarlayabileceği şekilde yayımlanan yapay zekâ modelidir.

Açık Ağırlıklı Model nedir?
İçindekiler
  1. Açık kaynaktan farkı nedir?
  2. Avantajları
  3. Nelere dikkat etmeli?

Açık ağırlıklı model (open-weight model), eğitim sonunda elde edilen model parametrelerinin, yani ağırlık dosyalarının kamuya açık olarak paylaşıldığı modeldir. Bu dosyaları indirerek modeli kendi bilgisayarında ya da sunucunda çalıştırabilir, lisans izin veriyorsa ince ayar yapabilirsin.

Açık kaynaktan farkı nedir?

"Açık ağırlık" ile "açık kaynak" sık karıştırılır:

Açık ağırlıklı Tam açık kaynak
Ağırlıklar Paylaşılır Paylaşılır
Eğitim kodu ve veri tarifi Çoğu zaman paylaşılmaz Paylaşılır
Lisans Kısıtlar içerebilir Açık kaynak lisansı

Birçok popüler model yalnızca açık ağırlıklıdır: Modeli kullanabilirsin ama nasıl eğitildiğini birebir tekrarlayamazsın. Ayrıca lisans, ticari kullanımı ya da belirli kullanım alanlarını sınırlayabilir.

Avantajları

  • Gizlilik: Veriler kendi makinende kalır, üçüncü bir hizmete gönderilmez.
  • Kontrol: Model sürümü senin elindedir; hizmet sağlayıcı değiştirince davranışı değişmez.
  • Uyarlama: LoRA gibi yöntemlerle kendi verine göre ince ayar yapılabilir.
  • İnternetsiz kullanım: Çevrimdışı çalışabilir.

Nelere dikkat etmeli?

Büyük modeller güçlü donanım ister; yeterli VRAM yoksa niceleme (quantization) ile küçültülmüş sürümler kullanılır, bu da kaliteyi bir miktar düşürebilir. Lisans koşullarını mutlaka oku. Modelleri yalnızca güvenilir kaynaklardan indir; bazı dosya biçimleri kötü amaçlı kod taşıyabilir. Güvenlik filtreleri kaldırılabildiği için sorumluluk büyük ölçüde kullanana geçer.

Sıkça Sorulan Sorular

Açık ağırlıklı model ücretsiz mi?

Ağırlıklar genellikle ücretsiz indirilebilir, ama modeli çalıştırmak için gereken donanım ve elektrik maliyeti sana aittir. Ticari kullanım koşulları ise lisansa göre değişir.

Açık ağırlıklı modeli kendi bilgisayarımda çalıştırabilir miyim?

Küçük ve nicelenmiş modeller iyi bir ekran kartı ya da yeterli belleğe sahip bilgisayarlarda çalışabilir. Model büyüdükçe gereken bellek ve işlem gücü hızla artar.

İlgili terimler

Model Parametresi(Model Parameter)Model parametresi, bir yapay zekâ modelinin eğitim sırasında veriden öğrendiği ağırlık ve sapma değerleridir; modelin bilgisi ve davranışı bu sayılarda saklanır.GGUFGGUF, büyük dil modellerinin ağırlıklarını, tokenizer bilgisini ve diğer meta verilerini tek bir dosyada saklayan model dosya formatıdır. llama.cpp projesi tarafından 2023'te eski GGML formatının yerine geliştirilmiştir ve yerel model çalıştırmada yaygındır.Niceleme(Quantization)Niceleme (quantization), bir yapay zekâ modelinin ağırlıklarını 16 bit yerine 8 ya da 4 bit gibi daha düşük hassasiyetle saklayarak model dosyasını küçültme yöntemidir. Böylece model daha az bellekle çalışır; karşılığında kalitede genellikle küçük bir kayıp olur.LoRA(Low-Rank Adaptation)LoRA (Low-Rank Adaptation), büyük bir yapay zekâ modelinin ağırlıklarını değiştirmeden, üzerine eklenen küçük bir dosyayla modele yeni bir tarz, karakter ya da görev öğretme yöntemidir. Tam eğitime göre çok daha az bellek ve süre gerektirir.İnce Ayar(Fine-tuning)İnce ayar (fine-tuning), önceden eğitilmiş bir yapay zekâ modelini daha küçük ve göreve özel bir veri kümesiyle yeniden eğiterek belirli bir işe, üsluba veya alana uyarlama işlemidir.VRAM(Video RAM)VRAM (Video RAM), ekran kartının üzerinde bulunan ve grafik işlemcisinin doğrudan kullandığı bellektir. Yerel yapay zekâda bir modelin ekran kartında çalışıp çalışamayacağını ve ne kadar hızlı çalışacağını büyük ölçüde VRAM miktarı belirler.