İçeriğe geç
parazade
Yapay Zeka

Safetensors Nedir?

Yayın: · Son güncelleme:

Safetensors Nedir? Kısaca

Safetensors, yapay zekâ modellerinin ağırlıklarını (tensörleri) saklamak için geliştirilmiş, yüklenirken kod çalıştırmaya izin vermeyen güvenli ve hızlı bir dosya biçimidir. Uzantısı genellikle .safetensors olur.

Safetensors nedir?
İçindekiler
  1. Safetensors nedir?
  2. Neden ortaya çıktı?
  3. Avantajları
  4. Nelere dikkat etmeli?

Safetensors, Hugging Face tarafından geliştirilen açık kaynak bir biçimdir ve bugün açık modellerin paylaşımında yaygın olarak kullanılır.

Safetensors nedir?

Bir model dosyası, temelde çok sayıda tensör, yani çok boyutlu sayı dizisi içerir. Safetensors bu tensörleri yalın bir yapıda saklar: dosyanın başında tensörlerin adı, şekli ve veri tipini anlatan küçük bir JSON başlığı, ardından ham sayısal veri bulunur. Dosyada çalıştırılabilir kod yer almaz.

Neden ortaya çıktı?

Eskiden pek çok model, Python'un "pickle" mekanizmasına dayanan biçimlerle kaydediliyordu. Pickle, bir dosya yüklenirken içine gömülü kodun çalıştırılmasına izin verebilir. Bu da kötü niyetli birinin hazırladığı bir model dosyasının, açıldığı bilgisayarda istenmeyen komutlar çalıştırabilmesi riskini doğurur. Safetensors bu riski ortadan kaldırmak için tasarlandı.

Avantajları

  • Güvenlik: Yalnızca veri okunur, kod çalıştırılmaz.
  • Hız: Dosya belleğe doğrudan eşlenebildiği için büyük modeller hızlı yüklenir.
  • Kısmi yükleme: Gerekirse yalnızca belirli tensörler okunabilir; bu, modeli birden fazla cihaza bölerken işe yarar.

Nelere dikkat etmeli?

Safetensors dosya biçiminden kaynaklanan kod çalıştırma riskini çözer, ancak modelin davranışının güvenli olduğunu garanti etmez. Model yine yanlış ya da önyargılı çıktılar üretebilir. Modelleri güvenilir kaynaklardan indirmek ve model kartını okumak yine önemlidir.

Sıkça Sorulan Sorular

Safetensors neden daha güvenli?

Çünkü dosyada yalnızca tensör verisi ve bunu tanımlayan basit bir başlık bulunur. Pickle tabanlı biçimlerin aksine yükleme sırasında gömülü kod çalıştırılamaz.

Safetensors ile GGUF arasındaki fark nedir?

Safetensors genel amaçlı bir tensör saklama biçimidir ve çoğunlukla eğitim ve GPU çıkarımında kullanılır. GGUF ise özellikle nicelenmiş modelleri yerel olarak çalıştırmaya yönelik, ek meta veriler içeren bir biçimdir.

İlgili terimler

Kontrol Noktası(Checkpoint)Kontrol noktası (checkpoint), bir yapay zekâ modelinin eğitimi sırasında belirli aralıklarla kaydedilen anlık durumudur. Model ağırlıklarını ve çoğu zaman eğitime kaldığı yerden devam etmek için gereken ek bilgileri içerir.GGUFGGUF, büyük dil modellerinin ağırlıklarını, tokenizer bilgisini ve diğer meta verilerini tek bir dosyada saklayan model dosya formatıdır. llama.cpp projesi tarafından 2023'te eski GGML formatının yerine geliştirilmiştir ve yerel model çalıştırmada yaygındır.Tensör(Tensor)Tensör, yapay zekâ ve derin öğrenme bağlamında sayıların çok boyutlu bir dizi hâlinde düzenlenmiş biçimidir. Skaler sıfır, vektör bir, matris iki boyutlu tensördür; daha fazla boyut da mümkündür.Model Kartı(Model Card)Model kartı (model card), bir makine öğrenmesi modelinin ne için geliştirildiğini, hangi verilerle eğitildiğini, nasıl değerlendirildiğini, hangi sınırlara ve risklere sahip olduğunu özetleyen kısa ve standart bir belgedir.PythonPython, okunabilir ve sade sözdizimiyle bilinen, genel amaçlı, açık kaynaklı bir programlama dilidir. Veri bilimi, yapay zekâ, otomasyon ve web geliştirmede en yaygın kullanılan dillerden biridir.Harf Çevirisi(Transliteration)Harf çevirisi (transliterasyon), bir yazı sistemindeki metnin, anlamı çevrilmeden başka bir yazı sisteminin harfleriyle yazılmasıdır. Örneğin Kiril alfabesiyle yazılmış bir ismin Latin harflerine aktarılması harf çevirisidir.

İlgili yazılar

Yapay Zeka ile Kazanç

Kendi Bilgisayarında Ücretsiz Yapay Zekâ Sistemi Kur: Ekran Kartı, İşlemci ve RAM ile Adım Adım

Kendi bilgisayarında ücretsiz ve limitsiz bir yapay zekâ sistemi kurmak mümkün: Ollama ya da LM Studio ile dil modeli, Continue ile kod asistanı, ComfyUI ya da Forge ile görsel üretim. Belirleyici olan ekran kartının belleğidir (VRAM); 8 GB'lık kartta 7-8B modeller rahat çalışır, kart yoksa işlemci ve RAM ile daha yavaş çalışır.

· 30 dk okuma