Sohbet Şablonu Nedir?
İngilizce: Chat Template
Yayın: · Son güncelleme:
Sohbet Şablonu Nedir? Kısaca
Sohbet şablonu (chat template), sistem, kullanıcı ve asistan mesajlarından oluşan bir sohbeti, dil modelinin eğitim sırasında gördüğü özel işaretli tek bir metin dizisine dönüştüren biçimlendirme kuralıdır.
Sohbet şablonu, özellikle açık ağırlıklı modelleri kendi bilgisayarında ya da sunucunda çalıştıranların karşılaştığı teknik bir kavramdır. Hazır sohbet arayüzlerinde bu işlem arka planda otomatik yapılır.
Sohbet şablonu nedir?
Bir dil modeli aslında tek bir uzun metni devam ettirir. "Kim konuşuyor?" bilgisini bilmez. Sohbet modelleri ise eğitilirken mesajların özel işaretlerle ayrıldığı belirli bir düzen görür. Örneğin varsayımsal bir şablon şöyle olabilir:
<|sistem|>Sen yardımsever bir asistansın.<|son|>
<|kullanici|>Merhaba!<|son|>
<|asistan|>
Burada her rol başlangıç ve bitiş işaretleriyle ayrılır; en sonda asistan rolünün başlatılması, modele "şimdi sıra sende" mesajı verir.
Neden önemlidir?
Her model ailesinin şablonu farklıdır. Model, eğitimde gördüğü şablonla karşılaşmazsa:
- Talimatları izlemekte zorlanabilir.
- Kendi cevabını bitirmeyip kullanıcı adına konuşmaya devam edebilir.
- Sistem promptunu görmezden gelebilir.
Bu nedenle modeller genellikle şablonlarını tokenizer ayarlarıyla birlikte, çoğu zaman Jinja adlı şablon dilinde tanımlanmış olarak paylaşır.
Nelere dikkat etmeli?
- Modeli çalıştırdığın araç, şablonu otomatik uyguluyor mu, kontrol et.
- Şablonu elle birleştiriyorsan özel işaretleri modelin belgelerindeki gibi kullan.
- Araç çağırma destekleyen modellerde araç tanımları ve sonuçları da şablonun parçasıdır.
Tuhaf, tekrar eden ya da yarım kalan cevaplar çoğu zaman yanlış şablonun işaretidir.
Sıkça Sorulan Sorular
Sohbet şablonu yanlış olursa ne olur?
Model mesaj sınırlarını ve rolleri doğru algılayamaz. Bunun sonucunda talimatları izlememe, kendi kendine konuşmaya devam etme ya da kalitesiz cevaplar gibi sorunlar görülebilir.
Her model aynı sohbet şablonunu mu kullanır?
Hayır. Her model ailesi eğitimde kendi özel işaretlerini ve düzenini kullanır. Bu yüzden şablon, modelin belgelerinden ya da tokenizer ayarlarından alınmalıdır.