Bağlam Mühendisliği Nedir?
İngilizce: Context Engineering
Yayın: · Son güncelleme:
Bağlam Mühendisliği Nedir? Kısaca
Bağlam mühendisliği (context engineering), bir dil modelinin bir görevi iyi yapabilmesi için bağlam penceresine hangi talimatların, belgelerin, araç tanımlarının ve geçmiş bilgilerin, hangi sırayla ve ne kadar konulacağını tasarlama işidir.
Bağlam mühendisliği, prompt mühendisliğinin özellikle yapay zekâ ajanlarıyla birlikte genişleyen bir hâli olarak öne çıktı. Tek bir iyi talimat yazmanın ötesine geçer.
Bağlam mühendisliği nedir?
Dil modeli, cevap üretirken yalnızca bağlam penceresinde gördüğü bilgiyi kullanabilir. Bu pencerede tipik olarak şunlar bulunur:
- Sistem talimatları
- Kullanıcının mesajı ve sohbet geçmişi
- Arama ya da RAG ile getirilen belgeler
- Kullanılabilir araçların tanımları ve araç sonuçları
- Uzun süreli bellekten çağrılan notlar
Bağlam mühendisliği, bu parçaların her birinin ne kadar yer kaplayacağına, hangisinin ne zaman ekleneceğine ve hangisinin çıkarılacağına karar vermektir.
Neden önemlidir?
Bağlam penceresi sınırlıdır ve her token maliyet ile gecikme demektir. Ayrıca çok uzun ve dağınık bağlamlarda modelin önemli bilgiyi gözden kaçırma ihtimali artabilir. Az ama doğru bilgi, çoğu zaman çok fazla ama karışık bilgiden daha iyi sonuç verir.
Yaygın teknikler
- Seçici getirme: Yalnızca soruyla ilgili belge parçalarını eklemek.
- Özetleme: Uzun sohbet geçmişini kısa bir özete dönüştürmek.
- Not tutma: Ajanın önemli bulguları bağlam dışında saklayıp gerektiğinde geri çağırması.
- Görev bölme: İşi alt görevlere ayırıp her birine yalnızca ihtiyaç duyduğu bağlamı vermek.
- Net yapı: Talimatları, verileri ve örnekleri belirgin başlıklarla ayırmak.
Bağlam mühendisliğinde tek bir doğru reçete yoktur; düzenli test ederek hangi bağlamın daha iyi sonuç verdiğini ölçmek gerekir.
Sıkça Sorulan Sorular
Bağlam mühendisliği ile prompt mühendisliği arasındaki fark nedir?
Prompt mühendisliği daha çok talimatın nasıl yazılacağına odaklanır. Bağlam mühendisliği ise talimatla birlikte belgeler, araçlar, bellek ve geçmiş dahil modele verilen tüm bilginin yönetimini kapsar.
Bağlam penceresi büyüdükçe bağlam mühendisliğine gerek kalmaz mı?
Kalır. Daha büyük pencere daha fazla bilgi sığdırmayı sağlar ama maliyet, gecikme ve önemli bilginin gözden kaçması gibi sorunlar devam eder. Doğru bilgiyi seçmek yine önemlidir.