Prompt Mühendisliği (Prompt Engineering)
Prompt mühendisliği, büyük bir dil modelinin belirli bir görev için doğru, tutarlı ve doğru formatlanmış çıktılar üretmesi amacıyla modele verilen talimatları, bağlamı ve örnekleri tasarlama, test etme ve iyileştirme pratiğidir.
Prompt mühendisliği nedir?
Prompt yazmak, bir LLM'in davranışını yeniden eğitmeden değiştirmenin ana kaldıracıdır. Canlı ortamdaki bir prompt, zekice kurulmuş bir cümleden çok küçük bir spesifikasyondur: modelin kim rolünde hareket ettiği, hangi görevi yapacağı, hangi bağlamı kullanacağı, hangi kurallara uyacağı ve hangi formatta yanıt döndüreceği.
Çoğu yapay zekâ uygulamasında kullanıcı ile model arasında yer alır. Bir kullanıcının kısa sorusu, model onu görmeden önce bir sistem prompt'u, getirilen dokümanlar, örnekler ve çıktı talimatlarıyla sarmalanır. Bunlardan herhangi birini değiştirmek sonucu değiştirir; bu yüzden prompt'lar kod gibi sürümlenir ve test edilir.
Temel prompt mühendisliği teknikleri nelerdir?
İyi belgelenmiş birkaç teknik, gerçek görevlerin çoğunu karşılar.
Net rol ve görev: "Bir borç hesapları ekibi için fatura alanlarını çıkarıyorsun."
Ayrılmış bağlam: modelin talimatları veriden ayırt edebilmesi için kaynak metni etiketlerin veya işaretçilerin içine koyun.
Az örnekli (few-shot) örnekler: tam üslubu ve uç durumları gösteren iki ila beş girdi-çıktı çifti.
Adım adım akıl yürütme: karmaşık problemlerde modelden yanıtlamadan önce adımları tek tek ele almasını isteyin; akıl yürütme modelleri bunu içsel olarak yapar.
Yapılandırılmış çıktı: bir şemaya uyan JSON zorunlu tutun; büyük API'lerin çoğu yapılandırılmış çıktı veya JSON modu sunar.
Açık reddetme kuralları: "Yanıt verilen metinde yoksa, bunu belirt."
OpenAI, Anthropic ve Google, kendi modelleri için bu kalıpları belgeleyen prompt rehberleri yayımlar.
Prompt mühendisliği pratikte nasıl görünür?
Gerçek prompt çalışması, sabit bir test girdileri setine karşı yürütülen bir iterasyon döngüsüdür. Kiracıların bakım e-postalarına yanıt taslakları hazırlayan bir araç geliştiren 50 kişilik bir mülk yönetim şirketini düşünün.
Versiyon 1 tek satırdır: "Bu kiracıya kibarca yanıt ver." Yanıtlar samimidir ancak kimsenin kabul etmediği onarım tarihleri vaat eder.
Versiyon 2, şirketin politika metnini ve "asla bir tarih taahhüt etme; bir koordinatörün onaylayacağını söyle" kuralını ekler.
Versiyon 3, üç örnek yanıt ekler ve aciliyet, kategori ve taslak yanıt alanlarını içeren JSON ister.
Ekip üç versiyonu da kaydedilmiş 60 e-posta üzerinde çalıştırır ve her yanıtı bir koordinatöre puanlatır.
Diyelim ki versiyon 3, koordinatörlerin taslakların çoğunu küçük düzenlemelerle gönderdiği ilk versiyon oluyor. Yayına alınır ve sonraki her değişiklik aynı 60 e-postaya karşı kontrol edilir.
En büyük kazancın zekice bir ifade değil, bir iş kuralı ekleyen versiyon 2'den geldiğine dikkat edin. Canlı ortamdaki prompt iyileştirmelerinin çoğu, modelin tahmin edemeyeceği kısıtları açıkça belirtmekten gelir.
Prompt mühendisliğinin sınırları nelerdir?
Prompt yazmak, modelde olmayan bilgiyi ekleyemez veya bir kuralın asla çiğnenmeyeceğini garanti edemez. Dürüstçe söylemek gerekirse sınırlar şunlardır:
Eksik bilgiler: yanıt modelde veya bağlamda yoksa, prompt'lar yanıt değil halüsinasyon üretir; bilgi getirmeyi (retrieval) kullanın.
Kırılganlık: bir model versiyonu için ayarlanmış bir prompt, bir sonraki versiyonda kötüleşebilir.
Prompt enjeksiyonu: kullanıcının sağladığı metin talimatları geçersiz kılabilir; kritik kuralları kodda zorunlu kılın.
Maliyet ve gecikme: çok sayıda örnek içeren uzun prompt'lar istek başına maliyeti artırır.
Bir prompt birkaç sayfalık kural ve örneği aşacak kadar büyüdüğünde ve hâlâ hedefleri tutturamıyorsa, fine-tuning'i veya görevi adımlara bölmeyi değerlendirin.
Prompt mühendisliğinin fine-tuning ve RAG'den farkı nedir?
Prompt yazmak talimatları, RAG sağlanan bilgiyi, fine-tuning ise modelin ağırlıklarını değiştirir. Bunlar üst üste kullanılabilir: canlı ortamdaki sistemlerin çoğu, özenle tasarlanmış bir prompt ile birlikte getirme destekli üretim (RAG) kullanır ve yalnızca bazıları fine-tuning ekler.
Prompt yönetimine yardımcı olan araçlar arasında OpenAI Playground, Anthropic Console ve prompt oluşturucusu, Google AI Studio, sürümleme ve izleme için LangSmith ve Langfuse, prompt'ları test setlerine karşı çalıştırmak için Promptfoo veya Braintrust bulunur. LangChain ve DSPy gibi framework'ler daha da ileri gider; DSPy, prompt'ları örneklerden ve bir metrikten yola çıkarak programatik olarak optimize eder.
Prompt mühendisliği ve fine-tuning
Prompt mühendisliği | Fine-tuning | |
|---|---|---|
Ne değişir | Talimatlar, bağlam ve örnekler | Modelin ağırlıkları |
İterasyon süresi | Dakikalar | Eğitim çalıştırması başına saatlerden günlere |
Gereken veri | Birkaç örnek | Yüzlerce ila binlerce etiketli çift |
Yeni bilgi ekler mi? | Yalnızca bağlamda olanı | Çoğunlukla üslup ve format; bilgiler için güvenilir değil |
En uygun olduğu durum | Çoğu görev, ilk yaklaşım | Ölçekte tutarlı format veya ton |
VIZIO AI prompt mühendisliğine nasıl yaklaşıyor?
VIZIO AI, prompt'ları ürünün bir parçası olarak ele alır: belirli bir çıktı için tasarlanır, gerçek içerik üzerinde test edilir ve sonuçlar kullanılabilir hâle gelene kadar iyileştirilir. Qurio LLC için Venture Studio, Briefio AI'ı geliştirdi; burada prompt yapısı ve içerik işleme üzerine yapılan özenli çalışma, akademik makalelerin OpenAI ile üretilen özetlerini kısa ama orijinale sadık tuttu; MVP 3 ayda yayına alındı.
Güneydoğu Asya odaklı bir danışmanlık firması için DX Studio, bir vektör veritabanı aracılığıyla doğrulanmış kaynaklardan yanıt veren bir finansal chatbot geliştirdi; bu chatbot araştırma süresini %65 azalttı ve karar doğruluğunu %35 artırdı.
Nereden başlamalı: ilk prompt'u yazmadan önce 20 gerçek girdiyi ve her biri için kabul edeceğiniz yanıtı yazın.
VIZIO AI vaka çalışmalarında Prompt Mühendisliği (Prompt Engineering)
- Briefio AI ›Prompt yapısı üzerine yapılan çalışma, Briefio AI'ın makale özetlerini kısa ama sadık tuttu; MVP 3 ayda teslim edildi.
- AI-Driven Financial Insights Platform for SMEs ›Doğrulanmış finansal kaynaklara dayanan bir chatbot, KOBİ'lerin araştırma süresini %65 azalttı ve karar doğruluğunu %35 artırdı.