RAG, ince ayar, ikisi birden ya da uzun bir komut
| Karşılaştırma ölçütü | 01RAG | 02İnce ayar | 03İkisi birden | 04Uzun bağlamlı komut |
|---|---|---|---|---|
| Tipik maliyet | Embedding’ler, vektör depolama ve getirilen metnin her isteğe eklediği ek token’lar | Etiketli örneklerin hazırlanması ve eğitim çalıştırmaları, ardından ayarlanmış modelin kullanımı | İkisinin maliyeti, artı ikisini uyumlu tutmak | Her istekte tüm belge seti için token’lar; prompt önbelleğe alma tekrarlanan maliyeti düşürür |
| Verileriniz değiştiğinde | Değişen belgeleri yeniden indeksleyin | Yeni örneklerle yeniden eğitin | Bilgileri yeniden indeksleyin; yalnızca davranış değişmesi gerektiğinde yeniden eğitin | Gönderdiğiniz belgeleri düzenleyin |
| Veri ve güvenlik | Erişim kuralları, metin parçaları getirilirken uygulanabilir | Eğitim verisi modeli şekillendirir; tek bir kaydı çıkarmak yeniden eğitim demektir | İki kontrol seti de geçerlidir | Komuttaki her şey her çağrıda modele gider |
| Lansman süresi | İlk sürüm için kısa | Tekli seçenekler içinde en uzunu: veri, eğitim ve değerlendirme gerektirir | Genel olarak en uzunu | En kısası |
| Ana risk | Yanlış metin parçasını getirmek ve yanıtın kendinden emin biçimde yanlış olması | Modelin eskimiş veya dağınık örneklerden öğrenmesi | Birbirinden uzaklaşan iki sistem | Komut büyüdükçe doğruluğun düşmesi |
İnce ayar bir modelin nasıl davrandığını değiştirir. Modele eğitimden sonra değişen bilgileri arama yolu vermez; bu yüzden şirket verisi projelerinin çoğu RAG ya da uzun bir komutla başlar.
RAG ne zaman doğru seçimdir
Yanıt zaten belgelerinizde varsa ve nereden geldiğini göstermeniz gerekiyorsa RAG kullanın. Getirmeyle zenginleştirilmiş üretim (RAG), bir soruyla eşleşen metin parçalarını bulur ve komuta ekler; böylece model ezberinden değil sizin metninizden yanıt verir.
İçeriğiniz değişiyor. Her ay güncellenen politikalar, kılavuzlar, sözleşmeler, destek talepleri veya ürün verileri.
Farklı kişiler farklı şeyler görebilir. Getirme, mevcut erişim kurallarınızı izleyebilir; böylece kullanıcı yalnızca okumaya yetkili olduğu parçaları alır.
Kaynak göstermeniz gerekiyor. Her yanıt kullandığı belgeyi gösterebilir; bu da hataları yakalamayı kolaylaştırır.
Arka planda belgeler parçalara bölünür, embedding’lere dönüştürülür ve bir vektör veritabanında saklanır. Örneğin OpenAI’ın retrieval rehberi dosyaları varsayılan olarak 400 token örtüşmeyle 800 token’lık parçalara böler ve ilk 1 GB’ın üzerindeki vektör depolama için günlük GB başına 0,10 $ ücret alır. Anthropic kendi embedding modelini sunmuyor ve geliştiricileri Voyage AI’a yönlendiriyor.
İnce ayar ne zaman buna değer
Modelin tek bir işi her seferinde aynı şekilde yapması gerekiyorsa ve daha iyi komutlar artık işe yaramıyorsa ince ayar yapın. Google’ın Vertex AI dokümanları sınıflandırma, duygu analizi ve varlık çıkarımı için denetimli ince ayar öneriyor ve etiketli veriniz azsa bunun yerine komut yazmayı tavsiye ediyor. OpenAI’ın rehberi çıktı formatlarını ve talimatlara uymama sorunlarını uygun kullanım alanları olarak listeliyor ve ayarlanmış bir modelin daha kısa komutlarla çalışabileceğini, bunun da ölçekte token tasarrufu sağladığını belirtiyor.
Plan yapmadan önce sağlayıcıyı kontrol edin. 17 Kasım 2026 itibarıyla OpenAI, ince ayar platformunu kapatmakta olduğunu söylüyor: yeni kullanıcılar artık erişemiyor, mevcut kullanıcılar ise yalnızca önümüzdeki birkaç ay boyunca eğitim işi oluşturabiliyor. Google’ın Vertex AI’ı ise birkaç Gemini modeli için denetimli, tercih tabanlı ve pekiştirmeli ayarı hâlâ listeliyor.
Ayarlanmış bir model formatı veya üslubu üstlenirken bilgileri RAG sağlıyorsa ikisini birlikte kullanın. Bugünkü politikadan, sizin kurum üslubunuzla yanıt vermesi gereken bir destek asistanı tipik bir örnektir.
Uzun bir komut yeterli mi?
Bazen evet: içeriğiniz küçük ve sabitse onu komuta koyun ve getirme adımını atlayın. Anthropic, Eylül 2024’te 200.000 token’ın altındaki, yaklaşık 500 sayfalık bir bilgi tabanının doğrudan komuta konabileceğini ve prompt önbelleğe almanın tekrarlanan istekleri daha hızlı ve daha ucuz hâle getirdiğini yazdı. Dokümanları bugün modele bağlı olarak 1M token’a kadar bir bağlam penceresi listeliyor.
Daha fazlası her zaman daha iyi değildir. Anthropic’in kendi dokümanları, token sayısı arttıkça doğruluğun ve hatırlamanın düştüğü konusunda uyarıyor. Uzun komutla başlayın, yanıtı bilinen sorularla ölçün ve yanıtlar bozulduğunda ya da maliyet arttığında getirme ekleyin.
Canlıya çıktıktan altı ay sonra neler ters gider
İndeks eskir. Yeni belgeler hiç eklenmez, silinenler hâlâ bulunur. Belirli aralıklarla ve bir kaynak sistem her değiştiğinde yeniden indeksleyin.
İzinler sızar. Kısıtlı bir klasöre taşınan belge hâlâ indekstedir. Yalnızca dosyaları değil erişim kurallarını da eşitleyin.
Kalite düşer ve kimse fark etmez. Yanıtı bilinen sabit bir test soruları setiniz yoksa hataları yalnızca kullanıcılardan duyarsınız. OpenAI’ın rehberi değerlendirme (eval) yazmayı ilk adım olarak listeliyor.
Ayarlanmış modelin temel modeli kullanımdan kalkar. OpenAI, ince ayarlı modellerin temel modelleri kullanımdan kaldırılana kadar erişilebilir kalacağını söylüyor. Yeniden eğitim ya da taşıma için plan yapın.
Uydurma yanıtlar geri döner. Getirme işe yarar bir şey bulamadığında model yine de yanıt verebilir. Belgeler soruyu kapsamıyorsa bunu söylemesini isteyin ve test setinizde halüsinasyonları izleyin.
Vizio AI’da nasıl yaklaşıyoruz
Modelden değil, veriden başlarız. Ücretsiz Veri Değerlendirmesi’nde belgelerinizin ve kayıtlarınızın nerede durduğuna, ne kadar temiz ve güncel olduklarına, kimin neyi görebileceğine ve insanların gerçekte hangi sorulara yanıt aradığına bakarız. Ardından küçük bir test seti oluşturur, işe yarayabilecek en basit yaklaşımı (çoğu zaman uzun bir komut ya da temel bir RAG) dener ve daha karmaşık bir şey eklemeden önce ölçeriz. İnce ayar, ancak test seti komut yazma ve getirmenin çözemediği bir davranış sorunu gösterdiğinde devreye girer.
Vizio AI ne zaman doğru seçim değildir
Çalışanlarınızın yalnızca zaten Microsoft 365 veya Google Workspace’te duran dosyalara soru sorması gerekiyor. Önce o paketin içindeki asistanı deneyin. Microsoft 365 içindeki ajanlar için Copilot Studio mu, n8n mi rehberine bakın.
Kendi makine öğrenmesi mühendisleriniz ve net bir değerlendirme setiniz var. Bir uygulama ortağına değil, ikinci bir görüşe ihtiyacınız olabilir.
Veriyi kullanma hakkınız henüz yok ya da veri henüz toplanmadı. Önce erişim ve onay konusunu çözün.
SSS
Kaynaklar
- OpenAI: Model optimization rehberiince ayar yöntemleri ve kullanım alanları; ince ayar platformunun kapatılmakta olduğuna dair duyuru; 17 Kasım 2026’da okundu
- OpenAI: Retrieval rehberivarsayılan parça boyutu ve örtüşme, vektör depolama fiyatı
- Google Cloud: Vertex AI’da Gemini modellerini ayarlamaayarın ne zaman uygun olduğu, desteklenen ayar yöntemleri
- Anthropic: Context windows1M token’a kadar bağlam pencereleri; bağlam büyüdükçe doğruluk ve hatırlama düşer
- Anthropic: EmbeddingsAnthropic’in kendi embedding modeli yok; Voyage AI öneriliyor
- Anthropic: Introducing Contextual Retrieval19 Eylül 2024’te yayımlandı; 200.000 token’ın altındaki bilgi tabanları komuta konabilir
