İçeriğe geç

Sözlük

Yapay Zekâ ve Makine Öğrenimi

Büyük Dil Modeli (LLM)

Büyük dil modeli (LLM), bir sonraki token’ı tahmin etmek üzere çok büyük miktarda metinle eğitilmiş, genellikle transformer mimarisine sahip bir sinir ağıdır; bu sayede prompt’lara yanıt olarak dil üretebilir, özetleyebilir, sınıflandırabilir ve çevirebilir.

Güncelleme: · Hazırlayan: VIZIO AI ekibi

LLM nedir?

Bir LLM genel amaçlı bir metin motorudur: Prompt’a bağlı olarak tek bir model e-posta taslağı yazabilir, faturalardan alan çıkarabilir ve SQL yazabilir. Arka planda, 2017 tarihli "Attention Is All You Need" makalesiyle tanıtılan mimari olan, milyarlarca öğrenilmiş parametreye sahip bir transformer’dır.

Eğitim aşamalar hâlinde gerçekleşir. Büyük metin derlemleri üzerinde yapılan ön eğitim (pretraining), bir sonraki token’ı tahmin ederek dili ve geniş bir genel bilgiyi öğretir. Talimat ayarı (instruction tuning) ve insan geri bildiriminden pekiştirmeli öğrenme (RLHF) ise modele talimatları izlemeyi ve zararlı istekleri reddetmeyi öğretir.

Kullanım sırasında metin token’lara bölünür ve model, sabit bir bağlam penceresi içinde yanıtı her seferinde bir token olacak şekilde üretir.

Bilinen model aileleri arasında OpenAI’ın GPT modelleri, Anthropic’in Claude’u, Google’ın Gemini’ı, Meta’nın Llama’sı ve Mistral’in modelleri bulunur.

Bir LLM iş uygulamasında nasıl devreye alınır?

İş değerinin büyük kısmı, barındırılan bir modeli kendi verileriniz, kurallarınız ve çıktısına yönelik kontrollerle sarmalamaktan gelir. Gereken emeğe göre kabaca sıralanmış olağan yapı taşları:

  1. Prompt yazımı: istekteki talimatlar, örnekler ve çıktı formatı.

  2. Yapılandırılmış çıktı: kodun sonucu kullanabilmesi için bir şemaya uyan JSON isteyin.

  3. RAG: ilgili belgeleri getirip prompt’a ekleyin; böylece yanıtlar güncel verilerinizi kullanır.

  4. Araç kullanımı: modelin API çağırmasına veya sorgu çalıştırmasına izin verin; agent’ların temeli budur.

  5. Fine-tuning: prompt yazımı gereken üsluba veya doğruluğa ulaşamadığında ağırlıkları kendi örneklerinizle ayarlayın.

Modelleri kendi görevleriniz üzerinde kalite, gecikme ve 1.000 istek başına maliyet açısından test ederek seçin.

LLM kullanımı pratikte nasıl görünür?

Pratik bir ilk kullanım, net bir doğru cevabı olan ve çıktıyı bir insanın kontrol ettiği dar kapsamlı bir görevdir. Haftada serbest metin hâlinde yüzlerce e-postayla nakliye talebi alan 25 kişilik bir lojistik (freight forwarding) firmasını düşünün.

  1. Operasyon sorumlusu bir JSON şeması tanımlar: çıkış noktası, varış noktası, ağırlık, incoterm, hazır olma tarihi.

  2. Bir LLM API çağrısı bu alanları her e-postadan çıkarır; bir alan eksik olduğunda tahmin yürütmek yerine null döndürür.

  3. Basit bir inceleme ekranı, çıkarılan alanları e-postanın yanında gösterir; çalışanlar düzeltir ve onaylar.

  4. Onaylanan talepler, API’si aracılığıyla teklif sistemine akar.

Diyelim ki çalışanlar ilk ay boyunca yaklaşık her on alandan birini düzeltiyor. Bu düzeltmeler test senaryolarına dönüşür ve prompt, düzeltmeler yalnızca işaretlenen e-postaları incelemeye yetecek kadar seyrekleşene dek iyileştirilir.

LLM’lerin sınırlamaları nelerdir?

LLM’ler doğru olsun ya da olmasın akıcı metin üretir; bu yüzden her canlı kullanımın bilgileri doğrulamanın bir yoluna ihtiyacı vardır. Başlıca sınırlamalar:

  • Halüsinasyon: sahte kaynak gösterimleri dahil, kendinden emin, makul görünen ama yanlış ifadeler.

  • Bilgi kesim tarihi: siz sağlamadığınız sürece model, eğitim verilerinden sonraki olayları bilmez.

  • Aritmetik ve kesin sorgulamalar: hesap makinesi veya veritabanı sorgusu gibi araçlar olmadan güvenilmezdir.

  • Prompt injection: belgelere veya web sayfalarına gizlenmiş talimatlar modelin davranışını ele geçirebilir.

  • Veri işleme: kişisel verileri göndermeden önce sağlayıcının veri saklama koşullarını kontrol edin.

Deterministik bir kuralın veya SQL sorgusunun zaten doğru cevabı verdiği yerlerde LLM kullanmayın.

LLM, üretken yapay zekâdan veya bir chatbot’tan nasıl ayrılır?

LLM altta yatan modeldir; üretken yapay zekâ daha geniş kategoridir; chatbot ise bunun üzerine inşa edilmiş bir üründür. Üretken yapay zekâ, difüzyon modelleri gibi görüntü, ses ve video modellerini de kapsar. ChatGPT gibi bir chatbot, bir LLM’i sohbet arayüzü, bellek, güvenlik katmanları ve araçlarla birleştirir.

Barındırılan ve açık modeller arasında seçim yapmak temel mimari karardır. Barındırılan API’ler (OpenAI, Anthropic, Google Vertex AI, Azure OpenAI, AWS Bedrock) altyapı gerektirmeden en güçlü modelleri sunar. Açık ağırlıklı modeller (Llama, Mistral, Qwen) vLLM veya Ollama aracılığıyla kendi sunucularınızda çalışır; işletme yükü pahasına veriler üzerinde daha fazla kontrol sağlar.

LangChain ve LlamaIndex gibi framework’ler her ikisinin de orkestrasyonuna yardımcı olur.

Barındırılan ve açık ağırlıklı LLM’ler

Barındırılan LLM API’si

Açık ağırlıklı LLM

Örnekler

GPT, Claude, Gemini

Llama, Mistral, Qwen

Kurulum

API anahtarı, token başına ödeme

GPU’lar veya bir barındırma sağlayıcısı

Veri kontrolü

Sağlayıcı koşullarına tabi

Kendi altyapınızda kalır

Model kalitesi

Genellikle mevcut en güçlü modeller

Birçok görevde yakın, değişkenlik gösterir

En uygun olduğu durum

Hızlı prototipleme ve çoğu canlı uygulama

Katı veri yerleşimi gereksinimleri veya yüksek, sabit hacim

VIZIO AI LLM’lerle nasıl geliştirme yapıyor?

VIZIO AI, LLM özelliklerini belirli bir kullanıcı görevi etrafında geliştirir, ardından çıktılar gerçek kullanıcılar için yeterince güvenilir olana dek test edip iyileştirir. Auli AI için Venture Studio, yapılandırılmış e-ticaret verilerini analiz edip fiyatlandırma, stok ve kârlılık önerilerine dönüştüren çok agent’lı bir sistemde büyük dil modelleri kullandı; MVP şimdiden 1.000’den fazla kullanıcı tarafından kullanılıyor.

Qurio LLC için Venture Studio, yoğun akademik makaleleri özetlemek ve özetleri sese dönüştürmek için OpenAI modellerini kullanan Briefio AI’ı geliştirdi ve MVP’yi 3 ayda teslim etti.

Nereden başlamalı: Ekibinizin her hafta yaptığı tekrarlayan bir metin görevini seçin, 30 gerçek örnek toplayın ve başka bir şey geliştirmeden önce bir modelin bunları başarıyla işleyip işlemediğini test edin.

Facebook logosu
X logosu
LinkedIn logosu
Reddit logosu
Telegram logosu

Önce yapay zekâyı düşünün.
Geleceğin hızında ilerleyin.

Sıradakini birlikte inşa edelim! Ürün fikirlerinden akıllı iş akışlarına, veri odaklı sistemlerden ölçeklenebilir büyüme operasyonlarına kadar.

Strateji Görüşmesi Planlayın