Zum Inhalt springen

Glossar

KI & Machine Learning

Fine-Tuning

Fine-Tuning bezeichnet das Weitertrainieren eines bereits vortrainierten KI-Modells mit einem kleineren, aufgabenspezifischen Datensatz, damit es ein bestimmtes Format, einen Stil, ein Vokabular oder ein Verhalten zuverlässiger übernimmt, als es Prompting allein erreichen kann.

Aktualisiert am · Vom VIZIO AI Team

Was ist Fine-Tuning?

Fine-Tuning verändert die Gewichte des Modells, während Prompting und Retrieval nur verändern, was das Modell zur Laufzeit sieht. Ein Large Language Model als Basismodell hat allgemeine Sprache aus riesigen Korpora gelernt; eine feinabgestimmte Version wurde mit Hunderten oder Tausenden von Beispielen auf eine bestimmte Aufgabe ausgerichtet.

Es eignet sich gut, um Form zu vermitteln: eine konsistente Ausgabestruktur, einen Hausstil, ein Klassifikationsschema oder fachliche Kurzschreibweisen. Schwach ist es darin, sich ändernde Fakten zu vermitteln, denn neue Fakten erfordern einen weiteren Trainingslauf.

Die Idee ist älter als LLMs: Computer-Vision-Teams setzen seit Langem auf auf ImageNet vortrainierte Modelle und trainieren die letzten Schichten mit ihren eigenen Bildern neu.

Wie funktioniert Fine-Tuning?

Der Ablauf ähnelt eher einem kleinen Datenprojekt als Modellforschung.

  1. Zuerst Aufgabe und Testset definieren: 100 bis 200 zurückgehaltene Beispiele mit bekannten guten Antworten.

  2. Trainingspaare erstellen: Eingabe und ideale Ausgabe, meist als JSONL. Die Fine-Tuning-API von OpenAI akzeptiert schon 10 Beispiele, für brauchbare Ergebnisse sind aber meist weit mehr nötig.

  3. Methode wählen: Vollständiges Fine-Tuning aktualisiert alle Gewichte; parametereffiziente Methoden wie LoRA (2021 vorgestellt) trainieren kleine Adaptermatrizen und senken so Rechen- und Speicherbedarf.

  4. Trainieren und vergleichen: Das feinabgestimmte Modell auf demselben Testset gegen das Basismodell plus einen starken Prompt bewerten.

  5. Bereitstellen und überwachen: Auf Drift achten, wenn reale Eingaben von den Trainingsdaten abweichen.

Wie sieht Fine-Tuning in der Praxis aus?

Ein guter Kandidat ist eine Aufgabe mit hohem Volumen, bei der das Ausgabeformat jedes Mal exakt stimmen muss. Stellen Sie sich einen Schadenregulierer für Versicherungen mit 70 Mitarbeitenden vor, der Notizen von Sachverständigen in eine feste JSON-Zusammenfassung mit 12 Feldern überführen muss.

  • Prompting eines allgemeinen Modells liefert die meisten Felder korrekt, erfindet aber hin und wieder Bezeichnungen für Schadensarten.

  • Das Team sammelt, sagen wir, 2.000 frühere Notizen mit von erfahrenen Sachverständigen geprüften Zusammenfassungen und feintunt über die OpenAI-API ein kleineres Modell.

  • Auf einem Testset mit 200 Notizen hält sich das feinabgestimmte Modell konsequent an die Schadenstaxonomie und kostet pro Aufruf weniger als das größere allgemeine Modell.

Fakten zu konkreten Policen kommen weiterhin zur Laufzeit aus dem Retrieval; das feinabgestimmte Modell kümmert sich nur um Struktur und Vokabular.

Wann sollten Sie ein Modell nicht feintunen?

Probieren Sie zuerst Prompting und Retrieval; tunen Sie nur, wenn eine gemessene Lücke bleibt.

  • Sich änderndes Wissen: Produktkataloge, Preise und Richtlinien gehören in RAG, nicht in die Gewichte.

  • Zu wenig saubere Daten: Einige hundert inkonsistente Beispiele lehren Inkonsistenz.

  • Catastrophic Forgetting: Intensives Training auf eine eng gefasste Aufgabe kann allgemeine Fähigkeiten verschlechtern.

  • Wartungsaufwand: Jede neue Version des Basismodells bedeutet erneutes Tuning und erneutes Testen.

Der ehrliche Vergleichsmaßstab ist ein gut ausgearbeiteter Prompt mit guten Beispielen; viele Teams stellen fest, dass er den Großteil der Lücke schließt.

Auch die Lizenzierung spielt eine Rolle: Prüfen Sie, ob Ihre Trainingsdaten so verwendet werden dürfen und ob die Bedingungen des Basismodells kommerzielles Tuning erlauben.

Worin unterscheidet sich Fine-Tuning von RAG und Prompt Engineering?

Prompt Engineering formt die Anweisungen, RAG liefert Fakten zum Abfragezeitpunkt, und Tuning formt das Standardverhalten des Modells um. Sie ergänzen einander, und viele Produktivsysteme kombinieren alle drei.

Prompt Engineering lässt sich am schnellsten ändern und braucht keine Trainingsdaten. RAG hält Antworten aktuell und zitierfähig. Tuning gewinnt bei Konsistenz, Latenz und Kosten bei hohem Volumen.

Zu den unterstützenden Plattformen zählen die OpenAI-API, Google Vertex AI, Amazon Bedrock sowie Open-Source-Stacks wie Hugging Face TRL und PEFT für Modelle wie Llama oder Mistral. Präferenzbasierte Methoden wie RLHF und DPO tunen darauf, welche Antworten Menschen bevorzugen, statt auf exakte Ausgaben, und werden vor allem von Modellentwicklern statt von Anwendungsteams eingesetzt.

Fine-Tuning vs. RAG

Fine-Tuning

RAG

Was sich ändert

Die Gewichte des Modells

Der zum Abfragezeitpunkt mitgegebene Kontext

Am besten für

Konsistentes Format, Stil und Klassifikation

Aktuelle, zitierfähige Fakten

Wissen aktualisieren

Erfordert erneutes Training

Den Dokumentindex aktualisieren

Vorab benötigt

Kuratierte Trainingsbeispiele

Saubere, in Chunks aufgeteilte Quelldokumente

Hauptrisiko

Vergessen und teures erneutes Tuning

Die falsche Passage abrufen

Wie geht VIZIO AI an Fine-Tuning heran?

Die veröffentlichten Projekte von VIZIO AI gehen zuerst über Prompt-Design und Produktentwicklung in Produktion – die richtige Reihenfolge vor jedem Tuning. Für Briefio AI von Qurio LLC nutzte das Venture Studio OpenAI-Modelle, um dichte wissenschaftliche Fachartikel zusammenzufassen, mit sorgfältiger Arbeit an Prompt-Struktur und Inhaltsverarbeitung, damit die Zusammenfassungen kurz, aber originalgetreu blieben, und wandelte sie anschließend in Audio um.

Das MVP der Forschungsplattform Briefio AI wurde in 3 Monaten ausgeliefert. Die Fallstudie beschreibt kein Fine-Tuning; sie zeigt die Baseline, die ein Tuning-Projekt schlagen müsste, gemessen mit Evals an echten Fachartikeln.

So fangen Sie an: Erstellen Sie für Ihre Aufgabe ein Testset mit 100 Beispielen und bewerten Sie Ihren besten Prompt daran, bevor Sie entscheiden, ob Sie überhaupt etwas trainieren.

Facebook-Logo
X-Logo
LinkedIn-Logo
Reddit-Logo
Telegram-Logo

AI-first denken.
Zukunftsschnell handeln.

Lassen Sie uns bauen, was als Nächstes kommt! Von Produktideen und intelligenten Workflows bis zu datengetriebenen Systemen und skalierbaren Growth Operations.

Strategiegespräch buchen