Wenn ein mittelständisches Unternehmen einen KI-Assistenten möchte, der „unser Geschäft kennt", kommt die Frage fast immer als Fine-Tuning daher: Können wir ein Modell auf unseren Daten trainieren? Meist ist Retrieval die bessere Antwort. Die beiden Techniken lösen unterschiedliche Probleme, und sie zu verwechseln ist der häufigste — und teuerste — Fehler, den wir sehen.
Sie lösen unterschiedliche Probleme
Retrieval-Augmented Generation (RAG) gibt dem Modell die richtigen Fakten in genau dem Moment, in dem es antwortet. Sie halten Ihr Wissen in einem durchsuchbaren Speicher, holen für jede Frage die relevanten Passagen und reichen sie dem Modell als Kontext. Das Modell liefert die Sprache; Ihre Daten liefern die Wahrheit.
Fine-Tuning verändert das Verhalten des Modells — seinen Ton, sein Format oder sein Verständnis einer spezialisierten Aufgabe — indem es mit Beispielen trainiert wird. Es bringt dem Modell nicht verlässlich neue Fakten bei, und es hält diese Fakten nicht aktuell.
Wenn Ihr Problem lautet „das Modell muss unsere aktuellen Richtlinien, Preise oder Dokumente kennen", dann ist das ein Retrieval-Problem, kein Trainingsproblem.
Warum Retrieval für den Mittelstand meist gewinnt
- Es bleibt korrekt. Aktualisieren Sie ein Dokument, und die nächste Antwort berücksichtigt es. Ein feingetuntes Modell müsste neu trainiert werden.
- Es ist nachprüfbar. RAG kann die Quellpassage zitieren, was für Vertrauen und Compliance enorm wichtig ist.
- Es ist günstiger und schneller umgesetzt. Keine Trainingspipeline, kein gelabelter Datensatz, keine GPU-Rechnung — nur ein guter Index und solide Prompts.
- Es scheitert sicherer. Steht die Antwort nicht im abgerufenen Kontext, sagt ein gut gebautes System das, statt selbstbewusst eine zu erfinden.
Wann Fine-Tuning seinen Platz hat
Fine-Tuning ist das richtige Werkzeug, wenn Sie einen konsistenten Stil oder ein festes Ausgabeformat im großen Maßstab brauchen, wenn Sie das Verhalten eines großen Modells in ein kleineres, günstigeres destillieren, oder wenn eine Aufgabe so spezialisiert ist, dass Prompting die Qualitätsschwelle nicht erreicht. Das sind echte Fälle — sie sind nur seltener, als der Verkaufspitch suggeriert.
Der pragmatische Weg
Beginnen Sie mit Retrieval und starken Prompts. Messen Sie mit einem Eval-Set aus echten Fragen, wo es an seine Grenzen stößt. Erst dann sollten Sie Fine-Tuning für genau die schmale Lücke erwägen, die Retrieval nicht schließen kann. Für die meisten Mittelständler wird dieser zweite Schritt nie notwendig — und das Geld, das nicht in eine Trainingspipeline fließt, ist in einer sauberen, gut gepflegten Wissensbasis besser angelegt.