Synthetische Daten
Synthetische Daten sind Trainings- oder Testdaten, die von Software erzeugt werden, oft von einem anderen KI-Modell, statt aus realen Quellen gesammelt zu werden. Sie dienen dazu, Lücken zu füllen, günstig Beispiele hinzuzufügen oder echte personenbezogene Daten nicht offenzulegen.
Von Divya Sharma · Geprüft am 16. Nov. 2026 · So testen wir
Echte Daten zu sammeln und zu labeln ist langsam und teuer, und manche Daten sind privat oder selten. Synthetische Daten ersetzen oder ergänzen sie. Bei Sprachmodellen wird ein starkes Modell aufgefordert, Fragen, Anweisungen, Antworten, Dialoge oder Code zu schreiben, und die Ergebnisse werden gefiltert und für Fine-Tuning oder Evaluation genutzt.
Ein bekanntes Beispiel
Self-Instruct (Wang et al., 2022) zeigte das Muster. Ein Modell erzeugt neue Anweisungen mit Eingaben und Ausgaben, ungültige oder fast doppelte Einträge werden herausgefiltert, und das ursprüngliche Modell wird auf dem Rest feinjustiert. Die Autoren veröffentlichen den daraus entstandenen synthetischen Datensatz. Viele spätere Anweisungsdatensätze folgen ähnlichen Schritten, und Knowledge Distillation stützt sich oft darauf, dass ein größeres Lehrermodell Daten für ein kleineres Schülermodell erzeugt.
Einsatzzwecke
Typische Einsätze sind Anweisungs- und Chat-Daten, seltene Randfälle, Tool-Nutzungsverläufe für Agenten, Testsätze für LLM-Evaluation und Ersatzdatensätze, die wie Kundendaten aussehen, ohne echte Personen zu sein. Auch im Bildbereich tauchen sie auf, wo gerenderte Szenen gelabelte Bilder liefern.
Risiken
Synthetische Daten erben die Fehler, Verzerrungen und blinden Flecken des erzeugenden Modells, und Filtern fängt nur einen Teil davon ab. Wiederholtes Training auf Modellausgaben mit wenig frischen echten Daten kann einengen, was ein Modell hervorbringt. Erzeugte Beispiele sind meist weniger vielfältig als echte. Die Nutzungsbedingungen mancher Modellanbieter beschränken, ihre Ausgaben zum Training konkurrierender Modelle zu verwenden, also prüfe sie. Halte ein echtes, von Menschen geprüftes Golden Dataset vor, um zu messen, ob synthetische Daten tatsächlich geholfen haben. Siehe auch KI-Trainingsdaten.
Verwandte Begriffe
- KI-Trainingsdaten
- KI-Trainingsdaten (AI Training Data) sind die Sammlung von Beispielen, aus denen ein Modell lernt, etwa Webtext, Code, Bilder, Transkripte oder gelabelte Paare. Ihre Größe, Qualität, Mischung und Lizenzierung bestimmen, was das Modell kann und wo es scheitert.
- Fine-Tuning
- Fine-Tuning (Feinabstimmung) ist das Weitertrainieren eines vortrainierten Modells auf einem kleineren, aufgabenspezifischen Datensatz, damit das Modell eine bestimmte Fähigkeit, ein Format, einen Ton oder ein Fachgebiet übernimmt, ohne von Grund auf trainiert zu werden.
- Wissensdestillation
- Wissensdestillation (Knowledge Distillation) ist eine Trainingsmethode, bei der ein kleineres Schülermodell lernt, die Ausgaben eines größeren Lehrermodells nachzuahmen, sodass ein destilliertes Modell entsteht, das viel vom Können des Lehrers zu geringeren Kosten behält.
- Golden Dataset
- Ein Golden Dataset (Referenzdatensatz) ist ein fester, sorgfältig geprüfter Satz von Beispieleingaben mit den erwarteten Antworten oder dem erwarteten Verhalten, der als Referenz dient, wenn du ein KI-System evaluierst oder auf Regressionen testest.
- LLM-Evaluierung
- LLM-Evaluierung (LLM Evaluation), oft Evals genannt, misst, wie gut ein Modell oder eine KI-Anwendung eine Aufgabe erledigt, indem man es auf einem Satz von Testfällen laufen lässt und die Ausgaben nach festgelegten Kriterien bewertet, per Code, durch Menschen oder durch ein anderes Modell.