Foundation Model
Ein Foundation Model (Basis- oder Grundlagenmodell) ist ein großes Modell, das in großem Maßstab auf breiten Daten trainiert wurde und sich per Prompting oder Fine-Tuning an viele verschiedene nachgelagerte Aufgaben anpassen lässt, statt für eine einzige Aufgabe gebaut zu sein.
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Der Begriff wurde 2021 von Forschern in Stanford in einem langen Bericht über die Chancen und Risiken dieser Modelle geprägt. Sie nutzten Beispiele wie BERT, DALL-E und GPT-3 und wählten das Wort „Foundation“, um zu betonen, dass viele Anwendungen auf einer einzigen Grundlage aufgebaut werden.
Warum es wichtig ist
Die meisten KI-Produkte trainieren heute kein eigenes Modell. Sie beginnen mit einem Foundation Model und passen es an, indem sie Prompts schreiben, Retrieval ergänzen oder es mit eigenen Daten feinabstimmen. Ein einziger teurer Pretraining-Lauf kann Tausenden Anwendungen dienen.
Foundation Model und LLM
Ein großes Sprachmodell ist eine Art von Foundation Model. Der Begriff ist weiter: Auch Bild-, Audio-, Video- und multimodale Modelle können Foundation Models sein, solange sie breit trainiert und dann angepasst werden.
Grenzen
Die Stanford-Autoren warnen vor Homogenisierung: Weil so viele Systeme dieselbe Grundlage teilen, erbt alles, was daraus angepasst wird, jeden Fehler und jede Verzerrung des Foundation Models. Der Begriff beschreibt außerdem, wie ein Modell genutzt wird, nicht eine feste Größe oder Architektur, die Bezeichnungen variieren also zwischen Unternehmen.
Verwandte Begriffe
- Großes Sprachmodell
- Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz mit Milliarden Parametern, das auf großen Textmengen trainiert wurde, um das nächste Token vorherzusagen, wodurch es schreiben, Fragen beantworten, zusammenfassen und Anweisungen befolgen kann.
- Fine-Tuning
- Fine-Tuning (Feinabstimmung) ist das Weitertrainieren eines vortrainierten Modells auf einem kleineren, aufgabenspezifischen Datensatz, damit das Modell eine bestimmte Fähigkeit, ein Format, einen Ton oder ein Fachgebiet übernimmt, ohne von Grund auf trainiert zu werden.
- Pretraining
- Pretraining (Vortraining) ist die erste und größte Phase im Training eines Modells, in der es allgemeine Muster aus einem sehr großen, nicht gelabelten Datensatz lernt, meist durch Vorhersage des nächsten Tokens, noch vor jeder aufgabenspezifischen Anpassung.
- Basismodell
- Ein Basismodell (Base Model) ist ein Sprachmodell direkt aus dem Pretraining, vor Instruction Tuning oder Training mit menschlichem Feedback. Es setzt jeden Text fort, den es bekommt, statt Anweisungen zu befolgen oder ein Gespräch zu führen.
- Multimodales Modell
- Ein multimodales Modell ist ein KI-Modell, das mehr als eine Art von Daten aufnehmen und manchmal auch erzeugen kann, etwa Text, Bilder, Audio oder Video, und zwar in einem einzigen Modell statt über getrennte Systeme.
- Frontier-Modell
- Ein Frontier-Modell (Frontier Model) ist eines der leistungsfähigsten allgemeinen KI-Modelle, die zu einem bestimmten Zeitpunkt verfügbar sind, meist von einem finanzstarken Labor. Der Begriff ist relativ und taucht auch in der KI-Sicherheitspolitik auf.