Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Modellgewichte

Modellgewichte sind die gelernten Zahlen in einem neuronalen Netz, im Training festgelegt, die bestimmen, wie es Eingaben in Ausgaben verwandelt. Ein Checkpoint ist eine gespeicherte Datei oder ein Satz von Dateien, der diese Gewichte enthält.

Auch: weights, checkpoint, parameters file

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Ein neuronales Netz ist eine feste Struktur aus Schichten, und die Gewichte sind die Werte in diesen Schichten. Das Training passt sie an, bis die Ausgaben des Modells gut sind. Wenn es heißt, ein Lab habe „die Gewichte veröffentlicht“, bedeutet das, dass du diese Zahlen herunterladen und das Modell selbst ausführen kannst. Die Anzahl der Gewichte ist die Parameterzahl des Modells.

Was ein Checkpoint enthält

In PyTorch liegen die Gewichte in einem state_dict, einem Dictionary, das jede Schicht ihrem Tensor zuordnet. Ein Checkpoint speichert das, manchmal mit dem Zustand des Optimierers, damit das Training fortgesetzt werden kann. Modelldateien auf Hugging Face sind meist in mehrere Shards aufgeteilt und kommen mit einer Konfigurationsdatei, die die Architektur beschreibt, und einem Tokenizer. Ohne den passenden Architekturcode und Tokenizer laufen die Gewichte allein nicht.

Formate

Gängige Formate sind die Pickle-basierten Dateien von PyTorch, Safetensors, GGUF für lokale Runner wie llama.cpp und ONNX. Das Format beeinflusst Sicherheit, Ladegeschwindigkeit und welche Tools es lesen können.

Größe und Präzision

Die Dateigröße ist ungefähr die Parameterzahl mal die Bytes pro Gewicht. Gewichte in niedrigerer Präzision zu speichern oder zu quantisieren verkleinert die Datei und den Speicher, der zum Ausführen nötig ist, mit etwas Qualitätsverlust.

Gewichte vs. Open Source

Die Gewichte zu haben ist nicht dasselbe, wie alles zu haben. Ein Open-Weight-Modell kann ohne seine Trainingsdaten oder seinen Code kommen und unter einer Lizenz mit Einschränkungen stehen. Die Definition der Open Source Initiative behandelt Parameter nur als einen der Teile, die geteilt werden müssen.

Verwandte Begriffe

Open-Weight-Modell
Ein Open-Weight-Modell (Modell mit offenen Gewichten) ist ein Modell, dessen trainierte Gewichte für alle zum Herunterladen und Ausführen veröffentlicht sind, oft ohne Trainingscode oder vollständige Trainingsdaten. Es ist also nicht unbedingt Open Source.
Safetensors
Safetensors ist ein Dateiformat von Hugging Face zum Speichern von Modellgewichten. Anders als bei Python-Pickle-Dateien kann beim Laden kein versteckter Code ausgeführt werden, und es unterstützt schnelles, speichergemapptes Laden einzelner Tensoren.
Modellparameter
Modellparameter sind die Zahlen, die ein neuronales Netz im Training lernt, vor allem Gewichte. Die Parameterzahl, geschrieben als 7B für sieben Milliarden, ist die übliche Kurzangabe für die Größe eines Modells.
GGUF
GGUF ist ein binäres Dateiformat, das die Gewichte, den Tokenizer und die Metadaten eines Modells in einer Datei speichert, gebaut für schnelles Laden und lokale Inferenz mit GGML-basierten Tools wie llama.cpp, oft in quantisierter Form.
Numerische Präzision (FP16, BF16, FP8)
Numerische Präzision ist das Zahlenformat, in dem die Gewichte eines Modells gespeichert und seine Berechnungen ausgeführt werden, etwa FP32, FP16, BF16, FP8 oder INT4. Weniger Bits pro Zahl bedeuten weniger Speicher und schnellere Inferenz, mit gewissem Risiko für die Genauigkeit.
Modelllizenz
Eine Modelllizenz sind die rechtlichen Bedingungen, unter denen die Gewichte eines Modells, manchmal auch sein Code und seine Daten, genutzt, verändert und weitergegeben werden dürfen. Die Bandbreite reicht von freizügigen offenen Lizenzen bis zu nicht-kommerziellen oder eigenen, eingeschränkten Lizenzen.

Quellen