Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

KI-News & Forschung

Forschung ·

WorldFoundry bietet gemeinsame Open-Source-Werkzeuge, um Weltmodelle auszuführen und zu bewerten

WorldFoundry, ein Preprint, ist eine Open-Source-Infrastruktur zum Ausführen und Bewerten generativer Weltmodelle über Video, 3D und 4D, verkörpertes Handeln und interaktive Systeme. Sie hält getrennt fest, ob ein Modell tatsächlich lief und wie gut es abschnitt, sodass jede Aussage auf ihre Ausgaben zurückführbar ist. Der Katalog umfasst 270 Modelleinträge, 74 Benchmarks und 62 Metrikeinträge.

"Weltmodell" ist einer der am stärksten gedehnten Begriffe der KI geworden. Er steht für Videogeneratoren, die überzeugende Clips erzeugen, für 3D-Szenenrekonstruktionen, für Roboter-Policies und für interaktive, spieleartige Simulatoren. Ein neuer Preprint von OpenEnvision, einem Forschungskollektiv mit 16 Autoren, argumentiert, dass das Feld seinen Fortschritt erst messen kann, wenn es sich auf die Bedeutung des Begriffs einigt und diese Systeme auf gemeinsamer Infrastruktur betreibt. Die Antwort heißt WorldFoundry, eine Open-Source-Infrastruktur, um sie auszuführen und zu bewerten.

Das Paper beginnt mit einer Definition. Ein generatives Weltmodell hält demnach einen dauerhaften inneren Zustand einer Umgebung, aktualisiert ihn, wenn jemand darauf einwirkt, und erzeugt stimmige Zukünfte, die diese Handlungen widerspiegeln, auch solche, die nicht stattgefunden haben. Ein Videomodell, das schöne Bilder liefert, aber die Raumaufteilung vergisst, sobald sich die Kamera dreht, zählt nicht. Die Autoren argumentieren, dass visuelle Plausibilität weder notwendiger noch hinreichender Beleg für ein echtes Weltmodell ist, eine Lücke, die physikorientierte Benchmarks immer wieder offenlegen.

Die Software ist der praktische Teil. WorldFoundry vereint das Finden von Modellen und Benchmarks, die Einrichtung der Umgebung, die Ausführung, die Ablage der Ergebnisse und die Visualisierung unter einem Dach, mit Adaptern für Video, 3D und 4D, verkörpertes Handeln und interaktive Systeme, sodass jedes seine nativen Eingaben und Bewertungsregeln behält. Die wichtigste Designentscheidung ist, zu trennen, ob ein Modell tatsächlich lief und wie gut es abschnitt: Manifeste legen fest, was jeder Eintrag braucht, Ausgaben werden hinter festen Verträgen gespeichert, und Scorecards halten Ausführungsbelege getrennt von Leistungsangaben fest. Der aktuelle Katalog führt 270 Modelleinträge, 74 Benchmarks und 62 Metrikeinträge, und laut Team wurde jeder Modell-Runner anhand eines dokumentierten Referenzablaufs vollständig geprüft.

Das ist wichtig, weil sich Ergebnisse von Weltmodellen notorisch schwer vergleichen lassen. Jedes Labor nutzt sein eigenes Setup, und oft ersetzt ein Demo-Video den Beleg. Eine gemeinsame Testumgebung dieser Art könnte für Weltmodelle leisten, was gemeinsame Bewertungswerkzeuge für Sprachmodelle geleistet haben, und es erleichtern, eine Behauptung über ein System wie Nvidias Cosmos-Familie unter gleichen Bedingungen mit Konkurrenten abzugleichen.

Die Vorbehalte betreffen Verbreitung und Tiefe. Ein lauffähiger Katalogeintrag ist nicht dasselbe wie eine Bewertung, die die ursprünglichen Autoren unterschreiben würden, und die Definition des Papers ist zwar nützlich, aber die der Autoren und wird nicht allen passen. Infrastruktur lohnt sich nur, wenn andere Labore sie nutzen, und das kann der Preprint noch nicht zeigen. Er ist nicht begutachtet.

Unser Fazit: Arbeiten zu Weltmodellen lassen sich schwer vergleichen, weil jede ihr eigenes Setup nutzt, gemeinsame Infrastruktur ist daher überfällig. Ihr Wert hängt davon ab, ob andere Labore sie übernehmen, und das kann ein Katalog allein nicht sicherstellen.

Quelle: arXiv (Hugging Face Daily Papers)

Weitere Artikel