Skip to content

PyTorch

Das dominierende Deep-Learning-Framework: Tensoren und neuronale Netze in Python mit starker GPU-Beschleunigung.

Getestet von Sheela · Aktualisiert

Auf GitHub ansehen Open Source

Unsere Bewertung

4.9/5

Nach wie vor das Framework unter fast jedem offenen Modell, und mit dem Release 2.14 behält es seinen Vorsprung bei Compilern und Multi-GPU-Training.

Was ist PyTorch?

PyTorch ist das Deep-Learning-Framework, auf dem der Großteil der KI-Forschung und der offenen Modelle aufbaut. Es liefert Tensoren, automatische Differenzierung und GPU-Beschleunigung aus Python heraus und wird von der PyTorch Foundation unter dem Dach der Linux Foundation verwaltet.

Die aktuelle Release-Linie ist 2.14, erschienen am 2. September 2026; das Patch-Release 2.14.1 folgte am 30. September. Es gibt Builds für NVIDIA CUDA, AMD ROCm, Intel XPU und Apple Silicon, und 2.14 bringt Wheels für Python 3.15, einschließlich des Free-Threaded-Builds (ohne GIL), auch wenn torch.compile Python 3.15 noch nicht unterstützt.

Das Framework ist unter der BSD-3-Clause-Lizenz kostenlos. Eine kostenpflichtige Edition gibt es nicht; die Kosten sind die Hardware, auf der es läuft.

Lohnt sich PyTorch?

PyTorch ist die Schicht, auf der der Rest der Open-Source-KI steht, und 2026 bedroht daran nichts. Transformers, TRL, Unsloth, vLLM und diffusers bauen alle darauf auf, und das Repository hat rund 105.000 GitHub-Sterne. Für die meisten Teams ist die Frage nicht, ob sie es nutzen, sondern wie tief im Stack sie arbeiten.

Das Release 2.14 zeigt, wohin die Arbeit inzwischen fließt: in den Compiler und den Cluster. NVGEMM bringt generierte CUTLASS-Kernel in Inductor, das Backend von torch.compile, einschließlich NVFP4-Matrixrechnung für Blackwell-GPUs. Fehlertoleranz wurde zu einem vollwertigen Teil der verteilten c10d-Schicht, mit Prozessgruppen, die sich im laufenden Betrieb umkonfigurieren lassen, und ein aus torchcomms portiertes NCCL-Backend in der Vorschau soll ein direkter Ersatz sein. Das zählt für alle, die über viele GPUs trainieren; wer auf einer einzelnen Karte feinabstimmt, wird davon kaum etwas merken.

Die unbequemen Stellen sind bekannt. Das passende Wheel zur eigenen CUDA- oder ROCm-Version zu finden, bringt Leute immer noch ins Stolpern, und jedes Minor-Release listet inkompatible Änderungen auf; 2.14 ändert, wie Gradienten an clamp-Grenzen aufgeteilt werden, was Ergebnisse verschieben kann, ohne einen Fehler auszulösen. Das Laden von Checkpoints ist die Schwachstelle bei der Sicherheit. torch.load mit weights_only=True sollte der sichere Weg sein, doch zwei Advisories (CVE-2025-32434, als kritisch eingestuft, und CVE-2026-24747, als hoch eingestuft und in 2.10.0 behoben) zeigten, dass ein bösartiger Checkpoint trotzdem Code ausführen konnte. Safetensors-Dateien umgehen das Problem.

JAX hält sich in einigen Forschungslaboren, und Apples MLX ist eine leichtere Option auf dem Mac, aber keines von beiden hat die Breite an Drittanbieter-Code, die PyTorch hat. Wer nur ein Modell feinabstimmen will, für den ist PyTorch der Motor und nicht das Lenkrad, und eine Bibliothek wie Transformers oder Unsloth darüber erreicht dasselbe mit einem Bruchteil des Codes.

Wo es sich lohnt

  • Ein ML-Engineer, der das Pretraining eines Modells mit 1B Parametern auf einem gemieteten 8x-H100-Knoten fortsetzt

    Über acht GPUs trainieren, ohne ein verteiltes System von Grund auf zu schreiben

    FSDP und die c10d-Schicht verteilen das Modell über die GPUs, und dank der Fehlertoleranz in 2.14 kann sich eine Prozessgruppe erholen, statt den Job neu zu starten. Bei 3,99 $ pro H100-Stunde auf einer 8-GPU-Instanz bei Lambda kostet der Knoten rund 32 $ pro Stunde, ein verlorener Lauf ist also der teure Fehler, gegen den man planen muss.

  • Ein Doktorand, der eine neue Attention-Variante für ein Paper implementiert

    Eine Architektur prototypisch bauen und schnell genug zum Trainieren machen

    Schreib sie in Eager-PyTorch, debugge sie Zeile für Zeile und pack sie dann für Kernel-Fusion in torch.compile. Auf dem Mac hat das MPS-Backend in 2.14 natives SVD, QR und Cholesky bekommen, sodass mehr lineare Algebra auf Apple Silicon bleibt, statt auf die CPU zurückzufallen.

  • Ein Platform-Lead, der das Tooling für ein ML-Team mit 50 Leuten vereinheitlicht

    Ein Framework wählen, das Recruiting, Bibliotheken und Anbieter gleichermaßen unterstützen

    PyTorch kostet unter BSD-3-Clause keine Lizenzgebühren, und fast jedes offene Modell wird mit PyTorch-kompatiblen Gewichten ausgeliefert, die eigentlichen Kosten sind also GPUs und Engineers. Das zu steuernde Risiko ist die Lieferkette: Bestehe auf Safetensors-Checkpoints und halte torch auf 2.10 oder neuer.

Bevor du dich festlegst

Einrichtung
pip install torch zieht das Standard-Wheel; für einen bestimmten CUDA-, ROCm- oder CPU-Build liefert der Selektor auf pytorch.org die passende Index-URL. Sind die Treiber schon installiert, ist der erste GPU-Tensor in Minuten da; Abweichungen zwischen Treiber und Toolkit sind die übliche Verzögerung.
Integrationen
Transformers, diffusers, vLLM, Lightning und die meisten Trainingsbibliotheken setzen darauf auf; torch.export und ONNX decken das Deployment außerhalb von Python ab. Zu den Hardware-Backends gehören CUDA, ROCm 7.14, Intel XPU und Apple MPS, und Inductor zielt bereits auf NVIDIA Rubin (sm_107).
Daten und Datenschutz
Die Bibliothek sendet von sich aus nichts irgendwohin. Das Risiko ist das Laden nicht vertrauenswürdiger Pickle-basierter Checkpoints: CVE-2026-24747 erlaubte Codeausführung mit weights_only=True in Versionen bis 2.9.1. Die BSD-3-Clause-Lizenz erlaubt kommerzielle Nutzung ohne Einschränkung.
Kosten im großen Maßstab
Die Software ist kostenlos, und eine Enterprise-Edition gibt es nicht; die Rechnung ist die Rechenleistung. Lambda listet eine H100 PCIe für 3,29 $ pro Stunde und eine A10 (24 GB) für 1,29 $, eine einzelne dauerhaft laufende H100 kostet also rund 2.400 $ im Monat.
Grenzen
Rund 17.700 offene Issues und Pull Requests auf GitHub. torch.compile unterstützt Python 3.15 in 2.14 nicht, und jedes Minor-Release listet inkompatible Änderungen auf, also pinne Versionen in der Produktion.

Was gut ist

  • Die Basis fast jeder Bibliothek für offene Modelle
  • torch.compile und verteiltes Training eingebaut
  • Wheels für CUDA, ROCm, Intel XPU und Apple Silicon
  • Neutrale Governance über die Linux Foundation

Was nicht

  • Für routinemäßiges Fine-Tuning zu low-level
  • Wheels auf CUDA- oder ROCm-Versionen abzustimmen ist mühsam
  • Minor-Releases ändern das Verhalten, Versionen müssen also gepinnt werden
  • Pickle-basierte Checkpoints bleiben ein Risiko für Codeausführung

Am besten für

Alle, die neuronale Netze bauen, erforschen oder tiefgreifend anpassen.

Alternativen zu PyTorch

PyTorch: häufige Fragen

Lohnt sich PyTorch?
Nach wie vor das Framework unter fast jedem offenen Modell, und mit dem Release 2.14 behält es seinen Vorsprung bei Compilern und Multi-GPU-Training. Wir bewerten es mit 4.9 von 5.
Was kostet PyTorch?
Kostenlos und Open Source unter der BSD-3-Clause-Lizenz. Keine kostenpflichtige Edition.
Welche Nachteile hat PyTorch?
Für routinemäßiges Fine-Tuning zu low-level; Wheels auf CUDA- oder ROCm-Versionen abzustimmen ist mühsam; Minor-Releases ändern das Verhalten, Versionen müssen also gepinnt werden; Pickle-basierte Checkpoints bleiben ein Risiko für Codeausführung.
Für wen eignet sich PyTorch?
Alle, die neuronale Netze bauen, erforschen oder tiefgreifend anpassen.
Was kostet PyTorch für ein Team oder im Produktivbetrieb?
Die Software ist kostenlos, und eine Enterprise-Edition gibt es nicht; die Rechnung ist die Rechenleistung. Lambda listet eine H100 PCIe für 3,29 $ pro Stunde und eine A10 (24 GB) für 1,29 $, eine einzelne dauerhaft laufende H100 kostet also rund 2.400 $ im Monat.
Ist PyTorch sicher für Firmendaten?
Die Bibliothek sendet von sich aus nichts irgendwohin. Das Risiko ist das Laden nicht vertrauenswürdiger Pickle-basierter Checkpoints: CVE-2026-24747 erlaubte Codeausführung mit weights_only=True in Versionen bis 2.9.1. Die BSD-3-Clause-Lizenz erlaubt kommerzielle Nutzung ohne Einschränkung.
Was sind die besten Alternativen zu PyTorch?
Die nächsten Alternativen, die wir getestet haben, sind Hugging Face Transformers und MLX.

Antworten geprüft am 23. Okt. 2026.