Was ist LLM Course?
Der LLM Course von Maxime Labonne ist eine kostenlose Roadmap auf GitHub zum Lernen großer Sprachmodelle. Er ist in drei Teile gegliedert: Grundlagen (Mathematik, Python, neuronale Netze, NLP), den Track LLM Scientist (Architektur, Pre-Training, Daten für das Post-Training, Fine-Tuning, Präferenz-Alignment, Evaluation, Quantisierung) und den Track LLM Engineer (Modelle betreiben, Vektorspeicher, RAG, Agenten, Inferenzoptimierung, Deployment, Sicherheit).
Jeder Abschnitt verbindet eine kurze Erklärung mit ausgewählten Artikeln, Videos und Papers. Eine separate Tabelle listet rund zwei Dutzend Colab-Notebooks des Autors, von Ein-Klick-Werkzeugen wie LazyMergekit und AutoQuant bis zu Schritt-für-Schritt-Anleitungen fürs Fine-Tuning. Dasselbe Material liegt dem LLM Engineer's Handbook zugrunde, das Labonne für Packt mitgeschrieben hat.
Releases gibt es keine. Die Commits sind auf eine Handvoll pro Jahr zurückgegangen; der jüngste, am 5. Februar 2026, reparierte einen kaputten Link.
Lohnt sich LLM Course?
Der LLM Course ist eine Landkarte, kein Lehrbuch, und zwar eine sehr gute Landkarte. Sein Wert liegt in der Reihenfolge: Er sagt einem Entwickler, was er nach Transformern lernen sollte, was zum Post-Training gehört und wo RAG und Agenten ihren Platz haben, und verlinkt dann für jeden Schritt das beste kostenlose Material. Rund 84.600 GitHub-Sterne deuten darauf hin, dass viele ihn genau so nutzen.
Die Notebooks sind die praktische Hälfte und der Teil, den du prüfen solltest, bevor du dich darauf verlässt. Die neueste Fine-Tuning-Anleitung zielt auf Llama 3.1 und entstand im Juli 2024; andere behandeln Mistral-7B mit DPO und QLoRA, Llama 2 und CodeLlama. Die Techniken (LoRA, ORPO, GGUF-Quantisierung, Model Merging, Abliteration) gelten weiterhin, aber Bibliotheksversionen und Basismodelle haben sich weiterentwickelt, rechne also damit, dass einige Zellen Reparaturen brauchen.
Die geschriebene Roadmap ist aktueller als die Notebooks: Der Engineer-Track nennt Speculative Decoding mit EAGLE-3 und den Agents Course von Hugging Face, aber der Commit-Verlauf zeigt in den vergangenen zwölf Monaten nur fünf Commits, meist kleine Korrekturen. Er liegt damit gerade noch innerhalb des Aktivitätsfensters von 12 Monaten.
Der Kurs ist kostenlos und soll es laut Autor auch bleiben; wer ihn unterstützen will, kauft das bezahlte LLM Engineer's Handbook. Im Vergleich zu LLMs from Scratch von Sebastian Raschka, das lehrt, indem es ein Modell von Anfang bis Ende in Code baut, deckt dieser Kurs weit mehr Themen ab, mit weit weniger Tiefe pro Thema.
Wo es sich lohnt
Ein Backend-Engineer auf dem Weg in eine Rolle im Bereich angewandte KI
Herausfinden, was er über ein paar Monate in welcher Reihenfolge lernen sollte
Folge dem Track LLM Engineer Abschnitt für Abschnitt: Modelle betreiben, Vector Stores, RAG, Agenten, Inferenz, Deployment und Sicherheit. Alles Verlinkte ist kostenlos; der Aufwand ist Zeit, und einige Links könnten umgezogen sein.
Eine ML-Engineerin mit einer kostenlosen Colab-GPU
Zum ersten Mal ein 7B-Modell feinabstimmen
Öffne das Notebook für Mistral-7B mit QLoRA, das der Autor für die kostenlose Colab-Stufe geschrieben hat, und tausche dann ein aktuelles Basismodell ein. Rechne damit, Bibliotheksversionen aktualisieren zu müssen, bevor die Zellen sauber laufen.
Ein Trainingsverantwortlicher, der drei Neuzugänge in ein LLM-Team einarbeitet
Ihnen einen gemeinsamen Lehrplan geben, ohne einen Kurs zu kaufen
Nutze die Überschriften des Scientist-Tracks als Leseplan und die Notebooks als Übungen. Das erspart ein internes Curriculum, auch wenn das Team aktuelle Modelle und Werkzeuge selbst ergänzen muss.
Bevor du dich festlegst
- Einrichtung
- Nichts zu installieren: Lies das README auf GitHub und öffne die Notebooks mit einem Google-Konto in Google Colab. Das Notebook für Mistral-7B mit QLoRA ist für die kostenlose Colab-Stufe geschrieben.
- Integrationen
- Die Notebooks nutzen Hugging Face Transformers, TRL, Unsloth, Axolotl, MergeKit, llama.cpp und ExLlamaV2; einige laden Ergebnisse in den Hugging Face Hub hoch oder mieten GPUs bei RunPod.
- Daten und Datenschutz
- Statisches Markdown und Notebooks unter Apache 2.0, die Weiterverwendung in internen Schulungen ist also erlaubt. Wer Notebooks in Colab ausführt, legt seine Daten in Googles Dienst, und Uploads in den Hub brauchen ein eigenes Token.
- Kosten im großen Maßstab
- Kostenlos. Ausgaben entstehen nur für GPU-Zeit, wenn das kostenlose Colab nicht mehr reicht, etwa eine gemietete GPU für die Notebooks zu Axolotl oder AutoEval, plus das optionale LLM Engineer's Handbook.
- Grenzen
- Keine Releases, fünf Commits in den vergangenen zwölf Monaten und 91 offene Issues oder Pull Requests. Die Modellauswahl der Notebooks (Llama 2, Llama 3.1, Mistral-7B) stammt aus 2023 und 2024.
Was gut ist
- Klare Reihenfolge über die Tracks Grundlagen, Scientist und Engineer
- Rund zwei Dutzend kostenlose Colab-Notebooks des Autors
- Behandelt Post-Training, Quantisierung und Merging ungewöhnlich gründlich
- Apache 2.0, kostenlos und ohne Anmeldung
Was nicht
- Überwiegend Links auf externes Material
- Das neueste Fine-Tuning-Notebook stammt aus dem Juli 2024 (Llama 3.1)
- Fünf Commits im vergangenen Jahr
Am besten für
Entwickler, die einen strukturierten Einstieg in LLM-Training und -Engineering suchen.
Alternativen zu LLM Course
LLM Course: häufige Fragen
- Lohnt sich LLM Course?
- Ein gut geordneter Lehrplan für den gesamten LLM-Stack, dessen praktische Notebooks mit der Leseliste nicht Schritt gehalten haben. Wir bewerten es mit 4.2 von 5.
- Was kostet LLM Course?
- Kostenlos und Open Source unter der Apache 2.0-Lizenz.
- Welche Nachteile hat LLM Course?
- Überwiegend Links auf externes Material; Das neueste Fine-Tuning-Notebook stammt aus dem Juli 2024 (Llama 3.1); Fünf Commits im vergangenen Jahr.
- Für wen eignet sich LLM Course?
- Entwickler, die einen strukturierten Einstieg in LLM-Training und -Engineering suchen.
- Was kostet LLM Course für ein Team oder im Produktivbetrieb?
- Kostenlos. Ausgaben entstehen nur für GPU-Zeit, wenn das kostenlose Colab nicht mehr reicht, etwa eine gemietete GPU für die Notebooks zu Axolotl oder AutoEval, plus das optionale LLM Engineer's Handbook.
- Ist LLM Course sicher für Firmendaten?
- Statisches Markdown und Notebooks unter Apache 2.0, die Weiterverwendung in internen Schulungen ist also erlaubt. Wer Notebooks in Colab ausführt, legt seine Daten in Googles Dienst, und Uploads in den Hub brauchen ein eigenes Token.
- Was sind die besten Alternativen zu LLM Course?
- Die nächsten Alternativen, die wir getestet haben, sind LLMs from Scratch, Generative AI for Beginners und Prompt Engineering Guide.
Antworten geprüft am 23. Okt. 2026.