Lernziel
Du erklärst Training, Inferenz und Kontext und erkennst typische Kapazitätsgrenzen.
Voraussetzungen
Stufe 1; Interesse an technischen Zusammenhängen.
So funktioniert es
Ein großes Sprachmodell, kurz LLM, erzeugt Text aus gelernten Mustern. Beim Training werden Modellparameter anhand vieler Beispiele angepasst. Bei der Inferenz wird das bereits trainierte Modell verwendet. Eine gewöhnliche Unterhaltung ist nicht automatisch ein erneutes Training seiner Gewichte.
Text wird intern in Token zerlegt. Ein Token kann ein Wortteil, ein Satzzeichen oder eine andere Einheit sein. Die Anzahl hängt von Sprache und Tokenizer ab. Eine feste Gleichsetzung „ein Wort ist ein Token“ führt deshalb zu falschen Kapazitätsabschätzungen.
Das Kontextfenster begrenzt, wie viel Information das Modell in einer einzelnen Verarbeitung berücksichtigen kann. Systemvorgaben, Gesprächsverlauf, Dokumentauszüge und die Ausgabe beanspruchen Platz. Eine große Datei passt nicht allein deshalb hinein, weil ihr Upload möglich war.
Mehr Kontext kann mehr Speicher und Zeit benötigen. Außerdem garantiert eine Information im Kontext noch nicht, dass sie korrekt verwendet wird. Gib nur relevantes Material mit und überprüfe, ob wichtige Details erhalten bleiben.
Eine einfache Planung
Bei einem gedachten Budget von 4.000 Token reservierst du beispielsweise 1.000 für die Antwort und 500 für Vorgaben und Frage. Für Dokumente bleiben dann höchstens 2.500. Das ist ein Rechenbeispiel, keine universelle Modelleinstellung.
Vereinfachtes Rechenbeispiel mit einem angenommenen Kontextbudget von 8.000 Token: 1.000 für Anweisungen und Frage, 2.000 als reservierter Platz für die Antwort.
A = Anweisung & Frage · D = Dokumente · R = Antwortreserve
2.000 Token bleiben frei.
Lernsimulation mit frei gewählten Zahlen, kein gemessener Modellwert. Echte Grenzen und die Zählweise hängen von Modell und Anbieter ab. Es werden keine Daten übertragen.
Konkretes Beispiel
Du startest einen neuen Chat und erwähnst eine Information aus dem alten Gespräch nicht. Ohne eine zusätzliche Speicherfunktion hat das Modell diesen früheren Inhalt nicht automatisch im aktuellen Kontext.
Deine Übung
Zeichne vier Kästen für Vorgaben, Verlauf, Dokumente und Antwort. Verteile ein fiktives Budget von 8.000 Token. Erkläre, was du bei einem zu langen Dokument kürzen oder gezielt suchen würdest.
Selbsttest
Häufige Fehler
- Wörter und Token gleichsetzen.
- Chatverlauf mit dauerhaftem Modellwissen verwechseln.
- Das gesamte Kontextbudget für Dokumente verplanen.
Nächster Lernschritt
Lokale KI mit Ollama →Quellen
Offizielle Dokumentation und Originalveröffentlichungen; abgerufen am 11. September 2026. Eigene Beispiele und Übungen stammen von Wittmer AI. Externe Seiten können sich ändern.
- Hugging Face: LLM Course (extern)
- Google: Machine Learning Glossary (extern)
- Ollama: FAQ, local and cloud processing (extern)
Dein Lernfortschritt
Optional, nur in diesem Browser. Kein Konto, keine Übertragung. Bei gelöschten Browserdaten geht der Fortschritt verloren.