{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Development"],"content":{"markdown":"Jedes KI-Modell lebt zwei Leben. Zuerst lernt es: Im **Training** sieht es große Datenmengen und passt seine inneren Zahlen an, immer wieder, bis seine Vorhersagen gut sind. Dann arbeitet es: In der **Inferenz** bekommt das fertige Modell eine neue Eingabe, etwa Ihre Frage, und erzeugt eine Ausgabe, ohne dabei etwas Neues zu lernen. Die beiden Phasen unterscheiden sich in fast allem: wer zahlt, wie lange sie dauern, welche Hardware sie brauchen und was schiefgehen kann.\n\nDies ist Teil 3 von Level 0 in unserem Lernpfad KI-Grundlagen. Sie erfahren, was in jeder Phase passiert, warum das Training eines Spitzenmodells zu einem Industrieprojekt geworden ist und warum auch die Inferenz, der scheinbar günstige Teil, große Kosten verursacht.\n\n## Zwei Phasen jedes Modells\n\n![Zwei Spalten: Training mit Daten, vielen Runden der Gewichtsanpassung und großen Chip-Clustern über Wochen; Inferenz mit neuer Eingabe, festem Modell und Antwort in Sekunden](/images/learn/de/training-and-inference-phases.webp \"Training und Inferenz im Vergleich. Die Gewichte ändern sich nur im Training.\")\n\nIm Training macht das Modell eine Vorhersage für ein Beispiel, eine Formel misst den Fehler, und ein Algorithmus namens **Backpropagation** berechnet, wie sich jedes Gewicht ändern müsste, damit der Fehler kleiner wird. Dann bewegen sich alle Gewichte ein kleines Stück in diese Richtung. Ein Durchgang durch alle Trainingsdaten heißt **Epoche**, und ein Modell braucht meist viele davon. Das kleine Netz in unserem Ziffern-Experiment etwa durchlief {{\u003c num \"ml_experiments\" \"mlp_epochs\" \u003e}} Runden der Anpassung.\n\nIn der Inferenz bleiben die Gewichte fest. Das Modell rechnet nur: Eingabe hinein, Ausgabe heraus. Ein Sprachmodell tut das einmal für jedes Token, ungefähr jedes Wortstück, seiner Antwort — deshalb dauern lange Antworten länger und kosten mehr.\n\n| | Training | Inferenz |\n|---|---|---|\n| Was passiert | Gewichte werden angepasst, um den Fehler zu senken | Feste Gewichte machen aus einer Eingabe eine Ausgabe |\n| Wie oft | Einmal je Modellversion, dazu Aktualisierungen | Für jede einzelne Anfrage |\n| Dauer | Tage bis Monate bei großen Modellen | Millisekunden bis Sekunden je Anfrage |\n| Hardware | Tausende Chips in enger Zusammenarbeit | Weniger Chips je Anfrage, verteilt auf viele Rechenzentren |\n| Wer zahlt | Der Entwickler des Modells | Die Nutzer, über den Preis je Token oder ein Abo |\n| Typisches Risiko | Schlechte oder verzerrte Trainingsdaten | Falsche Antworten, Datenabfluss, langsame Antworten |\n\n## Wie groß Trainingsläufe geworden sind\n\nDer Rechenaufwand des Trainings, die Zahl der Rechenoperationen eines Trainingslaufs, ist schnell gewachsen. Über die bemerkenswerten Modelle, die das Forschungsinstitut Epoch AI seit 2010 erfasst hat, wuchs er um etwa das {{\u003c num \"ai_models\" \"compute_growth_per_year\" \u003e}}-Fache pro Jahr — unsere Berechnung aus den Daten von Epoch AI. Die Trainingsläufe hinter den heutigen Spitzenmodellen sind Industrieprojekte:\n\n{{\u003c data \"models-training\" \u003e}}\n\nDer größte Lauf in den Daten nutzte rund {{\u003c num \"ai_models\" \"train_max_chips\" \u003e}} KI-Chips gleichzeitig, und die höchsten geschätzten Rechenkosten liegen bei etwa {{\u003c num \"ai_models\" \"train_max_cost_musd\" \u003e}} Millionen Dollar, gerechnet in Dollar von 2023 und nur für die Rechenzeit, nicht für Forschende oder Daten. Der stromhungrigste Lauf zog während des Trainings geschätzt {{\u003c num \"ai_models\" \"train_max_power_mw\" \u003e}} Megawatt.\n\n![Waagerechte Balken: Zahl der KI-Chips in Trainingsläufen von Spitzenmodellen seit 2023, steigend von einigen Tausend auf Hunderttausende](/images/learn/de/training-and-inference-chips.webp \"KI-Chips in Trainingsläufen von Spitzenmodellen (Schätzungen von Epoch AI).\")\n\n## Training nach dem Training: Fine-Tuning und Rückmeldung\n\nDer große Trainingslauf ist nur die erste Stufe. Ein Sprachmodell durchläuft zuerst das **Pretraining**: Es liest riesige Textmengen und lernt, das nächste Wortstück vorherzusagen. Das Ergebnis weiß viel, folgt aber noch nicht gut Anweisungen. Beim **Fine-Tuning** trainiert der Entwickler es mit einer viel kleineren Menge guter Beispiele weiter, etwa Fragen mit Musterantworten, die Menschen geschrieben haben. Dann folgt **Reinforcement Learning from Human Feedback (RLHF)** oder ein ähnliches Verfahren: Menschen oder ein anderes Modell vergleichen Antwortpaare, und das Modell wird für die bevorzugte Antwort belohnt. Neuere Reasoning-Modelle lernen zusätzlich aus Belohnungen für richtig gelöste Mathe- und Programmieraufgaben. Diese späteren Stufen brauchen weit weniger Rechenaufwand als das Pretraining, prägen aber das meiste dessen, was Nutzer bemerken: den Ton, wann das Modell ablehnt und wie es Schritt für Schritt argumentiert.\n\n## Warum sich die Kosten der Inferenz summieren\n\nEine einzelne Antwort eines Sprachmodells kostet den Bruchteil eines Cents. Doch beliebte KI-Dienste beantworten Milliarden Anfragen, jeden Tag, und jeder neue Nutzer, jede längere Antwort und jedes Modell, das vor der Antwort Schritt für Schritt „nachdenkt“, kostet zusätzliche Rechenzeit. Über die Lebensdauer eines erfolgreichen Modells kann die Inferenz mehr kosten als das Training. Deshalb stecken Entwickler so viel Aufwand in günstigere Inferenz: kleinere Modelle für einfache Aufgaben, komprimierte Gewichte mit weniger Bits je Zahl und gespeicherte Antworten, die bei wiederholten Fragen erneut genutzt werden.\n\n## Inferenz auf dem eigenen Gerät\n\nInferenz muss nicht im Rechenzentrum stattfinden. Kleine Modelle laufen auf Laptops und Handys, wo sie antworten, ohne Daten irgendwohin zu schicken — das hilft beim Datenschutz und funktioniert offline. Die Grenze ist der Speicher: Jedes Gewicht muss geladen werden, ein Modell mit 8 Milliarden Parametern braucht also selbst mit komprimierten Gewichten mehrere Gigabyte. Deshalb führen Handys kleine Modelle für Aufgaben wie das Zusammenfassen von Benachrichtigungen aus und geben schwierigere Fragen an ein größeres Modell in der Cloud ab. Für Unternehmen ist ein offenes Modell auf eigenen Servern der Mittelweg: Die Daten bleiben im Haus, aber jemand muss die Hardware kaufen und betreiben.\n\n## Was das für Ihre Projekte bedeutet\n\nNutzen Sie ein KI-Modell über eine API, zahlen Sie nur die Inferenz, abgerechnet je Token oder je Anfrage. Trainieren werden Sie selten selbst; höchstens passen Sie ein vorhandenes Modell per **Fine-Tuning** an, einem kurzen zusätzlichen Training mit Ihren eigenen Beispielen. Die praktischen Fragen lauten daher: Wie viele Anfragen werden Sie senden? Wie lang sind Eingaben und Antworten? Reicht ein kleineres, günstigeres Modell? Wie Sie sie beantworten, zeigt unser Lernpfad AI Development im Artikel zu [APIs, Tokens und Kontextfenstern](/de/ai-development/learn/apis-tokens-and-context-windows/).\n\nDer nächste Teil dieses Levels betrachtet die drei Größen hinter dem Wachstum der KI-Modelle: Parameter, Daten und Rechenaufwand.","text":"Jedes KI-Modell lebt zwei Leben. Zuerst lernt es: Im Training sieht es große Datenmengen und passt seine inneren Zahlen an, immer wieder, bis seine Vorhersagen gut sind. Dann arbeitet es: In der Inferenz bekommt das fertige Modell eine neue Eingabe, etwa Ihre Frage, und erzeugt eine Ausgabe, ohne dabei etwas Neues zu lernen. Die beiden Phasen unterscheiden sich in fast allem: wer zahlt, wie lange sie dauern, welche Hardware sie brauchen und was schiefgehen kann.\nDies ist Teil 3 von Level 0 in unserem Lernpfad KI-Grundlagen. Sie erfahren, was in jeder Phase passiert, warum das Training eines Spitzenmodells zu einem Industrieprojekt geworden ist und warum auch die Inferenz, der scheinbar günstige Teil, große Kosten verursacht.\nZwei Phasen jedes Modells Training und Inferenz im Vergleich. Die Gewichte ändern sich nur im Training. Im Training macht das Modell eine Vorhersage für ein Beispiel, eine Formel misst den Fehler, und ein Algorithmus namens Backpropagation berechnet, wie sich jedes Gewicht ändern müsste, damit der Fehler kleiner wird. Dann bewegen sich alle Gewichte ein kleines Stück in diese Richtung. Ein Durchgang durch alle Trainingsdaten heißt Epoche, und ein Modell braucht meist viele davon. Das kleine Netz in unserem Ziffern-Experiment etwa durchlief 200 Runden der Anpassung.\nIn der Inferenz bleiben die Gewichte fest. Das Modell rechnet nur: Eingabe hinein, Ausgabe heraus. Ein Sprachmodell tut das einmal für jedes Token, ungefähr jedes Wortstück, seiner Antwort — deshalb dauern lange Antworten länger und kosten mehr.\nTraining und Inferenz: wann KI lernt und wann sie antwortet Training Inferenz Was passiert Gewichte werden angepasst, um den Fehler zu senken Feste Gewichte machen aus einer Eingabe eine Ausgabe Wie oft Einmal je Modellversion, dazu Aktualisierungen Für jede einzelne Anfrage Dauer Tage bis Monate bei großen Modellen Millisekunden bis Sekunden je Anfrage Hardware Tausende Chips in enger Zusammenarbeit Weniger Chips je Anfrage, verteilt auf viele Rechenzentren Wer zahlt Der Entwickler des Modells Die Nutzer, über den Preis je Token oder ein Abo Typisches Risiko Schlechte oder verzerrte Trainingsdaten Falsche Antworten, Datenabfluss, langsame Antworten Wie groß Trainingsläufe geworden sind Der Rechenaufwand des Trainings, die Zahl der Rechenoperationen eines Trainingslaufs, ist schnell gewachsen. Über die bemerkenswerten Modelle, die das Forschungsinstitut Epoch AI seit 2010 erfasst hat, wuchs er um etwa das 4,3-Fache pro Jahr — unsere Berechnung aus den Daten von Epoch AI. Die Trainingsläufe hinter den heutigen Spitzenmodellen sind Industrieprojekte:\nTrainingsläufe von Spitzenmodellen seit 2023 (Schätzungen) ModellOrganisationVeröffentlichtChipsTrainingstageRechenkosten (Mio. US-$ von 2023)Leistung (MW) GPT-6 AstraOpenAI03.09.2026100.000––233 Grok 4xAI09.07.2025200.000–388– Llama 4 Behemoth (preview)Meta AI05.04.202532.000–4544 GPT-4.5OpenAI27.02.2025–125366– Grok 3xAI17.02.202580.00090218110 Llama 3.1-405BMeta AI23.07.202416.384895323 Nemotron-4 340BNvidia14.06.20246.14492219 Gemini 1.0 UltraGoogle DeepMind06.12.202357.0001003138 Inflection-2Inflection AI22.11.20235.000–147 Amazon TitanAmazon28.09.202313.76048811 Falcon-180BTechnology Innovation Institute06.09.20234.096180113 GPT-4 (Jun 2023)OpenAI13.06.202325.00095–20 GPT-4 (Mar 2023)OpenAI15.03.202325.000953720 Quelle wie bei der ersten Tabelle dieser Seite.\nDer größte Lauf in den Daten nutzte rund 200.000 KI-Chips gleichzeitig, und die höchsten geschätzten Rechenkosten liegen bei etwa 388 Millionen Dollar, gerechnet in Dollar von 2023 und nur für die Rechenzeit, nicht für Forschende oder Daten. Der stromhungrigste Lauf zog während des Trainings geschätzt 233 Megawatt.\nKI-Chips in Trainingsläufen von Spitzenmodellen (Schätzungen von Epoch AI). Training nach dem Training: Fine-Tuning und Rückmeldung Der große Trainingslauf ist nur die erste Stufe. Ein Sprachmodell durchläuft zuerst das Pretraining: Es liest riesige Textmengen und lernt, das nächste Wortstück vorherzusagen. Das Ergebnis weiß viel, folgt aber noch nicht gut Anweisungen. Beim Fine-Tuning trainiert der Entwickler es mit einer viel kleineren Menge guter Beispiele weiter, etwa Fragen mit Musterantworten, die Menschen geschrieben haben. Dann folgt Reinforcement Learning from Human Feedback (RLHF) oder ein ähnliches Verfahren: Menschen oder ein anderes Modell vergleichen Antwortpaare, und das Modell wird für die bevorzugte Antwort belohnt. Neuere Reasoning-Modelle lernen zusätzlich aus Belohnungen für richtig gelöste Mathe- und Programmieraufgaben. Diese späteren Stufen brauchen weit weniger Rechenaufwand als das Pretraining, prägen aber das meiste dessen, was Nutzer bemerken: den Ton, wann das Modell ablehnt und wie es Schritt für Schritt argumentiert.\nWarum sich die Kosten der Inferenz summieren Eine einzelne Antwort eines Sprachmodells kostet den Bruchteil eines Cents. Doch beliebte KI-Dienste beantworten Milliarden Anfragen, jeden Tag, und jeder neue Nutzer, jede längere Antwort und jedes Modell, das vor der Antwort Schritt für Schritt „nachdenkt“, kostet zusätzliche Rechenzeit. Über die Lebensdauer eines erfolgreichen Modells kann die Inferenz mehr kosten als das Training. Deshalb stecken Entwickler so viel Aufwand in günstigere Inferenz: kleinere Modelle für einfache Aufgaben, komprimierte Gewichte mit weniger Bits je Zahl und gespeicherte Antworten, die bei wiederholten Fragen erneut genutzt werden.\nInferenz auf dem eigenen Gerät Inferenz muss nicht im Rechenzentrum stattfinden. Kleine Modelle laufen auf Laptops und Handys, wo sie antworten, ohne Daten irgendwohin zu schicken — das hilft beim Datenschutz und funktioniert offline. Die Grenze ist der Speicher: Jedes Gewicht muss geladen werden, ein Modell mit 8 Milliarden Parametern braucht also selbst mit komprimierten Gewichten mehrere Gigabyte. Deshalb führen Handys kleine Modelle für Aufgaben wie das Zusammenfassen von Benachrichtigungen aus und geben schwierigere Fragen an ein größeres Modell in der Cloud ab. Für Unternehmen ist ein offenes Modell auf eigenen Servern der Mittelweg: Die Daten bleiben im Haus, aber jemand muss die Hardware kaufen und betreiben.\nWas das für Ihre Projekte bedeutet Nutzen Sie ein KI-Modell über eine API, zahlen Sie nur die Inferenz, abgerechnet je Token oder je Anfrage. Trainieren werden Sie selten selbst; höchstens passen Sie ein vorhandenes Modell per Fine-Tuning an, einem kurzen zusätzlichen Training mit Ihren eigenen Beispielen. Die praktischen Fragen lauten daher: Wie viele Anfragen werden Sie senden? Wie lang sind Eingaben und Antworten? Reicht ein kleineres, günstigeres Modell? Wie Sie sie beantworten, zeigt unser Lernpfad AI Development im Artikel zu APIs, Tokens und Kontextfenstern.\nDer nächste Teil dieses Levels betrachtet die drei Größen hinter dem Wachstum der KI-Modelle: Parameter, Daten und Rechenaufwand.\n","words":931},"date":"2026-10-18","description":"Training und Inferenz erklärt: was passiert, wenn ein KI-Modell lernt und wenn es antwortet, was beide Phasen kosten und wie groß Trainingsläufe sind.","image":"https://abxk.ai/images/cover/training-and-inference.webp","json":"https://abxk.ai/de/ai-development/fundamentals/training-and-inference/index.json","kind":"page","language":"de","learning_path":{"category":"ai-development","level":0,"level_name":"Einstieg"},"modified":"2026-10-18","related_tools":["Runpod","Pinecone","MindStudio"],"section":"ai-development","seo_title":"KI-Training vs. Inferenz: Was ist der Unterschied?","tags":["training","inferenz","rechenleistung","ki-grundlagen","einstieg"],"title":"Training und Inferenz: wann KI lernt und wann sie antwortet","translations":[{"json":"https://abxk.ai/en/ai-development/fundamentals/training-and-inference/index.json","language":"en","url":"https://abxk.ai/en/ai-development/fundamentals/training-and-inference/"}],"url":"https://abxk.ai/de/ai-development/fundamentals/training-and-inference/"}