{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Development"],"content":{"markdown":"Ein Entscheidungsbaum funktioniert wie ein Ratespiel mit zwanzig Fragen. „Ist der Pixel in der Mitte dunkel? Wenn ja: Ist auch der Pixel oben links dunkel?“ Nach ein paar solchen Fragen kommt der Baum zu einer Antwort. Bäume sind in Unternehmen beliebt, weil jeder ihrer Logik folgen kann, und sie sind der Baustein einiger der erfolgreichsten Verfahren für Tabellendaten. Sie zeigen außerdem die wichtigste Falle des maschinellen Lernens deutlicher als jedes andere Modell: die **Überanpassung** (Overfitting).\n\nDies ist Teil 3 von Level 1 in unserem Lernpfad KI-Grundlagen. Sie erfahren, wie ein Baum seine Fragen findet, was geschah, als wir unsere Bäume auf den handgeschriebenen Ziffern aus Level 0 immer tiefer wachsen ließen, und wie ein Random Forest aus vielen Bäumen das Problem löst.\n\n## Wie ein Baum seine Fragen findet\n\n![Ein Entscheidungsbaum mit drei Ebenen: Jedes Kästchen zeigt das 8 × 8-Bild mit einem markierten Pixel und fragt, ob er mehr Tinte hat als eine Schwelle; die acht Blätter unten zeigen die häufigste Ziffer und ihren Anteil, von fast reinen Nullen und Neunen bis zu einem gemischten Blatt](/images/learn/de/decision-trees-overfitting-tree.webp \"Die ersten drei Ebenen eines echten Baums aus unserem Experiment. Jedes Blatt zeigt seine häufigste Ziffer.\")\n\nBeim Training prüft der Baum alle möglichen Fragen, für jeden Pixel und jeden Helligkeitswert, und wählt die, die die Ziffern am besten trennt: Nach der Aufteilung soll jede Gruppe möglichst wenige verschiedene Ziffern enthalten. Dann wiederholt er die Suche in jeder Gruppe, und so weiter. Jede Frage ist ein **Knoten**, jede letzte Gruppe ein **Blatt**, und die Zahl der Fragen von oben bis zu einem Blatt ist die **Tiefe** des Baums.\n\nDie Abbildung zeigt die ersten drei Ebenen eines echten Baums aus unserem Experiment. Seine allererste Frage prüft einen Pixel in der Bildmitte: Hat er kaum Tinte, ist die Ziffer am wahrscheinlichsten eine 0, denn eine 0 ist in der Mitte offen. Nach drei Fragen erkennt dieser Baum {{\u003c num \"ml_experiments\" \"tree3_test_pct\" \u003e}} % der Testbilder. Die meisten seiner Blätter sind noch gemischt; um alle zehn Ziffern zu unterscheiden, braucht er viel mehr Fragen.\n\nVon selbst hört der Baum nicht auf, solange ein Blatt noch gemischte Ziffern enthält. Lässt man ihn, fragt er weiter, bis jedes Trainingsbild in einem Blatt seiner Art liegt. In diesem Moment hört er auf, Muster zu lernen, und beginnt, Beispiele auswendig zu lernen.\n\n## Unser Experiment: tiefer ist nicht besser\n\nWir haben Bäume mit einer größten Tiefe von 1 bis 20 auf den Trainingsbildern trainiert und den Anteil richtiger Antworten zweimal gemessen: auf den Trainingsbildern selbst und auf den Testbildern, die der Baum nie gesehen hatte.\n\n![Liniendiagramm: Genauigkeit auf Trainings- und Testdaten nach Tiefe des Baums von 1 bis 20; die Trainingsgenauigkeit steigt auf 100 Prozent, die Testgenauigkeit kommt bei etwa 85 Prozent nicht weiter](/images/learn/de/decision-trees-overfitting-depth.webp \"Die Trainingsgenauigkeit steigt mit der Tiefe weiter, die Testgenauigkeit nicht. Die Lücke ist die Überanpassung.\")\n\nDas Ergebnis zeigt Überanpassung in Reinform. Mit genug Tiefe erkannte der Baum {{\u003c num \"ml_experiments\" \"tree_deep_train_pct\" \u003e}} % seiner Trainingsbilder: perfekt. Auf den Testbildern erreichte er nur {{\u003c num \"ml_experiments\" \"tree_deep_test_pct\" \u003e}} %. Das beste Testergebnis, {{\u003c num \"ml_experiments\" \"tree_best_test_pct\" \u003e}} %, kam bei einer Tiefe von {{\u003c num \"ml_experiments\" \"tree_best_depth\" \u003e}}; jede weitere Frage half dem Baum nur noch, sich einzelne Trainingsbilder samt ihren Eigenheiten und ihrem Rauschen zu merken.\n\n{{\u003c data \"ml-tree\" \u003e}}\n\nDeshalb ist die Lücke zwischen Trainings- und Testergebnis das Erste, was Sie in jedem Projekt mit maschinellem Lernen prüfen sollten. Ein Modell, das auf seinen Trainingsdaten viel besser ist als auf neuen Daten, hat seine Beispiele gelernt, nicht die Aufgabe. Auch das umgekehrte Problem gibt es: Unsere flachsten Bäume schnitten auf beiden Arten von Daten schwach ab, weil wenige Fragen schlicht nicht reichen, um zehn Ziffern zu unterscheiden. Das heißt **Unteranpassung** (Underfitting).\n\n| Ergebnis Training | Ergebnis Test | Befund | Was meist hilft |\n|---|---|---|---|\n| Niedrig | Niedrig | Unteranpassung: Das Modell ist zu einfach | Ein flexibleres Modell, bessere Merkmale, längeres Training |\n| Hoch | Deutlich niedriger | Überanpassung: Das Modell hat seine Beispiele auswendig gelernt | Komplexität begrenzen, mehr Daten, Modelle kombinieren |\n| Hoch | Nah am Training | Gute Anpassung | Vor dem Einsatz an frischen Daten bestätigen |\n\n## Die Lösung: viele Bäume statt einem\n\nEin **Random Forest** trainiert viele Bäume, jeden auf einer etwas anderen Zufallsauswahl der Trainingsdaten und mit einer zufälligen Teilmenge der Merkmale, aus denen er bei jeder Frage wählen darf. Jeder Baum passt sich auf seine Weise über, doch ihre Fehler unterscheiden sich — wenn die Bäume abstimmen, heben sich viele Fehler auf. Unser Wald aus 200 Bäumen erkannte {{\u003c num \"ml_experiments\" \"forest_test_pct\" \u003e}} % der Testbilder, verglichen mit {{\u003c num \"ml_experiments\" \"tree_test_pct\" \u003e}} % für einen einzelnen Baum ohne Grenzen.\n\n{{\u003c data \"ml-models\" \u003e}}\n\nDer einzelne Baum ist das schwächste Verfahren dieser Tabelle, der Wald aus derselben Art von Bäumen gehört zu den stärksten. Dieselbe Idee, viele schwache Modelle zu kombinieren, heißt **Ensemble**, und ein verwandtes Verfahren namens Gradient Boosting, das jeden neuen Baum darauf trainiert, die Fehler der vorigen zu beheben, gehört zu den erfolgreichsten Verfahren für Geschäftsdaten in Tabellen.\n\n## So vermeiden Sie Überanpassung\n\n- **Immer mit zurückgehaltenen Daten testen.** Beurteilen Sie ein Modell nie allein nach seinen Trainingsergebnissen.\n- **Die Komplexität begrenzen.** Bei Bäumen eine größte Tiefe oder eine Mindestzahl an Beispielen je Blatt, bei anderen Modellen vergleichbare Einstellungen.\n- **Mehr Daten nutzen.** Je mehr Beispiele, desto schwerer lassen sich alle auswendig lernen.\n- **Modelle kombinieren.** Ensembles wie Random Forests verringern die Schwankung einzelner Modelle.\n- **Eine letzte Testmenge unberührt lassen.** Wer seine Einstellungen viele Male an den Testdaten ausrichtet, passt sich auch an die Testdaten über.\n\nDer nächste Teil vergleicht sechs klassische Verfahren auf denselben Daten und erklärt die Kreuzvalidierung, den üblichen Weg, Modelle fair zu vergleichen.","text":"Ein Entscheidungsbaum funktioniert wie ein Ratespiel mit zwanzig Fragen. „Ist der Pixel in der Mitte dunkel? Wenn ja: Ist auch der Pixel oben links dunkel?“ Nach ein paar solchen Fragen kommt der Baum zu einer Antwort. Bäume sind in Unternehmen beliebt, weil jeder ihrer Logik folgen kann, und sie sind der Baustein einiger der erfolgreichsten Verfahren für Tabellendaten. Sie zeigen außerdem die wichtigste Falle des maschinellen Lernens deutlicher als jedes andere Modell: die Überanpassung (Overfitting).\nDies ist Teil 3 von Level 1 in unserem Lernpfad KI-Grundlagen. Sie erfahren, wie ein Baum seine Fragen findet, was geschah, als wir unsere Bäume auf den handgeschriebenen Ziffern aus Level 0 immer tiefer wachsen ließen, und wie ein Random Forest aus vielen Bäumen das Problem löst.\nWie ein Baum seine Fragen findet Die ersten drei Ebenen eines echten Baums aus unserem Experiment. Jedes Blatt zeigt seine häufigste Ziffer. Beim Training prüft der Baum alle möglichen Fragen, für jeden Pixel und jeden Helligkeitswert, und wählt die, die die Ziffern am besten trennt: Nach der Aufteilung soll jede Gruppe möglichst wenige verschiedene Ziffern enthalten. Dann wiederholt er die Suche in jeder Gruppe, und so weiter. Jede Frage ist ein Knoten, jede letzte Gruppe ein Blatt, und die Zahl der Fragen von oben bis zu einem Blatt ist die Tiefe des Baums.\nDie Abbildung zeigt die ersten drei Ebenen eines echten Baums aus unserem Experiment. Seine allererste Frage prüft einen Pixel in der Bildmitte: Hat er kaum Tinte, ist die Ziffer am wahrscheinlichsten eine 0, denn eine 0 ist in der Mitte offen. Nach drei Fragen erkennt dieser Baum 48 % der Testbilder. Die meisten seiner Blätter sind noch gemischt; um alle zehn Ziffern zu unterscheiden, braucht er viel mehr Fragen.\nVon selbst hört der Baum nicht auf, solange ein Blatt noch gemischte Ziffern enthält. Lässt man ihn, fragt er weiter, bis jedes Trainingsbild in einem Blatt seiner Art liegt. In diesem Moment hört er auf, Muster zu lernen, und beginnt, Beispiele auswendig zu lernen.\nUnser Experiment: tiefer ist nicht besser Wir haben Bäume mit einer größten Tiefe von 1 bis 20 auf den Trainingsbildern trainiert und den Anteil richtiger Antworten zweimal gemessen: auf den Trainingsbildern selbst und auf den Testbildern, die der Baum nie gesehen hatte.\nDie Trainingsgenauigkeit steigt mit der Tiefe weiter, die Testgenauigkeit nicht. Die Lücke ist die Überanpassung. Das Ergebnis zeigt Überanpassung in Reinform. Mit genug Tiefe erkannte der Baum 100 % seiner Trainingsbilder: perfekt. Auf den Testbildern erreichte er nur 85,2 %. Das beste Testergebnis, 85,7 %, kam bei einer Tiefe von 10; jede weitere Frage half dem Baum nur noch, sich einzelne Trainingsbilder samt ihren Eigenheiten und ihrem Rauschen zu merken.\nEntscheidungsbaum: Genauigkeit auf Trainings- und Testdaten je Tiefe Tiefe des BaumsTrainingsdatenTestdaten 120,1 %19,3 % 232,2 %31,1 % 349,2 %48,0 % 570,6 %67,2 % 894,8 %83,0 % 1099,4 %85,7 % 15100,0 %85,2 % 20100,0 %85,2 % Quelle wie bei der ersten Tabelle dieser Seite.\nDeshalb ist die Lücke zwischen Trainings- und Testergebnis das Erste, was Sie in jedem Projekt mit maschinellem Lernen prüfen sollten. Ein Modell, das auf seinen Trainingsdaten viel besser ist als auf neuen Daten, hat seine Beispiele gelernt, nicht die Aufgabe. Auch das umgekehrte Problem gibt es: Unsere flachsten Bäume schnitten auf beiden Arten von Daten schwach ab, weil wenige Fragen schlicht nicht reichen, um zehn Ziffern zu unterscheiden. Das heißt Unteranpassung (Underfitting).\nEntscheidungsbäume und Überanpassung: wenn ein Modell auswendig lernt Ergebnis Training Ergebnis Test Befund Was meist hilft Niedrig Niedrig Unteranpassung: Das Modell ist zu einfach Ein flexibleres Modell, bessere Merkmale, längeres Training Hoch Deutlich niedriger Überanpassung: Das Modell hat seine Beispiele auswendig gelernt Komplexität begrenzen, mehr Daten, Modelle kombinieren Hoch Nah am Training Gute Anpassung Vor dem Einsatz an frischen Daten bestätigen Die Lösung: viele Bäume statt einem Ein Random Forest trainiert viele Bäume, jeden auf einer etwas anderen Zufallsauswahl der Trainingsdaten und mit einer zufälligen Teilmenge der Merkmale, aus denen er bei jeder Frage wählen darf. Jeder Baum passt sich auf seine Weise über, doch ihre Fehler unterscheiden sich — wenn die Bäume abstimmen, heben sich viele Fehler auf. Unser Wald aus 200 Bäumen erkannte 96,5 % der Testbilder, verglichen mit 85,2 % für einen einzelnen Baum ohne Grenzen.\nSechs klassische Verfahren auf denselben Daten VerfahrenRichtig erkannte Testbilder Logistische Regression96,7 % k-nächste Nachbarn (k = 3)98,7 % Entscheidungsbaum85,2 % Random Forest (200 Bäume)96,5 % Support Vector Machine98,3 % Neuronales Netz (64 Neuronen)97,8 % Quelle wie bei der ersten Tabelle dieser Seite.\nDer einzelne Baum ist das schwächste Verfahren dieser Tabelle, der Wald aus derselben Art von Bäumen gehört zu den stärksten. Dieselbe Idee, viele schwache Modelle zu kombinieren, heißt Ensemble, und ein verwandtes Verfahren namens Gradient Boosting, das jeden neuen Baum darauf trainiert, die Fehler der vorigen zu beheben, gehört zu den erfolgreichsten Verfahren für Geschäftsdaten in Tabellen.\nSo vermeiden Sie Überanpassung Immer mit zurückgehaltenen Daten testen. Beurteilen Sie ein Modell nie allein nach seinen Trainingsergebnissen. Die Komplexität begrenzen. Bei Bäumen eine größte Tiefe oder eine Mindestzahl an Beispielen je Blatt, bei anderen Modellen vergleichbare Einstellungen. Mehr Daten nutzen. Je mehr Beispiele, desto schwerer lassen sich alle auswendig lernen. Modelle kombinieren. Ensembles wie Random Forests verringern die Schwankung einzelner Modelle. Eine letzte Testmenge unberührt lassen. Wer seine Einstellungen viele Male an den Testdaten ausrichtet, passt sich auch an die Testdaten über. Der nächste Teil vergleicht sechs klassische Verfahren auf denselben Daten und erklärt die Kreuzvalidierung, den üblichen Weg, Modelle fair zu vergleichen.\n","words":897},"date":"2026-10-18","description":"Wie ein Entscheidungsbaum entscheidet, warum ein tiefer Baum auf den Trainingsdaten 100 % schafft und auf neuen Daten versagt — und wie ein Random Forest hilft.","image":"https://abxk.ai/images/cover/decision-trees-overfitting.webp","json":"https://abxk.ai/de/ai-development/fundamentals/decision-trees-overfitting/index.json","kind":"page","language":"de","learning_path":{"category":"ai-development","level":1,"level_name":"Grundlagen"},"modified":"2026-10-18","related_tools":["Runpod","Pinecone","MindStudio"],"section":"ai-development","seo_title":"Entscheidungsbäume und Überanpassung an echten Daten","tags":["entscheidungsbaum","ueberanpassung","random-forest","maschinelles-lernen","grundlagen"],"title":"Entscheidungsbäume und Überanpassung: wenn ein Modell auswendig lernt","translations":[{"json":"https://abxk.ai/en/ai-development/fundamentals/decision-trees-overfitting/index.json","language":"en","url":"https://abxk.ai/en/ai-development/fundamentals/decision-trees-overfitting/"}],"url":"https://abxk.ai/de/ai-development/fundamentals/decision-trees-overfitting/"}