{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Development"],"content":{"markdown":"Maschinelles Lernen bietet Dutzende Verfahren für dieselbe Aufgabe, und jedes hat seine Anhänger. Welches ist das beste? Die ehrliche Antwort lautet: Es hängt von den Daten ab, und das zeigt nur ein Test. Fair zu testen ist allerdings schwerer, als es aussieht, denn ein einzelner Test kann ein Verfahren zufällig besser oder schlechter aussehen lassen, als es ist.\n\nDies ist Teil 4 von Level 1 in unserem Lernpfad KI-Grundlagen. Wir haben sechs klassische Verfahren auf denselben handgeschriebenen Ziffern laufen lassen und mit **Kreuzvalidierung** verglichen, dem üblichen Weg, fair zu testen. Sie erfahren, was jedes Verfahren in einem Satz tut, wie Kreuzvalidierung funktioniert, welches Verfahren auf unseren Daten gewann und warum es deshalb nicht allgemein das beste ist.\n\n## Sechs Verfahren in je einem Satz\n\n| Verfahren | Wie es entscheidet | Stärke | Schwäche |\n|---|---|---|---|\n| Logistische Regression | Gewichtet jeden Pixel und zählt die Hinweise für jede Ziffer zusammen | Schnell, leicht zu prüfen | Nur gerade Grenzen zwischen Kategorien |\n| k-nächste Nachbarn | Sucht die ähnlichsten Trainingsbilder und lässt sie abstimmen | Gar kein Training, stark, wenn ähnlich gleich bedeutet | Langsam bei großen Daten, braucht ein gutes Ähnlichkeitsmaß |\n| Entscheidungsbaum | Stellt eine Folge von Ja-Nein-Fragen zu Pixeln | Leicht zu erklären | Passt sich schnell über |\n| Random Forest | Lässt Hunderte leicht verschiedene Bäume abstimmen | Robust, wenig Feinabstimmung nötig | Schwerer zu erklären als ein Baum |\n| Support Vector Machine | Zieht die breitestmögliche Grenze zwischen Kategorien | Stark bei mittelgroßen Daten | Langsam bei großen Daten, viele Einstellungen |\n| Neuronales Netz | Lernt eigene Merkmale in einer versteckten Schicht | Am flexibelsten | Braucht mehr Daten und Feinabstimmung |\n\n## Kreuzvalidierung: fünf Tests statt einem\n\nEine einzelne Aufteilung in Trainings- und Testdaten ist ein bisschen wie eine einzelne Prüfung: Das Ergebnis hängt auch davon ab, welche Fragen zufällig drankamen. Die **Kreuzvalidierung** wiederholt den Test. Bei fünffacher Kreuzvalidierung werden die Daten in fünf gleiche Teile geteilt. Jedes Verfahren wird fünfmal trainiert, jeweils auf vier Teilen, und am fünften getestet, sodass jedes Bild genau einmal zum Testen dient. Heraus kommen ein Mittelwert und eine Spanne — sie zeigt, wie stabil ein Verfahren ist.\n\n![Fünf Zeilen, jede zeigt die in fünf Teile geteilten Daten; in jeder Zeile ist ein anderer Teil die Testmenge, die übrigen vier dienen dem Training](/images/learn/de/comparing-ml-methods-folds.webp \"Fünffache Kreuzvalidierung: Jeder Teil der Daten dient einmal als Testmenge.\")\n\n## Das Ergebnis auf unseren Daten\n\n![Punktdiagramm: mittlere Genauigkeit von sechs Verfahren in fünffacher Kreuzvalidierung, mit einer Linie vom schlechtesten zum besten Teil; k-nächste Nachbarn vorn, der Entscheidungsbaum weit dahinter](/images/learn/de/comparing-ml-methods-results.webp \"Mittlere Genauigkeit über fünf Teile, mit der Spanne vom schlechtesten bis zum besten Teil.\")\n\nAuf den handgeschriebenen Ziffern gewann **k-nächste Nachbarn** mit im Mittel {{\u003c num \"ml_experiments\" \"knn_cv_pct\" \u003e}} %, vor der Support Vector Machine, dem Random Forest und dem neuronalen Netz, die nah beieinanderlagen. Die logistische Regression erreichte {{\u003c num \"ml_experiments\" \"logreg_cv_pct\" \u003e}} %. Der einzelne Entscheidungsbaum landete mit {{\u003c num \"ml_experiments\" \"tree_cv_pct\" \u003e}} % auf dem letzten Platz, und seine Ergebnisse schwankten zwischen den Teilen am stärksten, mit einer Standardabweichung von {{\u003c num \"ml_experiments\" \"tree_cv_std_pct\" \u003e}} Prozentpunkten.\n\n{{\u003c data \"ml-cv\" \u003e}}\n\nWarum gewinnt hier das einfachste Verfahren? Weil sich auf diesen kleinen, zentrierten Bildern zwei handgeschriebene 3en tatsächlich Pixel für Pixel ähneln — „finde das ähnlichste bekannte Beispiel“ funktioniert deshalb sehr gut. Auf Daten, bei denen Ähnlichkeit weniger offensichtlich ist, etwa Kundendatensätzen mit Dutzenden Spalten in verschiedenen Einheiten, fällt k-nächste Nachbarn meist zurück, und Baum-Ensembles oder Gradient Boosting liegen vorn.\n\n## Genauigkeit ist nicht die ganze Rechnung\n\nZwei Verfahren mit fast gleicher Genauigkeit können sich im Betrieb um Größenordnungen unterscheiden. Wir haben für jedes trainierte Modell gezählt, was es im Speicher behalten muss und wie viel Arbeit es höchstens für jedes neue Bild leistet.\n\n{{\u003c data \"ml-cost\" \u003e}}\n\nDer Sieger bei der Genauigkeit ist im Betrieb am teuersten. k-nächste Nachbarn behält alle {{\u003c num \"ml_experiments\" \"cost_knn_images\" \u003e}} Trainingsbilder, {{\u003c num \"ml_experiments\" \"cost_knn_stored\" \u003e}} Pixelwerte, und vergleicht jedes neue Bild mit jedem davon. Die logistische Regression kommt mit {{\u003c num \"ml_experiments\" \"cost_logreg_stored\" \u003e}} Gewichten aus, rund {{\u003c num \"ml_experiments\" \"cost_knn_vs_logreg\" \u003e}}-mal weniger Zahlen, und erreichte in der Kreuzvalidierung {{\u003c num \"ml_experiments\" \"logreg_cv_pct\" \u003e}} % statt {{\u003c num \"ml_experiments\" \"knn_cv_pct\" \u003e}} %. Die Support Vector Machine behält nur die Trainingsbilder nahe den Grenzen zwischen den Ziffern, {{\u003c num \"ml_experiments\" \"cost_svm_images\" \u003e}} Stück. Das neuronale Netz speichert {{\u003c num \"ml_experiments\" \"cost_mlp_stored\" \u003e}} Gewichte, der Random Forest {{\u003c num \"ml_experiments\" \"cost_forest_nodes\" \u003e}} Fragen und Blätter in seinen 200 Bäumen.\n\nBei kleinen Bildern wie unseren passt all das problemlos auf jedes Smartphone. Bei Millionen großer Bilder oder Dokumente entscheidet der Unterschied, ob ein Verfahren überhaupt laufen kann. Deshalb setzt k-nächste Nachbarn im Betrieb auf spezielle Suchindizes, die ähnliche Elemente finden, ohne jedes einzelne zu vergleichen — dieselbe Technik, auf der Vektordatenbanken aufbauen.\n\n## Es gibt kein bestes Verfahren\n\nDie Forschung zum maschinellen Lernen hat für diese Beobachtung einen Namen: das **No-Free-Lunch-Prinzip**. Kein Verfahren ist für jede Art von Daten das beste. Deshalb folgen Fachleute ein paar Gewohnheiten:\n\n1. **Mit einer einfachen Grundlinie beginnen**, etwa der logistischen Regression. Jedes aufwendigere Verfahren muss sie klar schlagen.\n2. **Mit Kreuzvalidierung vergleichen**, nicht mit einer glücklichen Aufteilung, und neben dem Mittelwert auch auf die Spanne schauen.\n3. **Mehr als die Genauigkeit zählen.** Tempo, Speicher, Trainingskosten und ob Menschen die Entscheidungen nachvollziehen können, zählen im Betrieb.\n4. **Bei knappen Ergebnissen das einfachere Modell nehmen.** Ein Unterschied von wenigen Zehntelprozent liegt oft im Bereich des Zufalls.\n5. **Auf den eigenen Daten testen.** Benchmarks auf fremden Daten, auch unsere, sagen nur, was Sie zuerst ausprobieren sollten.\n\n## So haben wir das Experiment durchgeführt\n\nWir haben die Python-Bibliothek scikit-learn mit weitgehend üblichen Einstellungen genutzt: k-nächste Nachbarn mit k = 3, einen Random Forest mit 200 Bäumen, eine Support Vector Machine mit ihrem Standardkern auf standardisierten Pixelwerten und ein neuronales Netz mit einer versteckten Schicht aus 64 Neuronen. Die fünf Teile sind geschichtet, enthalten also jede Ziffer zu etwa gleichen Anteilen, und die Aufteilung nutzt einen festen Startwert — die Zahlen auf dieser Seite kommen bei jedem Lauf gleich heraus. Die Zahlen der Aufwandstabelle stammen von den Modellen, die auf den {{\u003c num \"ml_experiments\" \"train\" \u003e}} Trainingsbildern trainiert wurden. Der letzte Teil von Level 1 widmet sich Daten ganz ohne Labels: Gruppen finden mit Clustering und Daten vereinfachen mit PCA.","text":"Maschinelles Lernen bietet Dutzende Verfahren für dieselbe Aufgabe, und jedes hat seine Anhänger. Welches ist das beste? Die ehrliche Antwort lautet: Es hängt von den Daten ab, und das zeigt nur ein Test. Fair zu testen ist allerdings schwerer, als es aussieht, denn ein einzelner Test kann ein Verfahren zufällig besser oder schlechter aussehen lassen, als es ist.\nDies ist Teil 4 von Level 1 in unserem Lernpfad KI-Grundlagen. Wir haben sechs klassische Verfahren auf denselben handgeschriebenen Ziffern laufen lassen und mit Kreuzvalidierung verglichen, dem üblichen Weg, fair zu testen. Sie erfahren, was jedes Verfahren in einem Satz tut, wie Kreuzvalidierung funktioniert, welches Verfahren auf unseren Daten gewann und warum es deshalb nicht allgemein das beste ist.\nSechs Verfahren in je einem Satz Welches Verfahren gewinnt? Sechs klassische Methoden im Vergleich Verfahren Wie es entscheidet Stärke Schwäche Logistische Regression Gewichtet jeden Pixel und zählt die Hinweise für jede Ziffer zusammen Schnell, leicht zu prüfen Nur gerade Grenzen zwischen Kategorien k-nächste Nachbarn Sucht die ähnlichsten Trainingsbilder und lässt sie abstimmen Gar kein Training, stark, wenn ähnlich gleich bedeutet Langsam bei großen Daten, braucht ein gutes Ähnlichkeitsmaß Entscheidungsbaum Stellt eine Folge von Ja-Nein-Fragen zu Pixeln Leicht zu erklären Passt sich schnell über Random Forest Lässt Hunderte leicht verschiedene Bäume abstimmen Robust, wenig Feinabstimmung nötig Schwerer zu erklären als ein Baum Support Vector Machine Zieht die breitestmögliche Grenze zwischen Kategorien Stark bei mittelgroßen Daten Langsam bei großen Daten, viele Einstellungen Neuronales Netz Lernt eigene Merkmale in einer versteckten Schicht Am flexibelsten Braucht mehr Daten und Feinabstimmung Kreuzvalidierung: fünf Tests statt einem Eine einzelne Aufteilung in Trainings- und Testdaten ist ein bisschen wie eine einzelne Prüfung: Das Ergebnis hängt auch davon ab, welche Fragen zufällig drankamen. Die Kreuzvalidierung wiederholt den Test. Bei fünffacher Kreuzvalidierung werden die Daten in fünf gleiche Teile geteilt. Jedes Verfahren wird fünfmal trainiert, jeweils auf vier Teilen, und am fünften getestet, sodass jedes Bild genau einmal zum Testen dient. Heraus kommen ein Mittelwert und eine Spanne — sie zeigt, wie stabil ein Verfahren ist.\nFünffache Kreuzvalidierung: Jeder Teil der Daten dient einmal als Testmenge. Das Ergebnis auf unseren Daten Mittlere Genauigkeit über fünf Teile, mit der Spanne vom schlechtesten bis zum besten Teil. Auf den handgeschriebenen Ziffern gewann k-nächste Nachbarn mit im Mittel 98,9 %, vor der Support Vector Machine, dem Random Forest und dem neuronalen Netz, die nah beieinanderlagen. Die logistische Regression erreichte 97 %. Der einzelne Entscheidungsbaum landete mit 85,8 % auf dem letzten Platz, und seine Ergebnisse schwankten zwischen den Teilen am stärksten, mit einer Standardabweichung von 1,6 Prozentpunkten.\nSechs Verfahren, fünffache Kreuzvalidierung auf allen Bildern VerfahrenMittelSchlechtester TeilBester Teil k-nächste Nachbarn (k = 3)98,9 %98,3 %99,4 % Support Vector Machine98,4 %97,5 %99,2 % Random Forest (200 Bäume)97,9 %97,2 %98,6 % Neuronales Netz (64 Neuronen)97,8 %97,2 %98,3 % Logistische Regression97,0 %96,1 %98,1 % Entscheidungsbaum85,8 %83,8 %87,5 % Quelle wie bei der ersten Tabelle dieser Seite.\nWarum gewinnt hier das einfachste Verfahren? Weil sich auf diesen kleinen, zentrierten Bildern zwei handgeschriebene 3en tatsächlich Pixel für Pixel ähneln — „finde das ähnlichste bekannte Beispiel“ funktioniert deshalb sehr gut. Auf Daten, bei denen Ähnlichkeit weniger offensichtlich ist, etwa Kundendatensätzen mit Dutzenden Spalten in verschiedenen Einheiten, fällt k-nächste Nachbarn meist zurück, und Baum-Ensembles oder Gradient Boosting liegen vorn.\nGenauigkeit ist nicht die ganze Rechnung Zwei Verfahren mit fast gleicher Genauigkeit können sich im Betrieb um Größenordnungen unterscheiden. Wir haben für jedes trainierte Modell gezählt, was es im Speicher behalten muss und wie viel Arbeit es höchstens für jedes neue Bild leistet.\nWas jedes trainierte Modell speichert und je neuem Bild höchstens rechnet VerfahrenBehält nach dem TrainingUmfangArbeit je neuem Bild (höchstens) Logistische RegressionGewichte650640 Multiplikationen k-nächste Nachbarn (k = 3)Alle Trainingsbilder1.257 Bilder, 80.448 PixelwerteVergleich mit 1.257 Bildern (80.448 Pixelwerte) EntscheidungsbaumFragen und Blätter241 Knoten11 Fragen Random Forest (200 Bäume)Fragen und Blätter aller Bäume61.848 Knoten2.653 Fragen Support Vector MachineStützvektoren: Trainingsbilder nahe den Grenzen686 Bilder, 43.904 PixelwerteVergleich mit 686 Bildern (43.904 Pixelwerte) Neuronales Netz (64 Neuronen)Gewichte und Schwellen4.8104.736 Multiplikationen Quelle wie bei der ersten Tabelle dieser Seite.\nDer Sieger bei der Genauigkeit ist im Betrieb am teuersten. k-nächste Nachbarn behält alle 1.257 Trainingsbilder, 80.448 Pixelwerte, und vergleicht jedes neue Bild mit jedem davon. Die logistische Regression kommt mit 650 Gewichten aus, rund 124-mal weniger Zahlen, und erreichte in der Kreuzvalidierung 97 % statt 98,9 %. Die Support Vector Machine behält nur die Trainingsbilder nahe den Grenzen zwischen den Ziffern, 686 Stück. Das neuronale Netz speichert 4.810 Gewichte, der Random Forest 61.848 Fragen und Blätter in seinen 200 Bäumen.\nBei kleinen Bildern wie unseren passt all das problemlos auf jedes Smartphone. Bei Millionen großer Bilder oder Dokumente entscheidet der Unterschied, ob ein Verfahren überhaupt laufen kann. Deshalb setzt k-nächste Nachbarn im Betrieb auf spezielle Suchindizes, die ähnliche Elemente finden, ohne jedes einzelne zu vergleichen — dieselbe Technik, auf der Vektordatenbanken aufbauen.\nEs gibt kein bestes Verfahren Die Forschung zum maschinellen Lernen hat für diese Beobachtung einen Namen: das No-Free-Lunch-Prinzip. Kein Verfahren ist für jede Art von Daten das beste. Deshalb folgen Fachleute ein paar Gewohnheiten:\nMit einer einfachen Grundlinie beginnen, etwa der logistischen Regression. Jedes aufwendigere Verfahren muss sie klar schlagen. Mit Kreuzvalidierung vergleichen, nicht mit einer glücklichen Aufteilung, und neben dem Mittelwert auch auf die Spanne schauen. Mehr als die Genauigkeit zählen. Tempo, Speicher, Trainingskosten und ob Menschen die Entscheidungen nachvollziehen können, zählen im Betrieb. Bei knappen Ergebnissen das einfachere Modell nehmen. Ein Unterschied von wenigen Zehntelprozent liegt oft im Bereich des Zufalls. Auf den eigenen Daten testen. Benchmarks auf fremden Daten, auch unsere, sagen nur, was Sie zuerst ausprobieren sollten. So haben wir das Experiment durchgeführt Wir haben die Python-Bibliothek scikit-learn mit weitgehend üblichen Einstellungen genutzt: k-nächste Nachbarn mit k = 3, einen Random Forest mit 200 Bäumen, eine Support Vector Machine mit ihrem Standardkern auf standardisierten Pixelwerten und ein neuronales Netz mit einer versteckten Schicht aus 64 Neuronen. Die fünf Teile sind geschichtet, enthalten also jede Ziffer zu etwa gleichen Anteilen, und die Aufteilung nutzt einen festen Startwert — die Zahlen auf dieser Seite kommen bei jedem Lauf gleich heraus. Die Zahlen der Aufwandstabelle stammen von den Modellen, die auf den 1.257 Trainingsbildern trainiert wurden. Der letzte Teil von Level 1 widmet sich Daten ganz ohne Labels: Gruppen finden mit Clustering und Daten vereinfachen mit PCA.\n","words":1031},"date":"2026-10-18","description":"Sechs klassische Verfahren auf denselben Daten, von logistischer Regression bis neuronalem Netz, fair verglichen — und was jedes im Betrieb kostet.","image":"https://abxk.ai/images/cover/comparing-ml-methods.webp","json":"https://abxk.ai/de/ai-development/fundamentals/comparing-ml-methods/index.json","kind":"page","language":"de","learning_path":{"category":"ai-development","level":1,"level_name":"Grundlagen"},"modified":"2026-10-18","related_tools":["Runpod","Pinecone","MindStudio"],"section":"ai-development","seo_title":"Sechs Verfahren des maschinellen Lernens im Vergleich","tags":["maschinelles-lernen","kreuzvalidierung","modellvergleich","experiment","grundlagen"],"title":"Welches Verfahren gewinnt? Sechs klassische Methoden im Vergleich","translations":[{"json":"https://abxk.ai/en/ai-development/fundamentals/comparing-ml-methods/index.json","language":"en","url":"https://abxk.ai/en/ai-development/fundamentals/comparing-ml-methods/"}],"url":"https://abxk.ai/de/ai-development/fundamentals/comparing-ml-methods/"}