SMOTE, kurz f\u00fcr Synthetic Minority Over-sampling Technique, ist eine leistungsstarke Datenerweiterungsmethode, die beim maschinellen Lernen verwendet wird, um das Problem unausgeglichener Datens\u00e4tze anzugehen. In vielen realen Szenarien enthalten Datens\u00e4tze h\u00e4ufig unausgewogene Klassenverteilungen, wobei eine Klasse (die Minderheitsklasse) im Vergleich zu den anderen Klassen (Mehrheitsklassen) deutlich weniger Instanzen aufweist. Dieses Ungleichgewicht kann zu verzerrten Modellen f\u00fchren, die bei der Erkennung der Minderheitenklasse schlecht abschneiden, was zu suboptimalen Vorhersagen f\u00fchrt.<\/p>\n
SMOTE wurde eingef\u00fchrt, um dieses Problem anzugehen, indem synthetische Stichproben der Minderheitenklasse generiert werden, wodurch die Klassenverteilung ausgeglichen und die F\u00e4higkeit des Modells verbessert wird, von der Minderheitsklasse zu lernen. Diese Technik hat zahlreiche Anwendungen in verschiedenen Bereichen gefunden, beispielsweise in der medizinischen Diagnose, Betrugserkennung und Bildklassifizierung, in denen unausgewogene Datens\u00e4tze vorherrschen.<\/p>\n
SMOTE wurde von Nitesh V. Chawla, Kevin W. Bowyer, Lawrence O. Hall und W. Philip Kegelmeyer in ihrer bahnbrechenden Arbeit mit dem Titel \u201eSMOTE: Synthetic Minority Over-sampling Technique\u201c aus dem Jahr 2002 vorgeschlagen. Die Autoren erkannten die damit verbundenen Herausforderungen unausgeglichene Datens\u00e4tze und entwickelte SMOTE als innovative L\u00f6sung, um die durch solche Datens\u00e4tze verursachte Verzerrung abzumildern.<\/p>\n
Die Forschung von Chawla et al. zeigten, dass SMOTE die Leistung von Klassifikatoren beim Umgang mit unausgeglichenen Daten erheblich verbesserte. Seitdem hat SMOTE an Popularit\u00e4t gewonnen und ist zu einer grundlegenden Technik im Bereich des maschinellen Lernens geworden.<\/p>\n
SMOTE funktioniert durch die Erstellung synthetischer Stichproben f\u00fcr die Minderheitsklasse durch Interpolation zwischen vorhandenen Instanzen der Minderheitsklasse. Die wichtigsten Schritte des SMOTE-Algorithmus sind wie folgt:<\/p>\n
Der SMOTE-Algorithmus kann in der folgenden Gleichung zusammengefasst werden, wobei x_i die urspr\u00fcngliche Minderheitsinstanz darstellt, x_n ein zuf\u00e4llig ausgew\u00e4hlter Nachbar ist und \u03b1 ein zuf\u00e4lliger Wert zwischen 0 und 1 ist:<\/p>\n
Synthetische Instanz = x_i + \u03b1 * (x_n \u2013 x_i)<\/p>\n
Durch die iterative Anwendung von SMOTE auf die Minderheitsklasseninstanzen wird die Klassenverteilung neu ausbalanciert, was zu einem repr\u00e4sentativeren Datensatz f\u00fcr das Training des Modells f\u00fchrt.<\/p>\n
Die Hauptmerkmale von SMOTE sind wie folgt:<\/p>\n
Datenerweiterung<\/strong>: SMOTE erweitert die Minderheitenklasse durch die Generierung synthetischer Stichproben und behebt so das Problem des Klassenungleichgewichts im Datensatz.<\/p>\n<\/li>\n Reduzierung der Voreingenommenheit<\/strong>: Durch die Erh\u00f6hung der Anzahl der Minderheitenklasseninstanzen reduziert SMOTE die Verzerrung im Klassifikator, was zu einer verbesserten Vorhersageleistung f\u00fcr die Minderheitsklasse f\u00fchrt.<\/p>\n<\/li>\n Generalisierbarkeit<\/strong>: SMOTE kann auf verschiedene Algorithmen f\u00fcr maschinelles Lernen angewendet werden und ist nicht auf einen bestimmten Modelltyp beschr\u00e4nkt.<\/p>\n<\/li>\n Einfache Implementierung<\/strong>: SMOTE ist einfach zu implementieren und kann nahtlos in bestehende Pipelines f\u00fcr maschinelles Lernen integriert werden.<\/p>\n<\/li>\n<\/ol>\n SMOTE verf\u00fcgt \u00fcber mehrere Variationen und Anpassungen, um verschiedenen Arten unausgeglichener Datens\u00e4tze gerecht zu werden. Zu den am h\u00e4ufigsten verwendeten SMOTE-Typen geh\u00f6ren:<\/p>\n Regelm\u00e4\u00dfiger SMOTE<\/strong>: Dies ist die oben beschriebene Standardversion von SMOTE, die synthetische Instanzen entlang der Linie erstellt, die die Minderheitsinstanz und ihre Nachbarn verbindet.<\/p>\n<\/li>\n Grenznaher SMOTE<\/strong>: Diese Variante konzentriert sich auf die Generierung synthetischer Stichproben nahe der Grenze zwischen der Minderheits- und der Mehrheitsklasse, wodurch sie f\u00fcr Datens\u00e4tze mit \u00fcberlappenden Klassen effektiver wird.<\/p>\n<\/li>\n ADASYN (Adaptive synthetische Probenahme)<\/strong>: ADASYN verbessert SMOTE, indem es den Minderheitsinstanzen, die schwerer zu erlernen sind, eine h\u00f6here Bedeutung zuweist, was zu einer besseren Generalisierung f\u00fchrt.<\/p>\n<\/li>\n SMOTEBoost<\/strong>: SMOTEBoost kombiniert SMOTE mit Boosting-Techniken, um die Leistung von Klassifikatoren bei unausgeglichenen Datens\u00e4tzen weiter zu verbessern.<\/p>\n<\/li>\n Sicheres SMOTE<\/strong>: Diese Variante reduziert das Risiko einer \u00dcberanpassung, indem sie die Anzahl der generierten synthetischen Proben basierend auf dem Sicherheitsniveau jeder Instanz steuert.<\/p>\n<\/li>\n<\/ol>\n Hier ist eine Vergleichstabelle, die die Unterschiede zwischen diesen SMOTE-Varianten zusammenfasst:<\/p>\nArten von SMOTE<\/h2>\n
\n