Was ist der Unterschied zwischen nicht-linearer Regression und nicht-parametrischer Regression?
Kann es sein, dass damit das gleiche gemeint ist?
1 Antwort
Hallo,
Nein.
Bei der nicht-linearen Regression wird die abhängigen Variable durch eine nicht-lineare Kombination der Regressionskoeffizienten darstellt.
Bei der nicht-parametrischen Regression wird keine spezifische Annahmen über die Struktur der Regressionsfunktion gemacht und man geht von einer unendlichdimensionalen Parametermenge aus. Man definiert die Regressionsfunktion durch qualitative Eigenschaften wie Monotonie, Stetigkeit, Differenzierbarkeit.
Ja genau. Um den Unterschied zwischen parametrisch und nichtparametrisch zu verdeutlichen:
Wir betrachten eine Zufallsvariable X = (X1,...,Xn) wobei
X1 bis Xn identisch verteilt und unabhängig sind.
Beispiel:
Parametrisch:
Man geht davon aus, dass die Zufallsvariablen X1 bis Xn normalverteilt sind mit unbekannten Parameter mu und sigma^2
Nichtparametrisch:
Man geht davon aus, dass die Zufallsvariablen X1 bis Xn eine unbekannte Verteilung haben. Wir setzen aber voraus, dass die Verteilungsfunktion stetig ist. (P(X1<= t) oder auch einfach das integral über die Dichte)
Nichtparametrisch ist also näher an der Realität.
Danke für die Erklärung.
Sind Decision Tree Regressionen wie Random Forest Regression und Gradient-boosted Tree Regression dann nicht-parametrische Regressionen?