Was ist der Unterschied zwischen nicht-linearer Regression und nicht-parametrischer Regression?

1 Antwort

Hallo,

Nein.

Bei der nicht-linearen Regression wird die abhängigen Variable durch eine nicht-lineare Kombination der Regressionskoeffizienten darstellt.

Bei der nicht-parametrischen Regression wird keine spezifische Annahmen über die Struktur der Regressionsfunktion gemacht und man geht von einer unendlichdimensionalen Parametermenge aus. Man definiert die Regressionsfunktion durch qualitative Eigenschaften wie Monotonie, Stetigkeit, Differenzierbarkeit.


gugugs23 
Beitragsersteller
 10.01.2017, 08:50

Danke für die Erklärung.

Sind Decision Tree Regressionen wie Random Forest Regression und Gradient-boosted Tree Regression dann nicht-parametrische Regressionen?

Dukkha  10.01.2017, 10:22
@gugugs23

Ja genau. Um den Unterschied zwischen parametrisch und nichtparametrisch zu verdeutlichen:

Wir betrachten eine Zufallsvariable X = (X1,...,Xn) wobei 
X1 bis Xn identisch verteilt und unabhängig sind.

Beispiel:

Parametrisch:

Man geht davon aus, dass die Zufallsvariablen  X1 bis Xn normalverteilt sind mit unbekannten Parameter mu und sigma^2

Nichtparametrisch:

Man geht davon aus, dass die Zufallsvariablen  X1 bis Xn eine unbekannte Verteilung haben. Wir setzen aber voraus, dass die Verteilungsfunktion stetig ist. (P(X1<= t) oder auch einfach das integral über die Dichte)

Nichtparametrisch ist also näher an der Realität.

gugugs23 
Beitragsersteller
 10.01.2017, 12:47
@Dukkha

Super das hat mir viel gebracht. Danke.