Grundlagen der Statistik enthält Materialien verschiedener Vorlesungen und Kurse von H. Lohninger zur Statistik, Datenanalyse und Chemometrie .....mehr dazu.


Ableitung einer Regressionsformel

Author: Hans Lohninger

Das Prinzip dieser Ableitung ist einfach: Die Regression nach der Methode der minimalen Fehlerquadrate minimiert die Summe der quadrierten Differenzen zwischen den geschätzten und den wirklichen y-Werten für gegebene x-Werte (Residuen). Dafür müssen wir zuerst die Gleichung für die Quadratsumme definieren, die partiellen Ableitungen berechnen (für jeden Parameter) und sie gleich null setzen. Der Rest ist einfache Algebra, um einen Ausdruck für die Parameter zu erhalten.

Lassen Sie uns dieses Verfahren für ein bestimmtes Beispiel durchführen:

y = ax + bx2

Diese Formel soll durch eine Reihe von Datenpunkten [xi,yi] bestimmt werden, wobei xi die unabhängigen Werte darstellt und yi zu bestimmen ist. Durch Ersetzen der yi-Werte mit deren Schätzungen axi+bxi2 erhalten wir die folgende Reihe von Datenpunkten: [xi, axi+bxi2]. Die eigentlichen Werte der y-Werte sind immer noch yi. Dadurch ist die Summe der quadrierten Fehler S für n Datenpunkte als

S = (ax1+bx12-y1)2 + (ax2+bx22-y2)2 + (ax3+bx32-y3)2 + ...... + (axn+bxn2-yn)2

definiert. Nun müssen die partiellen Ableitungen mit Rücksicht auf die Parameter a und b berechnet und gleich null gesetzt werden:

δS/δa = 0 = 2(ax1+bx12-y1)x1 + 2(ax2+bx22-y2)x2 + 2(ax3+bx32-y3)x3 + ...... + 2(axn+bxn2-yn)xn
δS/δb = 0 = 2(ax1+bx12-y1)x12 + 2(ax2+bx22-y2)x22 + 2(ax3+bx32-y3)x32 + ...... + 2(axn+bxn2-yn)xn2

Diese zwei Gleichungen können durch Einführen der Summen der individuellen Terme leicht reduziert werden:


Nun lösen Sie die Gleichungen für die Koeffizienten a und b:


Durch Substitution erhält man folgende Endergebnisse:





Last Update: 2012-12-10