Die Methode der kleinsten Quadrate

20.02.2006, 16:22

da erwin

Die Methode der kleinsten Quadrate

Hi Leute, ich habe mal eine Frage. Stehe kurz vor dem Abitur in Mathe und bin beim Wiederholen auf die "Methode der kleinsten Quadrate" gestoßen. Das habe ich aber noch nicht so gut verstanden und wollte wissen, ob mir nicht jemand einen kurzen Text schreiben kann, in dem so das wichtigste drin steht, damit ich es besser lernen und behalten kann.

Vielen Dank
Da erwin

20.02.2006, 17:29

babelfish

Auf diesen Beitrag antworten »

kannst du vielleicht mal grob beschreiben, um was es da geht? ich kann nämlich mit der "methode der kleinsten quadrate" so gar nichts anfangen...
und bei der gelegenheit kannst du dann auch gleich sagen, was du genau nicht verstehst, denn fragen wie "erklärt mir die mathematik" sind meistens nicht so sinnvoll! Augenzwinkern

20.02.2006, 18:15

da erwin

Auf diesen Beitrag antworten »

Als Methode der kleinsten Quadrate wird ein Verfahren bezeichnet, mit dem die Regressionsgerade bestimmt wird. Die Regressionsgerade ist diejenige Linie in einer Graphik, die den Punkteschwarm am besten repräsentiert Um die Regressionsgerade zu ermitteln, errechnet man die Summe der quadrierten Abweichungen der Punkte, die ein Minimum bilden sollen.

Das haben wir mal aufgeschrieben, aber ich kann die Rechungen nicht mehr nachvollziehen. Die würde ich gerne auch schriftlich niederlegen.

Die Methode wir auch als "Methode der kleinsten Fehlerquadrate" bezeichnet.

Vielleicht kannst du mir jetzt weiter helfen.

20.02.2006, 18:58

Auf diesen Beitrag antworten »

Zitat:

Original von da erwin
Als Methode der kleinsten Quadrate wird ein Verfahren bezeichnet, mit dem die Regressionsgerade bestimmt wird. Die Regressionsgerade ist diejenige Linie in einer Graphik, die den Punkteschwarm am besten repräsentiert Um die Regressionsgerade zu ermitteln, errechnet man die Summe der quadrierten Abweichungen der Punkte, die ein Minimum bilden sollen.

Das war schon mal sehr gut erklärt. Man hat also Punkte $\begin{eqnarray*} (x_1,y_1) \end{eqnarray*}$ , ... , $\begin{eqnarray*} (x_n,y_n) \end{eqnarray*}$ vorliegen, die man durch eine Gerade $\begin{eqnarray*} y=ax+b \end{eqnarray*}$ approximieren möchte. Die angesprochene Summe der quadratischen Abweichungen ist dann

$\begin{eqnarray*} Q(a,b) := \sum_{k=1}^n ~ (y_k-ax_k-b)^2 \end{eqnarray*}$

Und diese Summe wird jetzt bzgl. der wählbaren Geradenparameter $\begin{eqnarray*} a \end{eqnarray*}$ und $\begin{eqnarray*} b \end{eqnarray*}$ minimiert.

Wo liegen denn jetzt genau deine Fragen, bei der technischen Durchführung dieser Minimierung?

20.02.2006, 19:47

da erwin

Auf diesen Beitrag antworten »

Ich verstehe noch nicht ganz, was mir die Formel sagen soll genauso wie der Satz "Und diese Summe wird jetzt bzgl. der wählbaren Geradenparameter a und b minimiert".

Also das durch die Formel die gesuchte Summe entsteht ist mir klar, aber was genau passiert subtrahiere ich da?

20.02.2006, 19:55

da erwin

Auf diesen Beitrag antworten »

Was genau subtrahiere ich da? (ohne "passiert")

Kann man nicht alles in einem kurzen Text, ohne Rechnung, zusammenfassen, was genau bei dieser Methode passiert

20.02.2006, 20:00

Crotaphytus

Auf diesen Beitrag antworten »

Ich hoff mal, das wird jetzt halbwegs verständlich... Augenzwinkern

Schritt 1: Du legst eine Gerade durch die Punkte.
Schritt 2: Für jeden einzelnen Punkt bestimmst du, wie weit der von der Gerade abweicht. Diese Abweichungen werden dann zuerst quadriert und dann alle addiert.

Das alles kannst du für verschiedene Geradengleichungen machen. Die ideale Regressionsgerade ist diejenige, für die diese "Summe der quadratischen Abweichungen" am kleinsten ist.

20.02.2006, 20:30

JochenX

Auf diesen Beitrag antworten »

konnte man die lösung nicht mithilfe der normalengleichung bestimmen?

im endeffekt geht es hier ja um das "lösen" eines (i.A. unlösbaren!) LGS Ax=b
gesucht ein x0, für dass $\begin{eqnarray*} |x-x_0|_2 \end{eqnarray*}$ (Euklidnorm) minimal ist

Normalengleichung:
$\begin{eqnarray*} A^tAx_0=A^tb \end{eqnarray*}$

ging das so? verwirrt

20.02.2006, 21:08

da erwin

Auf diesen Beitrag antworten »

Kann man am Ende schreiben, "Die Summe der quadrierten Abweichung ergibt dann die Regressionsgerade, die im Koordinatensystem/Graphik liegt"?

20.02.2006, 23:40

Auf diesen Beitrag antworten »

@Jochen

Ist schon richtig, allerdings können unsere Bezeichnungen im Vergleich den armen erwin ganz schön verwirren - ich mach mal eine passende Gegenüberstellung (links Jochen, rechts meine):

$\begin{eqnarray*} \underline{b} &=& \begin{pmatrix} y_1\\ y_2\\ \vdots \\ y_n \end{pmatrix}\\ \underline{x} & = & \begin{pmatrix} a\\ b \end{pmatrix}\\ \underline{A} & = & \begin{pmatrix} x_1 & 1\\ x_2 & 1\\ \vdots & \vdots \\ x_n & 1\end{pmatrix} \end{eqnarray*}$ .

21.02.2006, 00:59

JochenX

Auf diesen Beitrag antworten »

ja danke, arthur Wink

sowas hatte ich ja erst vor einem jahr in numerik und ich wollte sicher gehen, dass zumindest irgendwas hängen geblieben ist aus dieser leider etwas langweiligen VL....

Neue Frage »

Antworten »

Die Methode der kleinsten Quadrate

Verwandte Themen