Kleinstes Quadrat

01.05.2008, 12:57

toobee

Kleinstes Quadrat

hi, habe hier eine kleinste Quadrat Aufgabe die ich nicht so recht gelöst kriege, weil mir der Anfang fehlt und ichnicht weis, wie ich anfangenn soll.

habe hier messwerte:
x = 0,1,2,3,4,5,6,7,8,9
y = 4.1, 1.3, 0.4, 0.3, 0.1 , 0.08, 0.07, 0.06, 0.08, 0.1

meine funktion lautet $\begin{eqnarray*} f(x) = ue^(-x)+vx \end{eqnarray*}$

was muss ich jetzt machen?

01.05.2008, 14:32

WebFritzi

Auf diesen Beitrag antworten »

Schreibe dir

$\begin{eqnarray*} \sum_{k=0}^9 |f(x_k) - y_k|^2 \end{eqnarray*}$

hin. Das ist dann eine Funktion in u und v. Minimiere diese.

01.05.2008, 18:55

toobee

Auf diesen Beitrag antworten »

ok, das bringt mich dann zu dieser funktion)

$\begin{eqnarray*} F(u,v) = (y_i - (ue^{-x_i}+vx_i)^2 \end{eqnarray*}$

$\begin{eqnarray*} F(u,v) = (y_i - ue^{-x_i}-vx_i)^2 \end{eqnarray*}$

ableiten:

$\begin{eqnarray*} F_u(u,v) = 2(y_i - ue^{-x_i}+vx_i)-e^{-x_i} \end{eqnarray*}$

$\begin{eqnarray*} F_u(u,v) = 2(-e^{-x_i}y_i + ue^{-2x_i}+e^{-x_i}vx_i) \end{eqnarray*}$

$\begin{eqnarray*} F_v(u,v) = 2(y_i - ue^{-x_i}-vx_i)-x_i \end{eqnarray*}$

$\begin{eqnarray*} F_v(u,v) = 2(-x_iy_i + ux_ie^{-x_i}+vx_i^2) \end{eqnarray*}$

umgestellt nach y ist das dann:

$\begin{eqnarray*} \sum_{i=1}^9~e^{-x_i}y_i = u\sum_{i=1}^9~e^{-2x_i} + v\sum_{i=1}^9~e^{-x_i}x_i \end{eqnarray*}$

und

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = u\sum_{i=1}^9~x_ie^{-x_i}+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

ist das soweit richtig?

01.05.2008, 20:52

WebFritzi

Auf diesen Beitrag antworten »

Zitat:

Original von toobee
ok, das bringt mich dann zu dieser funktion)

$\begin{eqnarray*} F(u,v) = (y_i - (ue^{-x_i}+vx_i)^2 \end{eqnarray*}$

$\begin{eqnarray*} F(u,v) = (y_i - ue^{-x_i}-vx_i)^2 \end{eqnarray*}$

Nein. Du hast die Summe vergessen (und in der ersten Zeile eine Klammer).

Zitat:

Original von toobee
ableiten:

$\begin{eqnarray*} F_u(u,v) = 2(y_i - ue^{-x_i}+vx_i)-e^{-x_i} \end{eqnarray*}$

$\begin{eqnarray*} F_u(u,v) = 2(-e^{-x_i}y_i + ue^{-2x_i}+e^{-x_i}vx_i) \end{eqnarray*}$

Das erste ist falsch, das zweite richtig. Weißt ddu auch, warum?

Zitat:

Original von toobee
$\begin{eqnarray*} F_v(u,v) = 2(y_i - ue^{-x_i}-vx_i)-x_i \end{eqnarray*}$

$\begin{eqnarray*} F_v(u,v) = 2(-x_iy_i + ux_ie^{-x_i}+vx_i^2) \end{eqnarray*}$

Wieder das gleiche. Erstes ist falsch, zweites richitig.

EDIT: Die zwei letzten Formelzeilen in deinem Beitrag sind richtig.

02.05.2008, 17:10

toobee

Auf diesen Beitrag antworten »

Zitat:

Original von toobee
$\begin{eqnarray*} \sum_{i=1}^9~e^{-x_i}y_i = u\sum_{i=1}^9~e^{-2x_i} + v\sum_{i=1}^9~e^{-x_i}x_i \end{eqnarray*}$

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = u\sum_{i=1}^9~x_ie^{-x_i}+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

ausrechnen tue ich das jetzt, in dem ich das ganze als ein lineares Gleichungssystem behandel, wobei der rechte teil vom gleichheitszeichen meine A Matrix und die linke Seite mein b-Vector verwirrt

A|b)

02.05.2008, 23:41

WebFritzi

Auf diesen Beitrag antworten »

So sieht's wohl aus...

04.05.2008, 11:41

toobee

Auf diesen Beitrag antworten »

müsste dann ja in etwa so aus sehen.

$\begin{eqnarray*} \begin{pmatrix} u \cdot e^{-x_i} & v\cdot x_i^2 & x_i\cdot y_i \\ u\cdot e^{-2*x_i} & v\cdot e^{-x_i}\cdot x_i & e^{x_i}\cdot y_i \end{pmatrix} \end{eqnarray*}$

darf man bei LGS und dem Gauß auch einzelne Zeilen quadrieren? ich bin mir nämlich unsicher wie ich das $\begin{eqnarray*} e^{-2 \cdot x_i} \end{eqnarray*}$ in der unteren zeilen kaputt kriege.

04.05.2008, 11:45

system-agent

Auf diesen Beitrag antworten »

Quadrieren nicht direkt, aber Multiplizieren darfst du immer mit einer Zahl die nicht Null ist. Nun ist aber $\begin{eqnarray*} e^{\text{irgendwas}} \end{eqnarray*}$ nie Null für reelles irgendwas...

04.05.2008, 12:21

toobee

Auf diesen Beitrag antworten »

$\begin{eqnarray*} \begin{pmatrix} e^{-x_i} & x_i^2 & x_i\cdot y_i \\ e^{-2*x_i} & e^{-x_i}\cdot x_i & e^{-x_i}\cdot y_i \end{pmatrix} \end{eqnarray*}$

$\begin{eqnarray*} z2 = z1 * (e^{-x}) \end{eqnarray*}$

$\begin{eqnarray*} \begin{pmatrix} e^{-x_i} & x_i^2 & x_i\cdot y_i \\ 0& e^{-x_i}\cdot x_i - x_i^2*e^{-x_i} & e^{-x_i}\cdot y_i - e^{-x_i}x_i y_i \end{pmatrix} \end{eqnarray*}$

ist das so dann richtig?

04.05.2008, 14:41

WebFritzi

Auf diesen Beitrag antworten »

Zitat:

Original von toobee
müsste dann ja in etwa so aus sehen.

$\begin{eqnarray*} \begin{pmatrix} u \cdot e^{-x_i} & v\cdot x_i^2 & x_i\cdot y_i \\ u\cdot e^{-2*x_i} & v\cdot e^{-x_i}\cdot x_i & e^{x_i}\cdot y_i \end{pmatrix} \end{eqnarray*}$

Was machst du da? Wo sind die Summen hin? verwirrt

04.05.2008, 15:25

toobee

Auf diesen Beitrag antworten »

ih hab die summenzeichen weggelassen, weil ich mir dabei immer die finger-abbreche wenn ich so viel latex-code schreibe smile

am ende, wenn ich die werte berechne, muss ich die summe natrülich wieder dazu nehmen, aber für das lgs müsste das doch auch so gehen?

ich bin mir da mit dem lgs ziemlich unsicher was ich da eigentlich mache, die variablen u und v darf ich ja nicht mit ins das lgs aufnehmen, dass sind ja die zahlen, die ich berechnen möchte...?

abgesehen von den fehlenden summen, wäre das den so richtig ?

05.05.2008, 14:07

toobee

Auf diesen Beitrag antworten »

$\begin{eqnarray*} \sum_{i=1}^9~e^{-x_i}y_i = u\sum_{i=1}^9~e^{-2x_i} + v\sum_{i=1}^9~e^{-x_i}x_i \end{eqnarray*}$

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = u\sum_{i=1}^9~x_ie^{-x_i}+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

Weil ich bei der Sache mit dem bestimmen von u und v nicht weiter komme, hab ich es jetzt so versucht

ich hab die erste nach u aufgelöst
$\begin{eqnarray*} \sum_{i=1}^9~e^{-x_i}y_i = u\sum_{i=1}^9~e^{-2x_i} + v\sum_{i=1}^9~e^{-x_i}x_i \end{eqnarray*}$

$\begin{eqnarray*} u\sum_{i=1}^9~e^{-2x_i} = \sum_{i=1}^9~e^{-x_i}y_i - v\sum_{i=1}^9~e^{-x_i}x_i \end{eqnarray*}$

$\begin{eqnarray*} u = \frac{\sum_{i=1}^9~e^{-x_i}y_i - v\sum_{i=1}^9~e^{-x_i}x_i}{\sum_{i=1}^9~e^{-2x_i}} \end{eqnarray*}$

jetzt hab ich das u in die zweite eingesetzt und u damit durch v ausgedrückt

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = u\sum_{i=1}^9~x_ie^{-x_i}+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = (\frac{\sum_{i=1}^9~e^{-x_i}y_i - v\sum_{i=1}^9~e^{-x_i}x_i}{\sum_{i=1}^9~e^{-2x_i}}) \cdot \sum_{i=1}^9~x_ie^{-x_i}+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

(ausmultiplizieren)

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = \frac{\sum_{i=1}^9~e^{-2x_i}x_iy_i - v\sum_{i=1}^9~e^{-2x_i}y_ix_i}{\sum_{i=1}^9~e^{-2x_i}}+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

(kürzen)

$\begin{eqnarray*} \sum_{i=1}^9~x_iy_i = \sum_{i=1}^9~x_iy_i - v\sum_{i=1}^9~y_ix_i+v\sum_{i=1}^9~x_i^2 \end{eqnarray*}$

das v auf die linke seite holen

$\begin{eqnarray*} -v\sum_{i=1}^9~x_i^2 = \sum_{i=1}^9~x_iy_i - v\sum_{i=1}^9~y_ix_i - \sum_{i=1}^9~x_iy_i \end{eqnarray*}$

$\begin{eqnarray*} -v\sum_{i=1}^9~x_i^2 + v\sum_{i=1}^9~y_ix_i = \sum_{i=1}^9~x_iy_i - \sum_{i=1}^9~x_iy_i \end{eqnarray*}$

irgendwo hab ich mich da jetzt verrant......

05.05.2008, 15:56

Auf diesen Beitrag antworten »

Hier handelt es sich schlicht und einfach um Multiple lineare Regression (ohne Absolutglied).

Dabei ist es wurst, ob der Ansatz $\begin{eqnarray*} y=ue^{-x}+vx \end{eqnarray*}$ oder $\begin{eqnarray*} y=u(e^{3x}+\tan(x))+v\frac{x^5+3}{\sin^2(x)+3} \end{eqnarray*}$ ist - wichtig ist nur die Linearität bzgl. der gesuchten Parametern $\begin{eqnarray*} u \end{eqnarray*}$ und $\begin{eqnarray*} v \end{eqnarray*}$ .

Und insofern muss man hier nicht nochmal das Rad neu erfinden, sondern kann auf die üblichen Methoden und Formeln zurückgreifen (siehe Wikipedia-Artikel), hier für die $\begin{eqnarray*} n=2 \end{eqnarray*}$ Parameter $\begin{eqnarray*} \beta_1=u \end{eqnarray*}$ und $\begin{eqnarray*} \beta_2=v \end{eqnarray*}$ mit den gegebenen Kovariablen $\begin{eqnarray*} x_1 = e^x \end{eqnarray*}$ und $\begin{eqnarray*} x_2=x \end{eqnarray*}$ .

05.05.2008, 17:43

WebFritzi

Auf diesen Beitrag antworten »

Sorry, ich kannte diese Formeln nicht. Hab mir nur den Wiki-Artikel ueber die Methode der kleinsten Quadrate angeschaut, um nachzuschauen, was das ueberhaupt ist.

05.05.2008, 17:45

Auf diesen Beitrag antworten »

Kein Grund zur Entschuldigung. Augenzwinkern

Ich hab nur interveniert, da die Formelorgie von toobee m.E. beängstigende Ausmaße erreicht hat - und wollte dehalb nur andeuten, dass alles in viel geordneteren Bahnen verlaufen kann.

05.05.2008, 20:29

toobee

Auf diesen Beitrag antworten »

danke für den link, aber mit diesem allgemeinen formeln zu mathematischen dingen bei wikipedia kann ich nie was anfangen, dafür sind die mir viel zu allgemein gehalten.

ich sehe ehrlich gesagt nicht, welcher teil von dem artikel mir sagt wie ich das lösen kann verwirrt

05.05.2008, 21:09

Auf diesen Beitrag antworten »

Zitat:

Original von toobee
ich sehe ehrlich gesagt nicht, welcher teil von dem artikel mir sagt wie ich das lösen kann verwirrt

Zitat:

Original http://de.wikipedia.org/wiki/Regressionsanalyse (geändert, weil hier ohne Absolutglied b0

Schätzung der Regressionskoeffizienten

Auch im multiplen linearen Regressionsmodell wird die Quadratsumme der Residuen nach der Methode der kleinsten Quadrate minimiert. Man erhält als Lösung eines Minmierungsproblems den Vektor der geschätzten Regressionskoeffizienten als

$\begin{eqnarray*} \underline b = \begin{pmatrix} b_1 \\ b_2 \\ \vdots\\ b_j \\ \vdots\\ b_p \end{pmatrix} = (\underline {X}^T \underline X )^{-1} \underline {X}^T \underline Y . \end{eqnarray*}$

Hier nun ist $\begin{eqnarray*} n=9 \end{eqnarray*}$ die Anzahl der Wertepaare und $\begin{eqnarray*} p=2 \end{eqnarray*}$ die Anzahl der zu schätzenden Parameter. Jetzt müssen nur noch die passenden Matrizen und Vektoren aufgestellt werden, die zum vorliegenden Problem passen:

$\begin{eqnarray*} \underline{X} = \begin{pmatrix} e^{x_1} & x_1 \\ e^{x_2} & x_2\\ \vdots & \vdots\\ e^{x_9} & x_9 \end{pmatrix}, \qquad \underline{Y} = \begin{pmatrix} y_1 \\ y_2\\ \vdots\\ y_9 \end{pmatrix}, \qquad \underline{b} = \begin{pmatrix} u\\ v \end{pmatrix} \end{eqnarray*}$ .

$\begin{eqnarray*} (\underline {X}^T \underline X ) \end{eqnarray*}$ ist nun eine 2x2-Matrix, die es gemäß Lösungsformel zu invertieren gilt. Wenn man das natürlich explizit mit Summen ausschreiben will, dann gerät man zu diesen länglichen Ausdrücken aus deinen Beiträgen. Substanziell bringt es aber nichts, das so auszuschreiben, es ist eher verwirrend und fehleranfällig.

Neue Frage »

Antworten »

Kleinstes Quadrat

Verwandte Themen