Regression Parameterschätzung

03.09.2016, 09:32

gamlastan

Auf diesen Beitrag antworten »

Regression Parameterschätzung

Hallo zusammen, Hallo HAL 9000,

heute möchte ich mich mit folgender Aufgabe befassen:

The following table contains 10 data pairs relaiting the yield of a laboratory experiment y_i to the temperature x_i at which the experiment was run.
i = 1,...,10
x_i = 100, 110, ...., 190;
y_i = 45, 52, 54, 63, 62, 68, 75, 76, 92, 88;

(i) Determine the estimators for the regession parameters and draw a scatter diagram for the sampled data above and the esimated regession line.

(ii) Determine a 95% prediction interval for the yield of a single experiment which will be run at temperature x_0 = 155.

Mein Ansatz:
(i)
Aus der Vorlesung lassen sich aus dem Theorem $\begin{eqnarray*} \sum\limits_{i=1}^{n} \left(Y_{i} -A-Bx_{i} \right) ^{2} \end{eqnarray*}$

die Parameter A und B zu:
$\begin{eqnarray*} B = \frac{S_{xY} }{S_{x} } \end{eqnarray*}$
$\begin{eqnarray*} A = \bar{Y} - B\bar{x} \end{eqnarray*}$

Wobei Wiederum gilt:
$\begin{eqnarray*} S_{x} =\sum\limits_{k=1}^{n} \left(x_{i} -\bar{x}\right)^{2} \end{eqnarray*}$
$\begin{eqnarray*} S_{xY} =\sum\limits_{i=1}^{n} \left(x_{i} -\bar{x}\right) \left(Y_{i} -\bar{Y}\right) \end{eqnarray*}$

Ist der Ansatz so richtig, und wenn ja wie bestimme ich den sample mean $\begin{eqnarray*} \bar{Y} \end{eqnarray*}$ bzw die $\begin{eqnarray*} Y_{i} \end{eqnarray*}$ ?

03.09.2016, 14:00

HAL 9000

Auf diesen Beitrag antworten »

Deine $\begin{align*} y_i \end{align*}$ sind hier:

Zitat:

Original von gamlastan
y_i = 45, 52, 54, 63, 62, 68, 75, 76, 92, 88;

Und $\begin{align*} \bar{y} \end{align*}$ ist deren Mittelwert.

03.09.2016, 14:57

gamlastan

Auf diesen Beitrag antworten »

Also spielt das groß und klein bei den Buchstaben keine Rolle?
Bzw nur die dass das eine Zufallsvariablen sind und das andere Messwerte?

03.09.2016, 15:05

HAL 9000

Auf diesen Beitrag antworten »

Dazu verlinke ich mal das: https://www.matheboard.de/thread.php?pos...086#post1819086

Ähnliches sollte eigentlich (nahezu) am Anfang jeder Vorlesung zu Statistik stehen.

05.09.2016, 11:29

gamlastan

Auf diesen Beitrag antworten »

Ok HAL, danke für diese Verdeutlichung. Ich hatte mir das zwar gedacht aber auf die Art u. Weise habe ich das nicht gewusst.

Wenn ich nun obige A und B Parameter berechne mit $\begin{eqnarray*} S_{x} = 8250 \end{eqnarray*}$ sowie $\begin{eqnarray*} S_{xY} = 4095 \end{eqnarray*}$ sowie $\begin{eqnarray*} \bar{x} = 145 \end{eqnarray*}$ und $\begin{eqnarray*} \bar{Y} = 67.5 \end{eqnarray*}$

$\begin{eqnarray*} B = \frac{S_{xY} }{S_{x} } = \frac{273}{550} \approx 0.496 \end{eqnarray*}$
$\begin{eqnarray*} A = \bar{Y}-B*\bar{x} =\frac{-246}{55} \approx -4.473 \end{eqnarray*}$

Das passt aber leider nicht mit dem Scatterdiagram zusammen es müsste ne positive STeigung sein und ein B von 30...40 ca. Wenn man $\begin{eqnarray*} Y_{i} = Ax_{i} + B \end{eqnarray*}$ zugrunde legt.

05.09.2016, 11:35

HAL 9000

Auf diesen Beitrag antworten »

Offenkundig verwechselst du die beiden Parameter in ihrer Bedeutung - oben stand es noch richtig:

Zitat:

Original von gamlastan
Aus der Vorlesung lassen sich aus dem Theorem $\begin{eqnarray*} \sum\limits_{i=1}^{n} \left(Y_{i} -A-Bx_{i} \right) ^{2} \end{eqnarray*}$

D.h., Regressionsgerade ist $\begin{align*} A+Bx \end{align*}$ , mit Steigung $\begin{align*} B \end{align*}$ und Achsenabschnitt $\begin{align*} A \end{align*}$ . Und dazu passen deine Werte doch ganz ordentlich.

Anzeige

05.09.2016, 11:46

gamlastan

Auf diesen Beitrag antworten »

Ja natürlich, so ist es richtig... Freude

Freude

fehlt noch Punkt (ii)

Mehr dazu in kürze...

05.09.2016, 12:47

gamlastan

Auf diesen Beitrag antworten »

Das Prediction interval for a response at input value $\begin{eqnarray*} x_{0} \end{eqnarray*}$ ergibt sich zu $\begin{eqnarray*} A + Bx_{0} \pm \sqrt{\frac{S_{R}\left[S_{x} (n+1)+n\left(x_{0}-\bar{x} \right) ^{2} \right] }{n(n-2)S_{x} } } F_{t_{n-2} } \left(1-\frac{\gamma }{2} \right) \end{eqnarray*}$

Laut Aufgabensttelelung ist $\begin{eqnarray*} x_{0}=155 \end{eqnarray*}$ und $\begin{eqnarray*} \gamma = 0.05 \end{eqnarray*}$
und laut Vorlesung $\begin{eqnarray*} S_{R} =S_{Y} -\frac{S_{xY} ^{2} }{S_{x} } \end{eqnarray*}$
mit $\begin{eqnarray*} S_{Y} = 2098.25 \end{eqnarray*}$ , folgt $\begin{eqnarray*} S_{R} \approx 65.641 \end{eqnarray*}$ zudem ist $\begin{eqnarray*} n=10 \end{eqnarray*}$ und $\begin{eqnarray*} F_{t_{8} } ^{-1} \left(0.975\right) = 2.30600 \end{eqnarray*}$

Obige Formel ergibt dann folgende Werte:

2.9895
-10.9423

Wie schreibe ich dann das Intervall auf?

05.09.2016, 14:14

HAL 9000

Auf diesen Beitrag antworten »

Ich hab ehrlich gesagt mit dieser Formel noch nie gearbeitet und kann jetzt nicht so nachvollziehen, was du hier gerechnet hast. Auf alle Fälle sollte bei dieser Konstruktion der Prognosewert der Regressionsgerade genau der Intervallmittelpunkt sein. Ich sehe jetzt also nicht, was

Zitat:

Original von gamlastan
2.9895
-10.9423

in dem Zusammenhang bedeuten sollen - die Intervallrandpunkte laut der von dir angegebenen Formel sind das jedenfalls bestimmt nicht, das muss ja irgendwas $\begin{align*} 72.4\pm \delta \end{align*}$ sein. unglücklich

unglücklich

05.09.2016, 14:46

gamlastan

Auf diesen Beitrag antworten »

Ja die Werte häten mich stutzig machen müssen, sorry verwirrt

verwirrt

Zu der Formel ist zu sagen, dass ich sie auch zum ersten Mal nutzte und sie so im Skript steht.

Das delta ist $\begin{eqnarray*} \delta \approx 353.073 \end{eqnarray*}$
und demnach die Grenzen des Intervalls: -278.613 u. 427.533

05.09.2016, 14:49

HAL 9000

Auf diesen Beitrag antworten »

Sieht ja katastrophal aus - da würde ich auf jeden Fall mal die Rechnung überprüfen - so hat das ja nichts mehr mit Prognose zu tun. Erstaunt1

Erstaunt1

05.09.2016, 15:13

HAL 9000

Auf diesen Beitrag antworten »

Vielleicht liegt hier die Ursache:

Zitat:

Original von gamlastan
und laut Vorlesung $\begin{eqnarray*} S_{R} =S_{Y} -\frac{S_{xY} ^{2} }{S_{x} } \end{eqnarray*}$

Das sollte wohl eher

$\begin{eqnarray*} S_R =S_Y^2 -\frac{S_{xY} ^2 }{S_x^2} \end{eqnarray*}$

lauten? verwirrt

verwirrt

05.09.2016, 15:24

Steffen Bühler

Auf diesen Beitrag antworten »

Zitat:

Original von HAL 9000
$\begin{eqnarray*} S_R =S_Y^2 -\frac{S_{xY} ^2 }{S_x^2} \end{eqnarray*}$

Wenn man dann rechts noch die Wurzel zieht ( Augenzwinkern

Augenzwinkern

), ergibt sich ein Delta von etwa 37, was recht plausibel aussieht. Aber auch mit dem Originalwert komme ich nur auf etwas mehr als 6 und nicht auf den genannten Wert.

Viele Grüße
Steffen

05.09.2016, 15:30

HAL 9000

Auf diesen Beitrag antworten »

Ja Ok, es sollte wohl besser $\begin{eqnarray*} S_R^2 =S_Y^2 -\frac{S_{xY} ^2 }{S_x^2} \end{eqnarray*}$ lauten. Allerdings fehlt dann gewiss auch hier

Zitat:

Original von gamlastan
$\begin{eqnarray*} A + Bx_{0} \pm \sqrt{\frac{S_{R}\left[S_{x} (n+1)+n\left(x_{0}-\bar{x} \right) ^{2} \right] }{n(n-2)S_{x} } } F_{t_{n-2} } \left(1-\frac{\gamma }{2} \right) \end{eqnarray*}$

ein Quadrat beim $\begin{eqnarray*} S_R \end{eqnarray*}$ , damit wenigstens die Maßeinheiten wieder stimmen. Augenzwinkern

Augenzwinkern

EDIT: Und auch noch ein paar weitere Quadrate, wenn ich das richtig sehe. Vielleicht sagt uns aber auch gamlastan erstmal, was er unter $\begin{eqnarray*} s_x, s_Y, s_{xY} \end{eqnarray*}$ versteht - vielleicht arbeitet er ja mit anderen Definitionen als üblich...

06.09.2016, 20:59

gamlastan

Auf diesen Beitrag antworten »

Die oben angegebenen Berechnungsformeln sind richtig. Das delta ist $\begin{eqnarray*} \delta \approx 8.42 \end{eqnarray*}$ und $\begin{eqnarray*} A+B\bar{x} = 72.46 \end{eqnarray*}$

Diese Werte lassen die Sache realistischer erscheinen.

06.09.2016, 21:09

HAL 9000

Auf diesen Beitrag antworten »

Na fein, mir war nämlich inzwischen die Lust vergangen zu raten, ob du nun $\begin{align*} S_x=\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})^2 \end{align*}$ oder $\begin{align*} S_x^2=\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})^2 \end{align*}$ (wie sonst üblich) meinst...

06.09.2016, 21:11

gamlastan

Auf diesen Beitrag antworten »

Zitat:

Original von HAL 9000
Na fein, mir war nämlich inzwischen die Lust vergangen zu raten, ob du nun $\begin{align*} S_x=\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})^2 \end{align*}$ oder $\begin{align*} S_x^2=\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})^2 \end{align*}$ (wie sonst üblich) meinst...

Raten muss man nicht, nur in den ersten Beitrag sehen, wo erstere Angabe zu finden ist Augenzwinkern

Augenzwinkern

06.09.2016, 21:22

HAL 9000

Auf diesen Beitrag antworten »

Ich war nur irritiert, weil diese $\begin{align*} S_x,S_y,S_{xy} \end{align*}$ sonst für Standardabweichungen/Kovarianzen reserviert sind.

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »