Bedingte Varianz bei der linearen Regression

16.03.2017, 17:49	red123	Auf diesen Beitrag antworten »
Bedingte Varianz bei der linearen Regression Hallo Matheboard, ich habe ein Problem mit einer Aufgabe. Die Aufgabe lautet: "Berechnen Sie die bedingte Varianz $\begin{eqnarray} V(b_0\|X) \end{eqnarray}$ für den OLS-Schätzer $\begin{eqnarray} b_0 = \overline{y} - b_1 \overline{x} \end{eqnarray}$ . Rechtfertigen Sie jeden Schritt der Herleitung. Erklären Sie wie sich dieses Resultat von der Varianz $\begin{eqnarray} V(b_0\|X) \end{eqnarray}$ von $\begin{eqnarray} b_1 \end{eqnarray}$ " Ich bin schon relativ überfragt mit dem Ansatz. Ich hätte überlegt, dass ich möglicherweise mit $\begin{eqnarray} Var(b_0\|X) = Var(\overline{y} - b_1 \overline{x}\|X) \end{eqnarray}$ . Varianz ist ja ebenfalls $\begin{eqnarray} Var(x)=E(x^2)- (E(x))^2 \end{eqnarray}$ . Dann könnte ich Dies ebenfalls als $\begin{eqnarray} E((X-E(X\|Y)^2\|Y) \end{eqnarray}$ . $\begin{eqnarray} Var(b_0\|X)=E((b_0 - E(b_0\|X)^2\|X)=E((\overline{y} - b_1 \overline{x} - E(\overline{y} - b_1 \overline{x}\|X)^2\|X) \end{eqnarray}$ Jetzt weiß ich leider nicht mehr weiter. Könnt ihr mir helfen. Vielen Dank.
16.03.2017, 20:05	SHigh	Auf diesen Beitrag antworten »
RE: Bedingte Varianz bei der linearen Regression Hallo, Was ist $\begin{eqnarray} b_1 \end{eqnarray}$ ? Ich gehe mal davon aus, dass mit $\begin{eqnarray} \bar x:= \frac 1n\sum_{i=1}^nx_i \end{eqnarray}$ gemeint ist. Sollst du vielleicht für i.i.d ZVen $\begin{eqnarray} X=(X_i)_{i\leq n} \end{eqnarray}$ und i.i.d ZVen $\begin{eqnarray} Y=(Y_i)_{i\leq n} \end{eqnarray}$ , $\begin{eqnarray} X \end{eqnarray}$ unabhängig von $\begin{eqnarray} Y \end{eqnarray}$ $\begin{eqnarray} \mathbb V\left(\bar Y - b_1\bar X\, \|\, X=x\right) \end{eqnarray}$ berechnen?
17.03.2017, 14:31	red123	Auf diesen Beitrag antworten »
$\begin{eqnarray} b_1 \end{eqnarray}$ soll der empirische Schätzer für $\begin{eqnarray} \beta _1 \end{eqnarray}$ sein. Das Modell wäre sonst $\begin{eqnarray} y=\beta_0 + \beta_1 x_i + \epsilon_i \end{eqnarray}$ . Das empirische Modell wäre dann $\begin{eqnarray} y=b_0 + b_1 x_i + e_i \end{eqnarray}$ . Ich vermute, dass du Recht hast und ich wirklich das so berechnen soll. Wie soll ich da am besten vorgehen? P.S. Ich habe nochmal die Aufgabe als Bild angehangen dürfte im Dateianhang zu finden sein.
17.03.2017, 14:56	SHigh	Auf diesen Beitrag antworten »
Kennst du denn schon die Varianz von $\begin{eqnarray} b_1 \end{eqnarray}$ wenn die $\begin{eqnarray} x_i \end{eqnarray}$ gegeben sind? Dann sollte mit $\begin{eqnarray} \mathbb V(Y_1)=\sigma^2 \end{eqnarray}$ folgen: $\begin{eqnarray} \mathbb V\left(\bar Y - b_1\bar X\, \|\, X=x\right)=\mathbb V(\bar Y\, \|\, X=x) + \mathbb V(b_1\bar X\, \|\, X=x)=\dots = \frac {\sigma^2}n + \bar x^2\mathbb V(b_1\, \|\, X=x) \end{eqnarray}$ Bekommst du die Zwischenschritte selbst hin?
25.03.2017, 12:40	red123	Auf diesen Beitrag antworten »
entschuldige, dass ich erst jetzt antworte ich bin mir nicht ganz sicher, aber kann es probieren ist die Lösung: $\begin{eqnarray} Var(b_0 \|X)=E((b_0 - E(b_0))^2\|X) \end{eqnarray}$ ich schaue mir jetzt erstmal den vorderen Teil an also $\begin{eqnarray} b_0 - E(b_0) \end{eqnarray}$ . Wir haben ja gegeben, dass $\begin{eqnarray} b_0 =\overline{Y} - \overline{X} \end{eqnarray}$ ist. Setzen dies ein. $\begin{eqnarray} \overline{Y}-b_1 \overline{X}-E(\overline{Y}-b_1 \overline{X} \Leftrightarrow\\ \overline{Y}-b_1 * \overline{X} -E(\overline{Y})-E(b_1 * \overline{X}) \Leftrightarrow \\ \overline{Y}-b_1 * \overline{X} -\overline{Y}-E(b_1)* \overline{X}) \Leftrightarrow \\ \overline{Y}-b_1 * \overline{X} -\overline{Y}-b_1* \overline{X}=0 \end{eqnarray}$ Daraus müsste doch folgen, dass die Varianz $\begin{eqnarray} Var(0\|X)=0 \end{eqnarray*}$ . Ist das schlüssig? An sich finde ich es irgendwie logisch, dass die Varianz einer Konstante 0 ist, doch kommt mir das Ergebnis ein wenig merkwürdig vor.
25.03.2017, 13:11	SHigh	Auf diesen Beitrag antworten »
Ich verstehe erhlich gesagt nicht, was du da machst. Du sollst doch die Punkte in $\begin{eqnarray} \mathbb V\left(\bar Y - b_1\bar X\, \|\, X=x\right)=\mathbb V(\bar Y\, \|\, X=x) + \mathbb V(b_1\bar X\, \|\, X=x)=\dots = \frac {\sigma^2}n + \bar x^2\mathbb V(b_1\, \|\, X=x) \end{eqnarray}$ ergänzen. Ich mache mal den ersten Schritt. Da die Folgen $\begin{eqnarray} (X_i)_{i\leq n} \end{eqnarray}$ und $\begin{eqnarray} (Y_i)_{i\leq n} \end{eqnarray}$ unabhängig sind, folgt $\begin{eqnarray} \mathbb V(\bar Y\, \|\, X=x) + \mathbb V(b_1\bar X\, \|\, X=x)=\mathbb V(\bar Y) + \mathbb V\left(b_1\frac 1n\sum_{i=1}^nX_i\, \|\, X=x\right) \end{eqnarray}$ Der erste Summand lässt sich mit $\begin{eqnarray} \mathbb V(Y_1)=\sigma^2 \end{eqnarray}$ leicht auf die gewünschte Form bringen. Zum zweiten Summanden: Benutze , dass alle $\begin{eqnarray} X_i \end{eqnarray}$ messbar bezüglich deiner Bedingung sind. Dann bist du auch da schnell fertig.
Anzeige

25.03.2017, 13:25	red123	Auf diesen Beitrag antworten »
Ahhh habe deine Hilfe gar nicht genutzt. Geht das so?: $\begin{eqnarray} V(b_0 \|X)=V(\overline{Y}-b_1 \overline{X}\|X)=V(\frac{1}{n}\sum{Y_i}\|X)+(-1)^2 V(b_1 \overline{X}\|X)=\frac{1}{n^2}\sum{V(y_i\|X)}+V(b_1 \overline{X}\|X)=\frac{n}{n^2}\sigma_{e_i}+\overline{x}^2 V(b_1\|X) \end{eqnarray}$
25.03.2017, 13:27	red123	Auf diesen Beitrag antworten »
Mich wundert, dass wir statistische Unabhängigkeit annehmen. Würde das nicht bedeuten, dass der Korrelationskoeffizient ( $\begin{eqnarray} b_1 \end{eqnarray}$ ) 0 wäre?

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »