Lineare Regression

04.10.2015, 21:49

Proplaner

Lineare Regression

Meine Frage:
Ich habe die folgende Aufgabe:
Nehmen Sie an, die Daten y1,...,yn wurden durch ein lineares Regressionsmodell

$\begin{eqnarray*} yi = \beta 0 + \beta 1xi + ui \end{eqnarray*}$

mit den üblichen Annahmen erzeugt "wahres Modell". Fälschlicherweise wird das Modell

$\begin{eqnarray*} yi = \alpha xi + ui \end{eqnarray*}$

ohne Intercept postuliert.

Bestimmen Sie mithilfe der Differentialrechnung den Schätzer $\begin{eqnarray*} \alpha \end{eqnarray*}$ , der die residuale Summe der
Quadrate

$\begin{eqnarray*} SSR(\alpha )=\sum\limits_{k=1} (yi-\alpha xi)^2 \end{eqnarray*}$

minimiert. Schreiben Sie den Schätzer als Funktion der xi und der wahren Parameter Beta0 und Beta1
1. (Hinweis: Leiten Sie SSR( $\begin{eqnarray*} \alpha \end{eqnarray*}$ ) nach $\begin{eqnarray*} \alpha \end{eqnarray*}$ ab und setzen Sie die Ableitung null.)

Mir ist nicht klar was gemeint ist: "Schreiben Sie den Schätzer als Funktion der xi und der wahren Parameter Beta0 und Beta1".

Meine Ideen:
Meine Lösung:

$\begin{eqnarray*} dSSR(\alpha )/d\alpha = 2\sum\ (\alpha xi-yi)xi = 0 \end{eqnarray*}$
$\begin{eqnarray*} \Rightarrow \sum\ \alpha xi^2-xiyi = 0 \end{eqnarray*}$
$\begin{eqnarray*} \Rightarrow \alpha \sum\ xi^2-\sum\ xiyi = 0 \end{eqnarray*}$
$\begin{eqnarray*} \Rightarrow \alpha \sum\ xi^2 = \sum\ xiyi \end{eqnarray*}$
$\begin{eqnarray*} \Rightarrow \alpha = \sum\ xiyi / \sum\ xi^2 = \beta 1 \end{eqnarray*}$

05.10.2015, 12:36

1nstinct

Auf diesen Beitrag antworten »

RE: Lineare Regression
Hallo,

zunächst mal: Indizes werden mit "_" gesetzt. So wie du das schreibst ist das kaum lesbar...

Setzte doch einfach

Zitat:

$\begin{eqnarray*} yi = \beta 0 + \beta 1xi + ui \end{eqnarray*}$

ein, dann bist du doch fertig.

05.10.2015, 13:08

HAL 9000

Auf diesen Beitrag antworten »

RE: Lineare Regression

Zitat:

Original von Proplaner
$\begin{eqnarray*} \Rightarrow \alpha = \sum\ xiyi / \sum\ xi^2 = \beta 1 \end{eqnarray*}$

Die linke Hälfte $\begin{align*} \alpha = \frac{\sum\limits_{i=1}^n x_iy_i}{\sum\limits_{i=1}^n x_i^2} \end{align*}$ ist richtig, die rechte Hälfte $\begin{align*} \frac{\sum\limits_{i=1}^n x_iy_i}{\sum\limits_{i=1}^n x_i^2}=\beta_1 \end{align*}$ hingegen nicht:

Für lineare Regression (mit Absolutglied) ergeben sich andere Formeln für $\begin{align*} \beta_0,\beta_1 \end{align*}$ . Darum geht es ja schließlich hier

Zitat:

Original von Proplaner
Schreiben Sie den Schätzer als Funktion der xi und der wahren Parameter Beta0 und Beta1.

05.10.2015, 22:12

Proplaner

Auf diesen Beitrag antworten »

RE: Lineare Regression
Dann wäre die Lösung folgendermassen:

$\begin{eqnarray*} \alpha = \frac{\sum\limits xi(\beta 0 + \beta 1xi + ui)}{\sum\limits xi^2} \end{eqnarray*}$

$\begin{eqnarray*} \Rightarrow \alpha = \beta 0\frac{\sum\limits xi}{\sum\limits xi^2} + \beta 1 + \frac{\sum\limits xiui}{\sum\limits xi^2} \end{eqnarray*}$

05.10.2015, 22:18

1nstinct

Auf diesen Beitrag antworten »

RE: Lineare Regression
Ja.

Bitte beachte doch in Zukunft

Zitat:

Indizes werden mit "_" gesetzt. So wie du das schreibst ist das kaum lesbar...

05.10.2015, 22:22

HAL 9000

Auf diesen Beitrag antworten »

Nein, es ist $\begin{align*} \alpha = \beta_0 \cdot \frac{\sum\limits_{i=1}^n x_i}{\sum\limits_{i=1}^n x_i^2} + \beta_1 \end{align*}$ .

05.10.2015, 22:25

Proplaner

Auf diesen Beitrag antworten »

Super, danke!

Das mit den Indizes habe ich jetzt auch geschnallt.

05.10.2015, 22:29

HAL 9000

Auf diesen Beitrag antworten »

Ich hoffe, dir ist klar, warum? Ich hab nämlich nicht verstanden, wieso bei dir $\begin{align*} u_i \end{align*}$ in der Formel aufgetaucht waren. unglücklich

$\begin{align*} \beta_0,\beta_1 \end{align*}$ sind Lösungen des Minimierungsproblems $\begin{align*} (\beta_0,\beta_1)\mapsto \sum_{i=1}^n (y_i-\beta_0-\beta_1x_i)^2 \end{align*}$ .

Die Ableitung nach $\begin{align*} \beta_1 \end{align*}$ dieser Funktion ist $\begin{align*} -2\sum_{i=1}^n (y_i-\beta_0-\beta_1x_i)x_i \end{align*}$ , und Nullsetzen dieser Ableitung ergibt $\begin{align*} \beta_0\sum_{i=1}^n x_i + \beta_1\sum_{i=1}^n x_i^2 = \sum_{i=1}^n x_iy_i \end{align*}$ .

Neue Frage »

Antworten »

Lineare Regression

Verwandte Themen