Fehler des Regressionskoeffizienten

04.02.2005, 19:38

Spiderweb77

Fehler des Regressionskoeffizienten

Hi, würde mich freuen wenn mir jemand bei folgendem Problem helfen könnte...

Ich habr eine Regressionsgerade vom Typ y= ax bestimmt, also ohne y-Achsenabschnitt. Kann mit Hilfe der Gaußschen Methode der kleinsten Quadrate a also bestimmen!

Nun bräuchte ich den Standardfehler der Steigung a ! Habe in mehreren Büchern nur den Fall für eine Geradengleichung mit Achsenabschnitt y= ax + b gefunden !

Excel liefert dafür die fertigen Ergebnisse, würde nur mal gerne wissen welche Formeln dem zugrunde liegen!

Ja und für einen nicht linearen Ansatz als Polynom vom Grad 2 und 3, auch ohne y Achsenabschnitt würde ich das auch gerne wissen, nur das wird sicherlich noch schwieriger...

Also, vielen Dank schon mal im voraus!

05.02.2005, 21:24

kurellajunior

Auf diesen Beitrag antworten »

RE: Fehler des Regressionskoeffizienten
Hallo und Willkommen

im Board

Kann ich davon ausgehen, dass Du eine Menge von Punkten hast durch die Du eine Regressionsgerade bestimmen sollst? Wenn ja, und du hast die Beispiele für y=ax+b warum dann nicht einfach die Beispiele mit b=0 verwenden?

Zeig mal was Du da gefunden hast, dann arbeiten wir daran weiter.
Falls die Sachen komplizierter werden verwende bitte den Formeleditor und die LaTeX umgebung. Beispiele gibts im Board genug, kann man durch "Zitat" sich angucken...

07.02.2005, 10:20

Spiderweb77

Auf diesen Beitrag antworten »

RE: Fehler des Regressionskoeffizienten
Hi,

ja genau ich habe genau 7 Punkte einer Messung und möchte die durch eine Gerade beschreiben. Die Punkte unterliegen alle einigen Fehlerschwankungen, nur der "Nullpunk" ist ein "sicherer" Wert deswegen kein Y- Achsenabschnitt! Die Fehlerschwankungen bzeihen sich nur auf Y-Werte, d.h. für die X Werte nehme ich an, das sie 'richtig' sind.

Also mit der Gauß'schen Methode der kleinsten Quadrate kann ich die Steigung, also den Regressionskoeffzienten der Gerade wie folgt bestimmen:

$\begin{eqnarray*} a=\frac{\sum~{x_i \cdot y_i }} {\sum~ x_i^{2}} \end{eqnarray*}$

Der Ansatz stimmt, den Excel liefert Ergebnisse die mit der Formel übereinstimmen. Wenn ich hier schon den Ansatz gewählt hätte mit

$\begin{eqnarray*} f(x)=ax + b \end{eqnarray*}$

hätte b = 0 gesetzt und die fertige Form aus einem Buch übernommen wäre a:

$\begin{eqnarray*} a=\frac{\sum~{x_i \cdot y_i -nx'y'}} {\sum~ x_i^2-nx'^2} \end{eqnarray*}$

(wobei x' und y' Mittelwerte darstellen, bin leider nicht so latex fit)

Das zeigt mir schon das ich nicht den Ansatz mit $\begin{eqnarray*} f(x)=ax + b \end{eqnarray*}$ nehmen kann und b = 0 setzten darf!

So, jetzt um den Fehler der Steigung, bei einer Gerade mit Y-Achsenabschnitt berrechnet sich dieser laut Papula Band 3

$\begin{eqnarray*} s_a^2=\frac {(1-r^2)s_y^2} {(n-2) s_x^2} \end{eqnarray*}$

Nur diesen Ansatz kann ich nicht mehr verwenden, da er halt für einen Funktionstyp mit Achsenabschnitt gedacht ist.

07.02.2005, 10:52

kurellajunior

Auf diesen Beitrag antworten »

RE: Fehler des Regressionskoeffizienten
Grundsätzlich gilt: ein allgemeiner Ansatz muss auch für Spezialfälle gelten! Also vermute ich einen Fehler bei Dir beim Einsetzen von b=0. Zeig doch mal die genaue Definition für die Verwendung von $\begin{eqnarray*} f(x)=ax + b \end{eqnarray*}$ .

Tip: \overline{x} erzeugt $\begin{eqnarray*} \overline{x} \end{eqnarray*}$ für den Mittelwert.

Es kann jedoch sein, dass eine kalkulierte Regressionsgerade durch dann 8 Punkte (7 plus Ursprung) tatsächlich nicht mehr durch den Ursprung geht.

Zitat:

So, jetzt um den Fehler der Steigung, bei einer Gerade mit Y-Achsenabschnitt berrechnet sich dieser laut Papula Band 3
$\begin{eqnarray*} s_a^2=\frac {(1-r^2)s_y^2} {(n-2) s_x^2} \end{eqnarray*}$
Nur diesen Ansatz kann ich nicht mehr verwenden, da er halt für einen Funktionstyp mit Achsenabschnitt gedacht ist.

Warum? Achsenabschnitt ist Achsenabschnitt, auch wenn er den Wert 0 annimmt?

Jan

07.02.2005, 16:33

etzwane

Auf diesen Beitrag antworten »

Hast du schon mal versucht, Excel zu "überlisten" und zusätzlich z.B. 100 fiktive Messpunkte 0|0 mit aufgenommen, ist ja schnell gemacht. Dadurch erhält der Punkt 0|0 ein wesentlich höheres Gewicht als die anderen und zwingt die Ausgleichsgerade näher an diesen Punkt heran.

07.02.2005, 16:51

Auf diesen Beitrag antworten »

Excel ist nicht vertrauenswürdig in punkto Statistik
Excel sollte man in punkto Statistik überhaupt kein Vertrauen schenken. Die Begründung liefert Microsoft höchstselbst:

http://support.microsoft.com/kb/834691/DE/

07.02.2005, 19:37

Spiderweb77

Auf diesen Beitrag antworten »

Zitat:

Original von Arthur Dent
Excel sollte man in punkto Statistik überhaupt kein Vertrauen schenken. Die Begründung liefert Microsoft höchstselbst:

http://support.microsoft.com/kb/834691/DE/

Ja, da hast Du schon Recht das Excel da nicht so der Hit ist, aber deswegen will ich es ja auch nachrechnen und mich nicht damit zufrieden gebe was mit Bill Gates liefert Augenzwinkern

Zitat:

Original von etzwane
Hast du schon mal versucht, Excel zu "überlisten" und zusätzlich z.B. 100 fiktive Messpunkte 0|0 mit aufgenommen, ist ja schnell gemacht. Dadurch erhält der Punkt 0|0 ein wesentlich höheres Gewicht als die anderen und zwingt die Ausgleichsgerade näher an diesen Punkt heran.

Ne, ich hab ja nicht das Problem das Excel das nicht kann oder will... Excel bietet die Option eine Gerade durch den Nullpunkt zu laufen lassen und berechnet auch brav all das was ich gerne möchte ! Nur möchte ich gerne auf den Grund gehen wie Excel das schafft, weil ich das für meine Arbeit auch schriftlich benötige...

Normalerweise würde die Gerade wenn ich die Option bei Excel "durch den Nullpunkt verlaufen" deaktiviere auch nicht durch den Nullpunkt laufen. Aber ich will sie genau da haben, da das einer Wert ist der 100 % genau ist, also denn ich am stärksten Gewichten möchte!

Also die Steigung a würde sich laut Papula für einen Funktiontyp $\begin{eqnarray*} f(x) = ax+b \end{eqnarray*}$ wie folgt berechnen:

$\begin{eqnarray*} a=\frac{n\cdot \sum~x_i \cdot y_i - (\sum~x_i)(\sum~y_i)}{n\cdot \sum~x_i^2 -(\sum~x_i)^2}=\frac{\sum~x_i \cdot y_i - n \cdot \overline{x}\cdot\overline{y}}{\sum~x_i^2-n \cdot \overline{x}^2} \end{eqnarray*}$

Der Achsenabschnitt kann man wie folgt bestimmen:

$\begin{eqnarray*} b=\frac{(\sum~x_i^2)(\sum~y_i)-(\sum~x_i)(\sum~x_i\cdot y_i)}{n\cdot \sum~x_i^2 -(\sum~x_i)^2}=\overline{y}-a\overline{x} \end{eqnarray*}$

Wenn ich das selbst herleite und einen Ansatz ohne Achsenabschnitt wähle komme ich über Summe der Abstandsquadrate, Normalgleichungen, ... zu

$\begin{eqnarray*} a=\frac{\sum~x_i\cdot y_i}{\sum~x_i^2} \end{eqnarray*}$

Also ich bin der Meinung das man den Ansatz mit Achsenabschnitt nicht auf eine Lösung ohne beziehen kann! Wenn ich das was mir Excel für die Steigung liefert (bei Option Gerade verläuft durch den Nullpunkt) mit der letzt beschrieben Formel vergleiche, so stimmt es überein. Also Excel nutzt genau diese Formel!

Die Standardabweichung der Steigung berrechnet sich für eine Funktionsansatz $\begin{eqnarray*} f(x) = ax+b \end{eqnarray*}$ mit :

$\begin{eqnarray*} s_a^2=\frac {n \cdot s_{Rest}^2} {n\cdot \sum~x_i^2 -(\sum~x_i)^2}=\frac {(1-r^2)s_y^2} {(n-2) s_x^2} \end{eqnarray*}$

Wenn ich diese auf mein Problem anwende, also ohne Achsenabschnitt dann passt das aber nicht, also Excel liefert andere Ergebnisse als das was die Formel liefert.

Ich suche also die Formel mit der sich die Standardabweichung für die Steigung berechnet für einen Ansatz $\begin{eqnarray*} f(x) = ax+b \end{eqnarray*}$

Hammer

Ein Vermutung ist das auf jeden Fall nicht mehr im Nenner n-2 sondern n-1 stehen muss, da ich nur eine gesuchte Größe in meiner Form habe!

07.02.2005, 21:48

kurellajunior

Auf diesen Beitrag antworten »

Tut mir leid,

ich stelle fest, dass das Ganze bei mir zu lange her ist um aus dem Stand alle Formelzeichen zu interpretieren (s, n, r)? sorry ich gebe an jemanden ab, der besser im Stoff steht.

Tut mir leid, Jan

07.02.2005, 21:55

etzwane

Auf diesen Beitrag antworten »

RE: Excel ist nicht vertrauenswürdig in punkto Statistik

Zitat:

Original von Arthur Dent
Excel sollte man in punkto Statistik überhaupt kein Vertrauen schenken. Die Begründung liefert Microsoft höchstselbst:
http://support.microsoft.com/kb/834691/DE/

Zitat:

Microsoft stellt ein Update für Microsoft Office Excel 2003 zur Verfügung. Dieses Update behebt einen Fehler in Excel 2003, der dazu führen kann, dass die Funktionen ZUFALLSZAHL(), ZUFALLSBEREICH(), STEIGUNG(), ACHSENABSCHNITT(), SCHÄTZER() und STFEHLERYX() falsche Werte zurückgeben. Nach Installation des Updates können diese Funktionen die richtigen Ergebnisse liefern.

können : Die wissen selber nicht, ob es damit stimmt !

Gut zu wissen!

07.02.2005, 22:03

etzwane

Auf diesen Beitrag antworten »

Zitat:

Original von Spiderweb77
Nur möchte ich gerne auf den Grund gehen wie Excel das schafft, weil ich das für meine Arbeit auch schriftlich benötige...

Schau mal in der Hilfe von Excel nach, da stehen auch die Formeln, nach denen Excel (angeblich?, s.o.) rechnet. Such dort maL nach RGP.

Sorry, Doppelposting.

08.02.2005, 10:00

Auf diesen Beitrag antworten »

Genug von Excel - kommen wir zum Thema zurück. Auf

http://de.wikipedia.org/wiki/Lineare_Regression (gespiegelt: http://www.formel-sammlung.de/ld-Lineare...ssion-1223.html)

steht alles, was du brauchst:

Bei dir ist p=1, also das Modell

$\begin{eqnarray*} y=b_1x+e \end{eqnarray*}$

(der Konstantanteil $\begin{eqnarray*} b_0 \end{eqnarray*}$ fehlt bei dir, das ist im folgenden an einigen Stellen zu berücksichtigen), die zugehörige Datenmatrix ist einfach ein Vektor

$\begin{eqnarray*} X=\begin{pmatrix}x_1\\x_2\\ \cdots\\x_n\end{pmatrix} \end{eqnarray*}$ ,

die 1-Spalte fehlt wegen des fehlenden Konstantanteils. Weiter unten auf der Webseite dann die Schätzung:

$\begin{eqnarray*} b=\begin{pmatrix}b_1\end{pmatrix}=(X^TX)^{-1}X^Ty \end{eqnarray*}$ , d.h.,

$\begin{eqnarray*} b_1=\frac{\sum\limits_{k=1}^nx_ky_k}{\sum\limits_{k=1}^nx_k^2},\qquad(*) \end{eqnarray*}$

das hast du oben ja schon so stehen. Jetzt zum dich interessierenden Teil - die Varianz der Schätzung bzw. in der Folge dann des Koeffizienten: Es ist

$\begin{eqnarray*} s_e^2=\frac{\sum\limits_{k=1}^ne_k^2}{n-p}=\frac{\sum\limits_{k=1}^n(y_k-b_1x_k)^2}{n-1} \end{eqnarray*}$

(p statt (p+1) wieder wegen des fehlenden Konstantanteils!). Und daraus ergibt sich dann über die Kovarianzmatrix

$\begin{eqnarray*} S_b=s_e^2(X^TX)^{-1} \end{eqnarray*}$ ,

die hier natürlich nur vom Typ (1 x 1) ist, sofort die Varianz deines Koeffizienten $\begin{eqnarray*} b_1 \end{eqnarray*}$ :

$\begin{eqnarray*} s^2_{b_1}=\frac{s_e^2}{\sum\limits_{k=1}^nx_k^2}=\frac{\sum\limits_{k=1}^n(y_k-b_1x_k)^2}{(n-1)\sum\limits_{k=1}^nx_k^2} .\qquad(**) \end{eqnarray*}$

Die Formeln, die du letztendlich brauchst, habe ich mit (*) und (**) versehen.

09.02.2005, 20:18

Spiderweb77

Auf diesen Beitrag antworten »

Super danke Dir Arthur Dent, das passt wunderbar mit dem was mit Excel auch liefert... Tanzen

Also nochmal besten Dank für die schnelle Hilfe von Euch allen !

09.02.2005, 22:43

Ismael87

Auf diesen Beitrag antworten »

Hallo!
Gehört Regression zur deskriptiven Statistik?
Und ist es somit auch ein Anwendungsverfahren dazu?
Kann mir viellicht jemand erklären?
was bedeutet regression?
Brauche infos zur Formel, aber nicht, wie man die Formel herleitet, sondern nur wie und wann man sie anwendet!
Regression einer Stichporbe is das Schlagwort!
Danke im voraus!

10.02.2005, 09:17

Spiderweb77

Auf diesen Beitrag antworten »

Hi Ismael...

Versuch mal einen von beiden Links http://de.wikipedia.org/wiki/Lineare_Regression (gespiegelt: http://www.formel-sammlung.de/ld-Lineare...ssion-1223.html) die Arthur Dent beschrieben hat, da findest Du alle Infos!

10.02.2005, 16:07

Ismael87

Auf diesen Beitrag antworten »

Danke für die Infos!
Eine Frage noch: ist die Regression nun ein Untersuchungsmethode?
Oder wie würdet ihr es bezeichnen??
Ciao Isi

Neue Frage »

Antworten »

Fehler des Regressionskoeffizienten

Verwandte Themen