Methode der kleinsten Quadrate

Neue Frage »

Neo_81 Auf diesen Beitrag antworten »
Methode der kleinsten Quadrate
Meine Frage:
habe folgendes problem, bei dem ihr mir hoffentlich weiterhelfen könnt!

die aufgabe lautet wie folgt:

Die Intelligenz (Y) von Schülern soll anhand ihrer Gedächtnisleistung (X1) und der Deutschnote (X2) vorhergesagt werden.
Es liegen Daten von n = 11 Schülern (6 Schülerinnen und 5 Schüler) vor.

Berechne mit Methode der kleinsten Quadrate)

in meinem mathebuch steht folgende formel: siehe anhang
--> problem: dort gibts nur x und y, aber nicht x1, x2 und y

wie soll ich das dann in die formel einsetzen um ne geradengleichung zu bekommen...!?

aufgabe auch im anhang

Meine Ideen:
...muss ich das getrennt machen: erst x1 und y, dann x2 und y
Kasen75 Auf diesen Beitrag antworten »

Hallo,

die getrennte Betrachtung von und ist nicht zielführend.

Vielmehr muss folgender Ausdruck minimiert werden:



Jetzt kann man nach , und ableiten.

nach ableiten [(äußere Ableitung) mal (innere Ableitung)] :



die (-1) spielt keine Rolle, da sich alle Vorzeichen umdrehen. Der Faktor 2 spielt ebenfalls keine Rolle, da man die obige problemlos durch 2 teilen kann. Letztendlich führt das zu:



Die Ableitung nach sieht dann, nach Umformung, so aus:



Wie sieht dann die Ableitung nach aus? Sieht sehr ähnlich der Ableitung nach aus.

Mit freundlichen Grüßen.
 
 
Neo_81 Auf diesen Beitrag antworten »

wow - also erstmal danke für die ausführliche antwort...

muss allerdings gestehen, dass mir das etwas zu hoch ist und ich immer noch nicht weiß, was ich nun schlussendlich in die unterste formel einsetzen muss (ist das überhaupt schon die endformel)...

wenn ja, für was steht das b - die steigung...!?
die hab ich doch noch garnicht...

wie du siehst - mein matheverständnis ist leider nicht das beste und mit formeln ohne zahlen (wo dann verständnis und transferwissen nötig wäre) steh iich auch auf kriegsfuss...!!!

super wäre, wenn du mirs vielleicht anhand "meiner" zahlen nochmal erklären könntest...!!!

danke schon mal smile
Kasen75 Auf diesen Beitrag antworten »

ist die Konstante. ist die "Steigung" für die Variable 1. ist die "Steigung" der Variable 2. und drücken jeweils den Einluss der unabhängigen Variablen auf die abhängige Variable aus (y).

, und hast du noch gar nicht! Die sollst du ja erst durch die drei Gleichungen ermitteln.

Bei einer einfachen linearen Regeression sähe die Regressionsgerade so aus: . Dafür ist auch deine gescannte Formel gedacht. Wie gesagt hier ist es anders, da du hier jetzt zwei exogene Variablen hast(,).

Die dritte Gleichung wäre dann:



Jetzt musst du anfangen zu rechnen:

So ist z.B.

Jetzt kannst du ja mal versuchen die anderen Summenausdrücke auszurechnen.

Mit freundlichen Grüßen.
Neo_81 Auf diesen Beitrag antworten »



= 33

= 389

= 113

33 + 389 + 113 = 535




= 131

= 1593

= 389

131 + 1593 + 389 = 2113
Kasen75 Auf diesen Beitrag antworten »

Hallo Neo_81,

ich habe dieselben Ergebnisse. Freude
Das ist insofern auch für mich beruhigend, da man sich hierbei schnell mal verrechnen kann.
Damit ist aber auch eine deiner früheren Behauptungen widerlegt, dass du mit Formeln auf Kriegsfuß stehst. Ich schreib mal die drei Geichungen auf und setze die Werte ein, die du schon errechnet hast.







Das sieht ja jetzt schon sehr nach einem Gleichungssystem mit 3 Gleichungen und drei Variablen aus. Um das Gleichungssystem lösen zu können musst du nur noch die Werte der linken Seiten errechnen. Die hast du irgendwie vergessen. Bei der zweiten Gleichung hat die linke Seite den Wert 13501. Damit du schon mal weißt, ob du auch mit Formeln mit der Variable yi umgehen kannst.

Grüße.
Neo_81 Auf diesen Beitrag antworten »

oh, die hab ich wohl vergessen abzutippen...













HAL 9000 Auf diesen Beitrag antworten »

Bei mehr als zwei zu bestimmenden Parametern - wie hier - ist es dann vielleicht auch ganz übersichtlich, das wie im allgemeinen linearen Fall (multiple lineare Regression) abzuhandeln, zweckmäßigerweise in Matrizenschreibweise: Mit



kann man die Bestimmungsgleichung für den Koeffizientenvektor letztlich schreiben als . Da sieht man dann auch gleich, wie es für mehr als drei Parameter weitergehen würde.


@Neo_81

Da ist dir wohl in den beiden letzten Zeilen eine Vertauschung passiert, und in der ersten Zeile ein kleiner Verschreiber - richtig ist

Neo_81 Auf diesen Beitrag antworten »

sowas in der richtung...!?

falls das stimmt, wie gehts dann weiter...!?
HAL 9000 Auf diesen Beitrag antworten »

Wie es aussieht, hast du ja nun ganz rechts unten die Inverse berechnet.

Ja, wie wird's da schon weitergehen, wie man lineare Gleichunsyssteme eben mit Hilfe der Inversen löst:

Aus folgt ja



mit dem von dir oben schon berechneten

.
Neo_81 Auf diesen Beitrag antworten »

Zitat:
Original von HAL 9000

Ja, wie wird's da schon weitergehen, wie man lineare Gleichunsyssteme eben mit Hilfe der Inversen löst:


genau da kommen wir wieder zu meinem problem des transferwissens...
mir fehlt da einfach der über-/weitblick...
hier und da kann ich schon was rechnen, aber wenns dann ums große ganze geht, bin ich meistens raus...

werd's aber mal versuchen...
Neo_81 Auf diesen Beitrag antworten »

also müsste ich folgendes rechnen, oder...!?
HAL 9000 Auf diesen Beitrag antworten »

Ja, genau.
Neo_81 Auf diesen Beitrag antworten »

...
HAL 9000 Auf diesen Beitrag antworten »

Du weißt aber schon, wie man Matrizen multipliziert, oder?

Wenn man eine -Matrix mit einer -Matrix (=Spaltenvektor der Dimension 3) multipliziert, dann entsteht was für ein Gebilde? Jedenfalls keine -Matrix. unglücklich
Neo_81 Auf diesen Beitrag antworten »

doch, eigentlich schon verwirrt

hab nur die rechnung mit der design-matrix so im internet gefunden und dachte vielleicht müsste man das in dem fall so rechnen...

oder kommt man dann irgendwie aufs gleiche ergebniss hinterher...!?
HAL 9000 Auf diesen Beitrag antworten »

Sag mal: Hast du die Einträge in der invertierten Matrix auf vier Stellen nach dem Komma gerundet bzw. abgeschnitten? Was unscheinbar klingt, hat verheerende numerische Auswirkungen auf das Endergebnis, welches tatsächlich etwa



lautet.
Neo_81 Auf diesen Beitrag antworten »

die hat mein taschenrechner bei der inversen so ausgespuckt...
hab die dann händisch in excel übertragen mit tatsächlich genau 4 nachkommastellen...

war wohl nicht so klug das mit dem taschenrechner zu machen :/
HAL 9000 Auf diesen Beitrag antworten »

Ohne jetzt eine Numerikvorlesung zu halten:

Du musst dir nur mal vorstellen, was für einMatrixelement bei der Multiplikation mit dem Wert für einen Unterschied bewirken...
Kasen75 Auf diesen Beitrag antworten »

@Hal_9000

Du hättest dein Alternativvorschlag vielleicht besser am Anfang oder am Schluss machen sollen. Meine Idee war, erstmal in Analogie zur Einfachregression die multiple Regresssion zu entwickeln. Wir waren ja auch fast fertig.
Die Bildung einer Inversen ist bei diesen Daten auch nicht gerade einfach.

Mit freundlichen Grüßen.
Neo_81 Auf diesen Beitrag antworten »

wenn jetzt die frage lauten würde:

Welcher IQ ist bei einem Schüler mit Gedächtnisleistung 11 und Deutsch 3 zu erwarten?

dann müsste die rechnung wie folgt aussehen, oder...!?
HAL 9000 Auf diesen Beitrag antworten »

Tut mir leid, dass du das so siehst, aber:

Ich habe gar keinen Alternativvorschlag gemacht, es ist inhaltlich derselbe. Nur weil man es mit Matrizen schreibt, steckt keine andere Mathematik dahinter.

Nun hätte ich, was die konkrete Rechnung betrifft, den Nutzer warten lassen können. Aber ich hatte nicht geahnt, dass dir soviel an der konkreten Rechnung liegt, wo doch die Hauptarbeit getan war. In Zukunft halte ich mich also raus, da ich dich nun als derart eifersüchtig kennengelernt habe. Augenzwinkern


Noch eine numerische Anmerkung:

Kein Wunder, dass das ganze so empfindlich ist, die Matrix hat eine Kondition von über 10000.
Kasen75 Auf diesen Beitrag antworten »

@Hal_9000

mir ging es nicht um die Berechnung. Aber Neo_81 hatte ja die Formel für die Einfachregression gepostet.

Zitat:
Nur weil man es mit Matrizen schreibt, steckt keine andere Mathematik dahinter.


Trotzdem hättest du warten können. Außerdem ist die Berechnung anders.

Zitat:
In Zukunft halte ich mich also raus, da ich dich nun als derart eifersüchtig kennengelernt habe.


Darum geht es nun wirklich nicht. Jetzt übertreib mal nicht.

Da wir angeblich schon fertig waren, bin ich jetzt raus.
Viel Spaß noch. Wink
HAL 9000 Auf diesen Beitrag antworten »

Zitat:
Original von Kasen75
Außerdem ist die Berechnung anders.

Was ist anders? Es ist dasselbe Gleichungssystem, und die Idee, das mit der Inversen zu lösen, kam gewiss nicht von mir, sondern von Neo_81. Und ich bin keiner, der passende Ideen von Fragestellern abwürgt, wenn sie einigermaßen passen.
Neo_81 Auf diesen Beitrag antworten »

wollte hier keinen streit vom zaun brechen - deshalb danke an euch beide smile

die aufgabe ist gelöst und das ist die hauptsache...hab einiges gelernt bei der sache...!!!

schätze mal, dass ich bestimmt noch einige weitere fragen haben werde und würde mich auf weitere unterstützung freuen...!!!

lg, Neo_81
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »