Wie überträgt man ein nicht-lineares Least-Squares-Problem auf ein Quasi-Newton-Verfahren?

Neue Frage »

Der_Apfel Auf diesen Beitrag antworten »
Wie überträgt man ein nicht-lineares Least-Squares-Problem auf ein Quasi-Newton-Verfahren?
Ich versuche gerade zu verstehen, wie man ein nicht-lineares Least-Squares-Problem auf ein Quasi-Newton-Verfahren (d.h. hier wird die Hesse-Matrix nur approximiert aber nicht direkt berechnet) übertragen kann.

Ich möchte kurz meine Gedanken skizzieren:

Angenommen, es sollen folgende Datenpunkte :



an die Funktion gefittet werden, dann gibt es ja diese Residuen:

.

D.h. insgesamt soll die Summe der Quadrate der Residuen minimiert werden:



Das wäre dann sozusagen meine Zielfunktion.

Für Quasi-Newton-Verfahren benötigt man auch noch einen Gradienten.

Bei Least-Square wird die Jacobi-Matrix so definiert (angewendet auf das Beispiel):



Dann ist der Gradient definiert als

Diesen Gradient verwende ich dann wiederum im Quasi-Newton-Verfahren.

Als letzes benötige ich dann noch einen Startwert, zum Beispiel.

Macht das so Sinn?

Das konkrete Problem das ich habe ist, dass meine Implementierung mir einen Wert ausspuckt für den die Abbruchbedingung zwar gilt, der aber völlig neben den Datenpunkten liegt: .

Wenn ich eine größere Schrittweite nehme ändert sich auch der Wert, z.B. für die Schrittweite :
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »