Formel für Schrittweite beim Gradientenverfahren mit quadratischen Funktionalen

28.01.2012, 16:20	Rumbose	Auf diesen Beitrag antworten »
Formel für Schrittweite beim Gradientenverfahren mit quadratischen Funktionalen Hi, könnte mir jemand das zweite Gleichheitszeichen erklären, bzw. wie man darauf kommt? $\begin{eqnarray} \alpha^{(j)} = \min_{t \in \mathbb{R}} J(x^{(j)} + t d^{(j)}) = \frac{{d^{(j)}}^T d^{(j)}}{{d^{(j)}}^T A d^{(j)}} \end{eqnarray}$ (Quelle: Wikipedia Artikel "Gradientenverfahren") Gruß & Dank, Rumbose
28.01.2012, 18:28	Cel	Auf diesen Beitrag antworten »
Hallo! Definieren wir mal $\begin{eqnarray} \varphi(t) := J(x^{(j)}+ t d^{(j)}) \end{eqnarray}$ . Die Funktion willst du minimieren, man kann zeigen, dass $\begin{eqnarray} \varphi \end{eqnarray}$ streng konvex ist (wenn ich mich nicht irre). Jedenfalls muss man lediglich $\begin{eqnarray} \varphi'(t) = 0 \end{eqnarray}$ setzen und das passende t berechnen. Erste Ableitung nach t = 0, das reicht schon.
29.01.2012, 09:43	Rumbose	Auf diesen Beitrag antworten »
Es ist doch $\begin{eqnarray} \varphi'(t) = d^{(j)} \Delta J(x^{(j)} + td^{(j)})=d^{(j)}(A(x^{(j)} + td^{(j)})-b) \end{eqnarray}$ $\begin{eqnarray} \varphi'(t) = 0 \Leftrightarrow d^{(j)}=0 \vee A(x^{(j)} + td^{(j)})-b=0 \end{eqnarray}$ Ersteres kann man wohl vernachlässigen, weil dann sind wir fertig. Sei also $\begin{eqnarray} d^{(j)}\neq0 \end{eqnarray}$ betrachte $\begin{eqnarray} A(x^{(j)} + td^{(j)})-b=0 \end{eqnarray}$ $\begin{eqnarray} Atd^{(j)}=d^{(j)} \end{eqnarray}$ $\begin{eqnarray} t=\dfrac{d^{(j)}}{Ad^{(j)}} \end{eqnarray}$ Wo kommen jetzt die transponierten $\begin{eqnarray} d^{(j)} \end{eqnarray}$ her? Habe ich etwas übersehen?
29.01.2012, 14:32	Cel	Auf diesen Beitrag antworten »
Wie kommt da jetzt der Gradient rein? Ich nehme an, dass du dich dort bei dem Symbol vertan hast und deswegen da der Laplaceoperator steht ... Aber den brauchen wir nicht. Mach es ganz elementar, was ist denn $\begin{eqnarray} J(x^j + td^j) \end{eqnarray}$ (ich lasse die Klammern im Exponenten mal weg)? $\begin{eqnarray} J(x^j + t d^j) = \frac{1}{2}{(x^j + td^j)}^T A (x^j + td^j) - b^T (x^j + td^j) \end{eqnarray}$ Friemel das mal auseinander (zuerst A mit den beiden Vektoren hinten malnehmen, ausmultiplizieren ... Und dann schau noch mal drauf. Wir leiten nach t ab, $\begin{eqnarray} \varphi \end{eqnarray}$ ist eine Funktion $\begin{eqnarray} \varphi: \mathbb R \to \mathbb R \end{eqnarray}$ .

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »