Automatische Differentation - Reverse Mode

Neue Frage »

Telles Auf diesen Beitrag antworten »
Automatische Differentation - Reverse Mode
Hallo!

Ich hätte eine Frage zum Reverse Moder der automatischen Differentation. Genauer gesagt, geht es mir darum, allgemein zu bestimmen, wieviele Operation pro Knoten im Adjoint-Trace durchgeführt werden.

Angenommen mein Primal-Trace hat n Knoten, also insgesamt n Operationen, da pro Knoten genau eine Operation durchgeführt wird. Kann man allgemein exakt beschreiben, wieviele Operationen für den Rückwärtslauf benötigt werden? Ich komme bis jetzt immer nur auf eine obere Schranke, aber nicht auf eine allgemeine Definition.

Meine Überlegung wäre bis jetzt gewesen, dass ich pro Knoten im Rückwärtslauf im schlechtesten Fall 3 Operationen durchführen muss. Das würde dann bedeuten, dass ich insgesamt maximal 3n Operationen habe.
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »