Gauß-Verteilung

21.06.2021, 09:25	miimi3	Auf diesen Beitrag antworten »
Gauß-Verteilung Meine Frage: Hallo zusammen, ich verstehe nicht, wie man auf die Gleichung (2.21) kommt. Mit $\begin{eqnarray} l(w\|d_i,x_i) \end{eqnarray}$ meint man die bedingte Dichte $\begin{eqnarray} p_{D_i \| W,X_i}(d_i\|x_i,w) \end{eqnarray}$ . Meine Ideen: Meine Idee: Wird hier vllt. W und X_i nicht als Zufallsvariable modelliert?
21.06.2021, 13:17	HAL 9000	Auf diesen Beitrag antworten »
Das ist doch einfach (2.16) eíngesetzt in (2.14). Ausführlicher: $\begin{eqnarray} p_{D_i\mid W,X_i}\left(d_i \mid x_i,w\right) \end{eqnarray}$ gibt ja den Dichtewert der Zufallsgröße $\begin{eqnarray} D_i \end{eqnarray}$ an der Stelle $\begin{eqnarray} d_i \end{eqnarray}$ an unter der Bedingung $\begin{eqnarray} W=w \end{eqnarray}$ und $\begin{eqnarray} X_i=x_i \end{eqnarray}$ . Unter dieser Bedingung ist somit in $\begin{eqnarray} d_i = \varepsilon_i +w^Tx_i \end{eqnarray}$ der Wert $\begin{eqnarray} w^Tx_i \end{eqnarray}$ eine konstante Verschiebung, aus dem vorausgesetzten zentriert normalverteilten $\begin{eqnarray} E_i\sim\mathcal{N}\left(0,\sigma^2\right) \end{eqnarray}$ wird somit die bedingte Verteilung $\begin{eqnarray} D_i\sim\left(w^Tx_i,\sigma^2\right) \end{eqnarray}$ . D.h., die Verteilung von $\begin{eqnarray} W \end{eqnarray}$ selbst interessiert an dieser Stelle überhaupt nicht, da im Kontext dieser Bedingung von einem festen $\begin{eqnarray} W=w \end{eqnarray}$ ausgegangen wird.
21.06.2021, 14:10	miimi3	Auf diesen Beitrag antworten »
Danke für die Antwort. Ein paar Fragen: - Wie kommst du auf die Verteilung von $\begin{eqnarray} D_i \end{eqnarray}$ ? - Weiter oben wurde der Abschnitt zunächst eingeleitet mit der linearen Regression $\begin{eqnarray} d=w^{T}x+\epsilon \end{eqnarray}$ (was nichts anderes ist als ein einschichtiges neuronales Netzwerk mit der Identität als Aktivierungsfunktion) , wobei $\begin{eqnarray} d \in \mathbb{R} ,\epsilon \in \mathbb{R} bzw. x \in \mathbb{R}^{n} \end{eqnarray}$ Realisierungen von den Zufallsvariablen $\begin{eqnarray} D,E \end{eqnarray}$ bzw. dem Zufallsvektor $\begin{eqnarray} X \end{eqnarray}$ ist. Außerdem wird angenommen, dass die Verteilung von $\begin{eqnarray} D,X \end{eqnarray}$ den Erwartungswert 0 hat. In der Gleichung $\begin{eqnarray} d_i=w^{T}x_i+\epsilon_i \end{eqnarray}$ schauen wir uns N Experimente aus der obigen Gleichung an, dann sind doch $\begin{eqnarray} d_i ,x_i, \epsilon_i \end{eqnarray}$ Realisierungen von den Zufallsvariablen $\begin{eqnarray} D_i ,X_i, E_i \end{eqnarray}$ . Also müsste doch der Erwartungswert von allen $\begin{eqnarray} D_i , X_i \end{eqnarray}$ gleich null sein oder? (wegen der Annahme $\begin{eqnarray} E(D)=E(X)=0 \end{eqnarray}$ ) - In der Annahme 2 steht: "The environment, responsible for generation of the training sample t, is Gaussian distributed." Bedeutet das, dass alle Zufallsvariablen $\begin{eqnarray} D_i ,X_i, E_i \end{eqnarray}$ normalverteilt sind? Oder wie würdest du das interpretieren?
22.06.2021, 16:59	miimi3	Auf diesen Beitrag antworten »
Eine weitere Frage die mir einfiel: Ist die Zufallsvarriable $\begin{eqnarray} X_{i} \end{eqnarray}$ ein stochastischer Prozess?

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »