Soft Margin SVM Nebenbedingung in Optimierungsproblem

07.09.2017, 16:51	Gast3141592	Auf diesen Beitrag antworten »
Meine Frage: Moin, ich bin neu hier und weiß von daher noch nicht ganz genau, wie ich mein Problem möglichst gut formuliere, also habt bitte etwas erbarmen mit mir. Ich beschäftige mich momentan mit Support Vector Machines. Dabei wird beim bestimmen des Klassifizierers eine Umformung vorgenommen die ich nicht ganz verstehe. Das ursprüngliche Problem was man hat ist folgendes: $\begin{eqnarray} \min\limits_{\beta,\beta_{0}} \\| \beta\\| \end{eqnarray}$ unter den Nebenbedingungen $\begin{eqnarray} y_{i}(x_{i}^{T}\beta+\beta_{0}\geq 1-\xi_{i}), \xi_{i}\geq 0, \sum\limits_{i=1}^{N}\xi_{i}\le constant \end{eqnarray}$ . Dieses soll äquivalent zu folgendem sein: $\begin{eqnarray} \min\limits_{\beta,\beta_{0}} \frac{1}{2}\\| \beta\\|^{2} + C\sum\limits_{i=1}^{N}\xi_{i} \end{eqnarray}$ unter den Nebenbedingungen $\begin{eqnarray} y_{i}(x_{i}^{T}\beta+\beta_{0}\geq 1-\xi_{i}), \xi_{i}\geq 0 \end{eqnarray}$ , die Bedingungen gelten dabei jeweils für alle i. Die $\begin{eqnarray} x_{i} \end{eqnarray}$ und $\begin{eqnarray} \beta \end{eqnarray}$ seien dabei in $\begin{eqnarray} \mathbb{R}^{p} , y_{i} \end{eqnarray}$ in ist in $\begin{eqnarray} \left\{ -1,1\right\} \end{eqnarray}$ und $\begin{eqnarray} \beta_{0} \end{eqnarray}$ in $\begin{eqnarray} \mathbb{R} \end{eqnarray}$ . Meine Ideen: Da beide Probleme konvex sind, ist mir klar warum die Äquivalenz für die Normen gilt, allerdings weiß ich nicht warum ich die Bedingung einfach in das Problem mit "reinziehen" kann. Habe das Ganze auch schon mit Lagrange-Multiplikatoren versucht zu erweitern, doch so wirklich bekomme ich das nicht gezeigt (Man muss dazu sagen, ich habe mich im Bereich Optimierung auch nicht weiter vertieft), dass die beiden Probleme gleiche Lösungen haben. Vielen Dank schon einmal vorab für eure Mühe. Willkommen im Matheboard! Ich hab die LaTeX-Tags ergänzt und die Korrektur übernommen. Den Gast-Beitrag hab ich gelöscht, damit es nicht so aussieht, als ob schon geantwortet wird. Viele Grüße Steffen

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »