|
Autor |
Oberschranke für positiv definite Matrix |
|
mbInfoStudent
Ehemals Aktiv  Dabei seit: 22.08.2015 Mitteilungen: 54
 | Themenstart: 2020-09-06
|
In meinem Buch kann ich eine Ungleichung in einem Beweis nicht nachvollziehen:
Seie $f$ eine Funktion, wobei $\nabla^2f(x)$ positiv definit ist, mit $\lambda_{min}(\nabla^2 f(x))>\mu$ (wobei $\lambda_{min}=$kleinster Eigenwert). Nun ist die folgende Ungleichung gegeben:
$$\|\nabla^2f(x)^{-1}\nabla f(x)\| \leq \frac{1}{\mu}\|\nabla f(x)\|$$
Ich weiß, dass $\|\nabla^2f(x)^{-1}$ auch pos. definit ist und somit gilt:
$$\|\nabla f(x)^T\nabla^2f(x)^{-1}\nabla f(x)\| > 0, \forall x\neq 0$$
Ich denke (bin mir nicht aber sicher), dass auch gilt:
$$\|\nabla^2f(x)^{-1}\nabla f(x)\| \geq \lambda_{min}(\nabla^2 f(x))\nabla f(x) > \mu \nabla f(x)$$.
Ich komme aber nicht auf:
$$\|\nabla^2f(x)^{-1}\nabla f(x)\| \leq \frac{1}{\mu}\|\nabla f(x)\|$$
Kann mir jemand kurz auf die Sprunge helfen?
|
Profil
|
Nuramon
Senior  Dabei seit: 23.01.2008 Mitteilungen: 3738
 | Beitrag No.1, eingetragen 2020-09-06
|
\(\begingroup\)\(\newcommand{\End}{\operatorname{End}}
\newcommand{\id}{\operatorname{id}}
\newcommand{\GL}{\operatorname{GL}}
\newcommand{\im}{\operatorname{im}}
\newcommand{\sgn}{\operatorname{sgn}}
\newcommand{\d}{{\rm d}}
\newcommand{\rg}{\operatorname{rg}}
\newcommand{\spur}{\operatorname{spur}}
\newcommand{\Hom}{\operatorname{Hom}}
\newcommand{\tr}{\operatorname{tr}}\)
Hallo,
sei $A$ eine $m\times n$-Matrix und $\lambda$ der größte Eigenwert von $A^TA$. Dann gilt
$$ \|Av\|\leq \sqrt\lambda \|v\|$$
für alle Vektoren $v\in \IR^n$ (vorausgesetzt $\|\|$ ist die euklidische Norm).
Wenn du das auf $A:=\nabla^2 f(x)^{-1}$ anwendest, kannst du
$$\|\nabla^2f(x)^{-1}\nabla f(x)\| \leq \frac{1}{\mu}\|\nabla f(x)\|$$
folgern.\(\endgroup\)
|
Profil
|
mbInfoStudent
Ehemals Aktiv  Dabei seit: 22.08.2015 Mitteilungen: 54
 | Beitrag No.2, vom Themenstarter, eingetragen 2020-09-06
|
Hallo @Nuramon, ich leider nicht wie ich von $\lambda_{max\{A^TA\}}$ auf $\lambda_{min{A}}$ schließen kann.
Denn seie $\lambda' := \lambda_{max\{\nabla^2f(x)^{-T}\nabla^2f(x)^{-1}\}}$ und $\lambda_{min}$ der kleinste Eigenwert von $\nabla^2f(x)^{-1}$ (aber nicht von , dann folgt nach dem von Ihnen genannten Satz:
$$\|\nabla^2f(x)^{-1}\nabla f(x)\|\leq \sqrt{\lambda'}\nabla \|f(x)\|$$
Aber ich sehe nicht wie ich von $\lambda'$, was der größte Eigenwert von $A^TA$ ist, auf $\lambda_{min}$ was der kleinste Eigenwert von $A$ ist, schließen kann.
|
Profil
|
Nuramon
Senior  Dabei seit: 23.01.2008 Mitteilungen: 3738
 | Beitrag No.3, eingetragen 2020-09-06
|
\(\begingroup\)\(\newcommand{\End}{\operatorname{End}}
\newcommand{\id}{\operatorname{id}}
\newcommand{\GL}{\operatorname{GL}}
\newcommand{\im}{\operatorname{im}}
\newcommand{\sgn}{\operatorname{sgn}}
\newcommand{\d}{{\rm d}}
\newcommand{\rg}{\operatorname{rg}}
\newcommand{\spur}{\operatorname{spur}}
\newcommand{\Hom}{\operatorname{Hom}}
\newcommand{\tr}{\operatorname{tr}}\)
Symmetrische Matrizen $A$ (also insbesondere auch positiv definite Matrizen) sind orthogonal diagonalisierbar. Kannst du daraus einen Zusammenhang zwischen den Eigenwerten von $A$ und von $A^TA$ herleiten?
Außerdem solltest du dir überlegen, wie die Eigenwerte von $A$ und $A^{-1}$ zusammenhängen.\(\endgroup\)
|
Profil
|
mbInfoStudent
Ehemals Aktiv  Dabei seit: 22.08.2015 Mitteilungen: 54
 | Beitrag No.4, vom Themenstarter, eingetragen 2020-09-06
|
Danke für die Tipps, aber ich hänge immer noch fest.
Was ich weiß:
Ist $\lambda$ Eigenwert von $\nabla^2f(x)$, dann ist $\frac{1}{\lambda}$ der entsprechende Eigenwert für denselben Eigenvektor von $\nabla^2f(x)^{-1}$. Somit folgt, dass wenn $\mu < \lambda_{min}$ von $\nabla^2f(x)$, dann ist $\frac{1}{\mu} > \lambda_{max}$ von $\nabla^2f(x)^{-1}$.
Da symmetrische Matrix orthogonal diagonalisierbar ist, gilt, dass die Eigenwerte von $A$, die Diagonaleinträge von $D$ sind, mit $D=S^TAS$, wobei $S$ eine orthogonale Matrix ist.
Ich kann aber zwei Zusammenhänge noch nicht erkennen:
1. Zusammenhang zwischen $A$ und $A^TA$.
2. Laut dem Satz was du erwähnt hast, gilt für $\forall v \in \mathbb{R}^n$ :$\|Av\|\leq \sqrt{\lambda_{max}}\|v\|$, womit gilt $\|A^{-1}v\|\leq \sqrt{\frac{1}{\lambda_{min}}}\|v\|$. Aber daraus folgt ja nicht $\|A^{-1}v\|\leq {\frac{1}{\lambda_{min}}}\|v\| $?
|
Profil
|
Nuramon
Senior  Dabei seit: 23.01.2008 Mitteilungen: 3738
 | Beitrag No.5, eingetragen 2020-09-06
|
\(\begingroup\)\(\newcommand{\End}{\operatorname{End}}
\newcommand{\id}{\operatorname{id}}
\newcommand{\GL}{\operatorname{GL}}
\newcommand{\im}{\operatorname{im}}
\newcommand{\sgn}{\operatorname{sgn}}
\newcommand{\d}{{\rm d}}
\newcommand{\rg}{\operatorname{rg}}
\newcommand{\spur}{\operatorname{spur}}
\newcommand{\Hom}{\operatorname{Hom}}
\newcommand{\tr}{\operatorname{tr}}\)
\quoteon
Ist $\lambda$ Eigenwert von $\nabla^2f(x)$, dann ist $\frac{1}{\lambda}$ der entsprechende Eigenwert für denselben Eigenvektor von $\nabla^2f(x)^{-1}$. Somit folgt, dass wenn $\mu < \lambda_{min}$ von $\nabla^2f(x)$, dann ist $\frac{1}{\mu} > \lambda_{max}$ von $\nabla^2f(x)^{-1}$.
\quoteoff
Korrekt. Du könntest vielleicht noch betonen, dass du verwendet hast, dass die Eigenwerte positiv sind (warum gilt das?).
\quoteon(2020-09-06 14:45 - mbInfoStudent in Beitrag No. 4)
Da symmetrische Matrix orthogonal diagonalisierbar ist, gilt, dass die Eigenwerte von $A$, die Diagonaleinträge von $D$ sind, mit $D=S^TAS$, wobei $S$ eine orthogonale Matrix ist.
\quoteoff
Ich weiß nicht, ob du es nur schlecht formuliert hast, oder ob hier ein Verständnisproblem vorliegt. Daher zur Sicherheit die richtige Definition:
$A$ ist orthogonal diagonalisierbar, wenn es eine Diagonalmatrix $D$ und eine Orthogonalmatrix $S$ gibt mit $D = S^TAS$.
\quoteon
Ich kann aber zwei Zusammenhänge noch nicht erkennen:
1. Zusammenhang zwischen $A$ und $A^TA$.
\quoteoff
Versuche mit Hilfe von $D= S^TAS$ die Matrix $A^TA$ zu diagonalisieren.
\quoteon
2. Laut dem Satz was du erwähnt hast, gilt für $\forall v \in \mathbb{R}^n$ :$\|Av\|\leq \sqrt{\lambda_{max}}\|v\|$, womit gilt $\|A^{-1}v\|\leq \sqrt{\frac{1}{\lambda_{min}}}\|v\|$. Aber daraus folgt ja nicht $\|A^{-1}v\|\leq {\frac{1}{\lambda_{min}}}\|v\| $?
\quoteoff
Wenn du 1. verstanden hast, dann sollte das klarer werden. Das $\lambda_{min}$ bzw. $\lambda_{max}$ bezieht sich hier ja auf die Eigenwerte von $A^TA$, nicht auf die von $A$.\(\endgroup\)
|
Profil
|
mbInfoStudent hat die Antworten auf ihre/seine Frage gesehen. | mbInfoStudent wird per Mail über neue Antworten informiert. |
|
All logos and trademarks in this site are property of their respective owner. The comments are property of their posters, all the rest © 2001-2023 by Matroids Matheplanet
This web site was originally made with PHP-Nuke, a former web portal system written in PHP that seems no longer to be maintained nor supported. PHP-Nuke is Free Software released under the GNU/GPL license.
Ich distanziere mich von rechtswidrigen oder anstößigen Inhalten, die sich trotz aufmerksamer Prüfung hinter hier verwendeten Links verbergen mögen. Lesen Sie die
Nutzungsbedingungen,
die Distanzierung,
die Datenschutzerklärung und das Impressum.
[Seitenanfang]
|