|
Autor |
Abstiegsverfahren: zulässige und effiziente Schrittweiten |
|
nelly_520
Neu  Dabei seit: 13.02.2022 Mitteilungen: 1
 | Themenstart: 2022-02-14
|
Hallo zusammen,
unser Skript in Numerischer Optimierung lässt ein paar Stellen offen, die ich für die Prüfung gerne besser verstanden haben will. Vielleicht könnt ihr mir helfen. Es geht um Allgemeine Abstiegsverfahren, also eine Iterationsvorschrift $x_{k+1} = x_k + \sigma_k d_k$ mit Abstiegsrichtung $d_k$ und Schrittweite $\sigma$.
Eine Schrittweise \(\sigma_k\) ist zulässig, falls $f(x_k + \sigma_k d_k) \leq f(x_k)$ und aus $f(x_k + \sigma_k d_k) - f(x_k) \rightarrow 0$ folgt, dass $\frac{\nabla f(x_k)^T d_k}{|| d_k ||}\rightarrow 0$
Eine Schrittweise heißt effizient, falls $\eta > 0$ exististiert mit $f(x_k + \sigma_k d_k) \leq f(x_k) - \eta \left( \frac{\nabla f (x_k)^T d_k}{||d_k ||} \right)^2$
Nun zu meinen Fragen:
1) Im Skript steht, dass exakte Liniensuche (also die Wahl $\sigma_k = \text{argmin}_{\sigma > 0} f(x_k + \sigma d_k)$) i.d.R. teuer ist und im Allgemeinen nichtmal effiziente Schrittweiten produziert. Es wird aber kein Wort darüber verloren, ob exakte Schrittweiten immer zulässig sind. Gilt das, und wenn ja, was ist der Ansatz, dies zu zeigen?
2) In unserem Konvergenzresultat zeigen wir: Aus zulässigen Schrittweiten (und zulässigen Suchrichtungen) folgt Konvergenz gegen einen Häufungspunkt, der auch stationär ist. Hier ist nicht mehr die Rede von effizienten Schrittweiten. Wofür braucht man diese dann überhaupt? Wir haben keine Aussage, die effiziente Schrittweiten benötigt, außer dass aus effizient auch zulässig folgt. Kann ich mir das so vorstellen, dass effiziente Schrittweiten "besser/schneller" konvergieren?
3) Wir haben in einer Randbemerkung stehen, dass die Konvergenzgeschwindigkeit von den Eigenwerten der Hessematrix abhängt (ohne Erklärung, einfach als Fakt). Was haben denn jetzt Eigenwerte damit zu tun, und kann man sich das irgendwie geometrisch vorstellen? Das muss ja anschaulich irgendeine Bedeutung haben.
Ich hoffe, ich habe alles an Definitionen mitgeliefert, was meine Fragen betrifft.
Dankeschön =)
Nelly
|
Profil
|
nelly_520 wird per Mail über neue Antworten informiert. |
|
All logos and trademarks in this site are property of their respective owner. The comments are property of their posters, all the rest © 2001-2023 by Matroids Matheplanet
This web site was originally made with PHP-Nuke, a former web portal system written in PHP that seems no longer to be maintained nor supported. PHP-Nuke is Free Software released under the GNU/GPL license.
Ich distanziere mich von rechtswidrigen oder anstößigen Inhalten, die sich trotz aufmerksamer Prüfung hinter hier verwendeten Links verbergen mögen. Lesen Sie die
Nutzungsbedingungen,
die Distanzierung,
die Datenschutzerklärung und das Impressum.
[Seitenanfang]
|