59
Machine-Learning (Fach) / Kapitel 7-11 (Lektion)
- Welches Ziel wird beim Training eines Autoencoders verfolgt? Die Abweichung (Sum-Squared-Error oder binäre Kreuzentropie) zwischen Input und Output soll minimiert werden.
- Inwiefern kann ein Autoencoder als einschichtiges MLP verstanden werden? Zwischen den Dense-Layern eines Autoencoders befindet sich nur ein einziges Hidden-Layer, welches eine komprimierte Version des Inputs berechnet.
- Inwiefern kann ein Autoencoder als Kompressionsverfahren verstanden werden? Ein Autoencoder versucht möglichst alles an relevanten Informationen mit weniger Daten/ verbrauchtem Speicherplatz auszugeben. Auch ein Unterschied an Dimension des Inputs im Vergleich zu Output ist möglich ( d > d')
- Wie trainiert man einen Sparse Autoencoder? Man minimiert gleichzeitig die Fehlerfunktion, sowie die Konvergenz während nur wenige Neuronen gleichzeitig aktiviert sind.
- Was versteht man unter Self-Taught-Learning bei Autoencodern? Wenn ein Autoencoder mit sehr vielen ungelabelten Daten trainiert wird und der darauffolgende Classifier mit wenig gelabelten Daten trainiert wird. Dadurch spart man extrem viele gelabelte Daten.
- Wie hängen Stacked Autoencoders und Self-Taught Learning zusammen? Stacked Autoencoder betreiben Self-Taught-Learning über mehrere Ebenen, wodurch sie eine immer komplexere Fähigkeit der Erkennung von Relevantem entwickeln.
- Was ist der wesentliche Vorteil eines Sparse Autoencoders? Die Neuronen verlassen sich weniger aufeinander und ihnen können einzelne Merkmale zugeordnet werden. Dies führt dazu, dass man ein besser verständliches und generalisiertes Netz entwickelt.
- Was ist der wesentliche Vorteil eines Denoising-Autoencoders? Ein Denoising-Autoencoder ist robuster, da die Trainigsdaten verrauscht werden und er dennoch lernt aus diesen etwas korrektes auszugeben.
- Wie wird ein Stacked Autoencoder trainiert? Er wird schrittweise immer komplexer mit ungelableten Daten trainiert und hat am Ende eine Classifier-Schicht, die nur noch mit wenigen gelabelten Daten trainiert wird.
Anzeige