52

Informatik (Subject) / DataMining (Lesson)

This lesson was created by marvin1504.

Learn lesson

This lesson is not released for learning.

back  |  next 1 / 2

• What is data mining? Data Mining ist der Prozess, um aus einer großen Menge von Daten sinnvolles Wissen zu erlangen. Es benutzt direkt die Daten um daraus ein Modell zu kreieren. Bottom-Up and Top-DownDM ist ein iterativer, interaktiver Prozess (man findet viele "richtige" und "falsche" Hypothesen, bevor man wirklich sinnvolles Wissen erlang).
• Why Data Mining? Es gibt sehr viele "Datenfluten" (Banken, Soziale Netwerke, etc) die gespeichert werden. Gewinnung von Wissen.
• What kind of data to mine? Jegliche Daten, aus denen wir Wissen ziehen können.Z.B. Google-Request, Satelitendaten, etc.
• What is Big Data? Bezeichnet Datenmengen die zu groß sind, um sie mit manuellen Methoden der Datenverarbeitung auszuwerten.
• Why Data Mine now? Bereits jetzt zuviele Daten die nicht analysiert sind. Es wird immer mehr für die zukünftliche Analyse gespeichert, was aber so nie geschehen kann.
• Data Mining as a simpliefied Process (Graphic) Grafik: State the problem(Collect the data)Preprocess the dataEstimate the modelInterpret the model -> Conclusions
• What are some characteristics of raw data? - Fehlende Daten- Redundante Daten- Falsche Date- Falsche Datenformatierung
• Why Data Preprocessing? Wegen der "characteristics of raw data" - fehlerhaft, - redundant, - nicht komplett
• What are some preprocessing techniques? - Skalierung und Normalisierung- Verschlüsseln- Unvollständige Daten entfernen
• List primary tasks of Data Mining. 1. Klassifizieren- Findung von Klassen- Einteilen von Items in diese 2. Clustern- Finden von Gruppen/Kategorien/Cluster mit ähnlichen Eigenschaften 3. Regression 4. Abhängigkeitsmodellierung- Findung eines Modells, welche wichtige Abhängigkeiten beschreibt. 5. Warnehmung von Veränderungen 6. Zusammenfassen
• Advertisement
• What are the Challenges for Data Mining? Technisch- riesige Datenmengen (Zetta-bytes)- komplex, multi-media, unstrukturierte Daten- Integration mit Fachwissen und menschlicher Kompetenz Business- Gute Anwendungsbereiche finden Gesellschaftlich- Datenschutz und Sicherheitsfragen
• Define Data, Information and Knowledge. Daten:- Sachliche Informationen (Statistik)- Basis für Rechnungen Information:- Vermittlung von Wissen (Infos geben)- Gewonnen aus Untersuchung/Studium Wissen:- Echte Erahrung (Beobachtung)- Etwas gelerntes, was im Kopf bleibt.
• What is implicit and explicit knowledge? Implizit:- schwierig zu kommunizieren (schwierig zu formulieren)- liegt im eigenen Kopf- oft in Aktionen verkörpert Explizit:- kann kommuniziert werden- kann auf verschiedene Arten formuliert werden- kann in Medien aufbewahrt werden (Bücher, Dokus, etc)- oft körperloses Wissen
• Why is Knowledge in Organizations important? - wichtig für den wirtschaftlichen Erfolg 
• What is the definition of a knowledge-based system? - Systeme die Wissen zur Problemlösung nutzenBeispiel:- Öffentliche Verkehrsinformationssysteme (Zeitplan und beste Route finden)
• Define Knowledge Discovery: Generalization - Verallgemeinern und zusammenfassen 
• Define Knowledge Discovery: Association and Correlation Analysis - Häufige Muster (Welche Dinge werden oft zusammen gekauft?- Assoziation > Korrelation vs. Kausalität (Beer -> Chips [0.5%, 75%] (support, confidence)
• What is the median of this data [1, 2, 3, 5] 2.5
• Define all data types with examples. Nominal (Kategorien, keine direkte Ordnung)- Haarfarbe (schwarz, braun, ...)- Anzahl an Kinder im Haus Binary- Symmetrisch Binär (beides gleichwichtig) = Geschlecht- Asymmetrisch Binär (nicht gleichwichtig) = Medizinischer Test (Krebs positiv) Ordinal (Werte mit natürlicher Ordnung)- Größe (Klein, Mittel, Groß)- Noten (1-6)
• What is a pie chart? Kuchendiagramm
• What is a bar chart? Balkendiagramm
• What is a histogram? Balkendiagramm mit "Ordnung" auf der X-Achse
• What is a scatterplot? Streudiagramm - alle Werte in ein Diagramm als Punkte dargestellt.
• Define Correlation and Causality! Korellation ist nur ein Hinweis auf die Kausalität (Echte Abhängigkeit)Anzahl an Krankenhäuser und Autodiebstählen sind korreliert.Beide sind allerdings kausal mit der Population verbunden.
• Tell the x² (chi-square) test formel. x² = Summe ( Real - Erwartung ) ²                             Erwartung
• x² (chi-square) test. Which purpose? Wir können mit dem x² Test die stochastische Unabhängigkeit zwischen X und Y überprüfen. Zusatz: Verteilungstest, Homogenitätstest
• x² (chi-square) test. What is a null hypothesis? Um den Unabhängigkeitstest durchzuführen, stellen wir die Nullhypothese auf, dass X und Y unabhängig sind. Alternativhypothese: Das Gegenteil Zusatz Nullhypothese: Als Nullhypothese wird meist das Gegenteil der Annahme genommen, die man beweisen möchte.
• x² (chi-square) test. Where used in the lecture? In der Analyse der Korrelation der nominalen Werte.
• What is PCA? Principal Component Analysis - Hauptkomponentenanalyse Verfahren der multivariaten Statistik.- umfangreiche Datensätze strukturieren, zu vereinfachen und zu veranschaulichenWie?Indem eine Vielzahl statistischer Variablen durch eine geringere Zahl möglichst aussagekräftiger Linearkombinationen (die „Hauptkomponenten“) genähert wird.Beispiel:Kaufverhalten von Menschen. Faktoren wie sozialer Status, Alter, Familienstand
• What is dimensionality reduction? Die Dimensionen skalierenFormel:v' =       (v−OldMin)(OldMax−OldMin) × (NewMax−NewMin)       + NewMin
• Advertisement
• What is the confusion matrix? Mithilfe der Wahrheitsmatrix können wir entscheiden, ob ein Klassifikator gut oder schlecht ist.Beispiel:Medizinischer Laborttest, ob jemand an X erkrankt ist.Ein Test wird durchgeführt und am Ende mit dem Ergebnis verglichen.True = Ja, er ist an X erkrankt!Es gibt:A- True Positive (Patient ist krank, Test war richtig)B- False Negative (Patient ist krank, Test war negativ)C- False Positive (Patient ist gesund, Test war negativ)D- True Negative (Patient ist gesund, Test war richtig) Accuracy: Summe der Diagonalen / alleError : 1-Accuracy True Positive Rate: A/(A+C)False Positive Rate: B/(B+D)Recall/Sensitivity: A/(A+C) (Verhältnis Krankheit und Test ja / Krankheit ja)Precision: A/(A+B) (Verhältnis Krankheit und Test ja / Test ja)F-score: 2 P R / (P + R) (Harmonische Mittel der Prezision und Recall)
• What are Association rules? Assoziationsregeln zeigen die Korrelation zwischen mehreren Elementen.Ziel ist es, z.B. durch den Apriori-Algorithmus, alle Korrelationen zu finden.Beispiel1. {Milch, Brot} ⇒ Eier2. {Milch, Brot] ⇒ Cola      ist nicht dasselbe wie:3. {Milch, Brot} ⇒ {Eier, Cola}     aber aus Nr. 3 folgt:4. {Milch, Brot, Eier} ⇒ Cola5. {Milch, Brot, Cola} ⇒ EierWenn {Milch, Brot, Cola} häufig vorkommt, so kommt auch z.B. {Milch, Brot} häufig vor.
• write down pseudocode apriori algorithm Pseudocode Apriori:Ck : Candidate itemset of size kLk : Frequent itemset of size kL1 = {frequent items};for (k = 1; Lk !=∅; k++) do begin          Ck+1 = candidates generated from Lk;          for each transaction t in database do                    increment the count of all candidates in Ck+1                    that are contained in t;          Lk+1 = candidates in Ck+1 with min_support          endreturn ∪k Lk;
• What is the meaning of Q1 / Q2? Q1 ist der Median von der ersten Hälfte des Median (25 % vor und 75% danach)Q3 von der zweiten Hälfte.
• trainings-, validation- and testdata Mit den Trainingsdaten baut man das System auf. (beste Parameter finden)Mit den Validationdaten überprüft man das Ergebnis und kann somit die erneuten Trainingsdaten verändern um andere Ergebnisse zu erzielen. Die Testdaten sind die Daten, die wir letztendlich mit dem System testen wollen. Diese haben aber nichts mit dem Aufbau des Systems zu tun. 
• UNDONE Perceptron Foliensatz 6!MLP"XNOR-Problem" [Negiertes XOR] mit einem MLP lösen und Entwurf begründen (Gewichtemussten nicht berechnet werden). Dazu dann noch "Lineare Separierbarkeit" erklären.
• The k-means algorithm Pseudocode:Initialisierung:     • Setze k auf einen Wert (Overfitting zu viel, Underfitting zu wenig)     • k Cluster auf zufällige Positionen verteilen Lernen: Wiederholen..     • Für jeden Datenpunkt xi        berechne die Distanz zu jedem Cluster und ordne diese zu     • Für jedes Cluster-Zentrum       Bewege die Position auf den Mean der Datenpunkte Solange: sich die Zuordnungen nicht mehr verändern.Schwächen:- k muss selbst gewählt werden.- empfindlich auf Ungenauigkeiten und Ausreißern- terminiert mit einem lokalen Optimum (gewünscht ist global)
• Complex Problems: Travelling Salesman Beispiel: Starte eine Tour mit selben Anfang- und Endziel, ohne ein Zwischenstopp doppelt zu besuchen (Städte z.B.) und mit minimaler Distanz.
• Describe and name some examples to genetic Algorithms. - Trial-and-Error für die Problemlösung- Standard für das evolutionäre Computing- Population von Individuen mit Reproduktion und Mutation- "Survival of the fittest" (Darwin)Beispiele: In der Wirtschaft (Optimierung vom Akku-Verbrauch, Wiederverwendbarkeit von Produkten, Motorenoptimierung)Forschung (Sequenzanalyse)The Travelling Salesman
• Genotyp vs. Phenotype Genotyp gibt genaue Rückschlüsse auf die genetischen Eigenschaften eines Objekts.Phänotyp gibt Rückschlüsse auf die äußerlichen Eigenschaften eines Objekts.
• Genetic Algorithms Sequence Grafik + Ablauf:1. Initialisierung          Die erste Generations von Lösungskandidaten wird (meist zufällig) erzeugt.2. Evaluation          Jedem Lösungskandidaten der Generation wird entsprechend seiner Güte ein Wert der           Fitnessfunktion zugewiesen3. Schleife bis ein Abbruchkriterium erfüllt ist:          1. Selektion (Parent Selection): Auswahl von Individuen (nach Fitness) für die                                                                             Rekombination (auch schwache, um lokale Optima zu                                                                 reduzieren)          2. Rekombination (Crossover): Kombination (der guten Eigenschaften) der                                                                                   ausgewählten Individuen          3. Mutation: Zufällige Veränderung der Nachfahren          4. Evaluation: siehe Haupt-Schritt 2!          5. Selektion: Bestimmung einer neuen Generation
• Genetic Algorithms - Parent Selection (Mechanisms) Fitness Proportional Selection:Die Individuelle Fitness im Verhältnis zur Fitness der BevölkerungRanking Selection:Der Fitness nach sortieren und nach einer Formel die Eltern aussuchen.
• Genetic Algorithms - Crossover Kreuzung mit einer Wahrscheinlichkeit zwischen 50% und 100%, da die Eltern sonst einfach kopiert werden. n-Point Crossover:- split parents at n points and recombine segments- jeder Punkt hat nur die Gene eines ElternpaaresBeispiel:0010|0111           0010|10001111|1000     ->   1111 |0111 Uniform Crossover:- Swap genes based on vector of random values          - Process generates first child          - Second child: inverse processDie Genen sind so besser unter den Kindern verteilt, als ein größeres Set an Genen auf ein Kind.p=0.5, x = (0.3, 0.7, 0.4, 0.2, 0.6, 0.9, 0.1, 0.8)0010 | 0111           0110 | 10101111 | 1000      ->  1011 | 0101
• Genetic Algorithms - Termination Condition Wenn das Optimum erreicht ist, wird der Algorithmus beendet.Problem: Genetic Algorithms sind stochastisch, weshalb unser Optimum eventuell nie erreicht wird.Alternativen:- Nach einer gewissen Zeit beenden- Nach einer gewissen Anzahl an Schleifendurchläufen- Wenn keine Fitness-Verbesserungen in den letzten t Generationen stattgefunden hat- Die Vielfalt der Bevölkerung zu klein
• Fuzzy Rules? - Wenn wir eine Tatsache kennen (Premise), dann können wir eine anderen Tatsache ableiten (Conclusion)- Die Bausteine für die fuzzy IF-THEN rules sind Fuzzy Sets- Ein Fuzzy System besteht aus mehreren fuzzy IF-THEN Regelnn
• Part-of-Speech (POS) Tagging Zuordnung von Wörtern und Satzzeichen eines Textes zu Wortarten. Hierzu wird sowohl die Definition des Wortes als auch der Kontext (z. B. angrenzende Adjektive oder Nomen) berücksichtigt.Problem: Phrasal Verb (go on, find out) Früher manuell, heute Computerlinguistik.Überwachtes Lernen (mit Tag-Set)Unüberwachtes Lernen (mit stochastik ohne Tag-Set)
• Überwachtes und unüberwachtes Lernen Überwacht (Klassifikation) mit Trainingsdaten, Daten werden in Trainings-Sets einsortiert:MLPRegressionsanalyse Unüberwacht (Clustering) ohne Trainingsdaten (Klassennamen nicht bekannt)Self-organizing mapsGenerative ModelsWarenkorbanalyse
• Linear seperable Linear seperable bedeutet, dass ein Problem linear aufgeteilt werden kann. Vorstellbar wird diesanhand eines Koordinatensystems, auf dem alle korrekten Lösungen durch eine lineare Funktionvon den fehlerhaften Lösungen separiert werden können
• Parsing Grammatikalisch Top-Down einen Satz aufbauen.
• Parsing Parsing als EntwurfsmusterVon Sentence zum kompletten Satz.Vorteil:- Grammatik kann leicht geändert oder erweitert werdenNachteil:Für komplexe Grammatiken und sehr große Sätze ist das Interpretermuster ungeeignet, da die Klassenhierarchie zu groß wird und die Effizienz bei großen Syntaxbäumen leidet. 

back  |  next 1 / 2