Mensch-Maschine-Interaktion (Fach) / KI & Lernende Syteme (Lektion)

Diese Lektion wurde von feared erstellt.

Lektion lernen

zurück  |  weiter 1 / 2

• Aufgabe der Transformationen: z-transformation / Log- transformation Bei nicht normalverteilten Streudiagramm Normalverteilung wiederherstellen (um anschließend statistische Verfahren zu nutzen) z-Transformation: Verteilung wird entlang der x-Achse verschoben und dabei gedehnt oder gestreckt (--> Normalverteilung) z = 0 entspricht Mittelwert = 0; SD= 0
• Lernverfahren: Bagging, Fusion: Early Fusion, Late Fusion Bagging (bootstrap aggregating) = Machine Learning Algorithmus. Ziel: Erhöhung der Stabilität und Genauigkeit.Benutzt in statistischen Klassifikationsverfahren und Regressionen (decision trees) Fusion = Informationen zusammenfassen von zwei oder mehr Modalitäten, um eine Vorhersage zu machen (erhöht Konsistenz, Genauigkeit, qualität der Infos) Early Fusion = Daten werden zuerst zusammengesetzt, und daraus ein Konzept trainiert Late Fusion = Daten werden zunächst einzelnd trainiert und anschließend fusioniert, um ein finalen Score zu erreichen
• Modalitäten Modalität = Die Art und Weise in der etwas passiert oder erfahren wird.
• Bestimmtheitsmaß, Problem des R, R², und Lösung Beschreibt, wie gut eine Regression, die Werte "erklärt"; wie gut Messwerte zu einem Modell passen Auf Basis der Residuen (Quadrate der beobachteten Werte und der vorhergesagten Werte) Problem: R "belohnt" zusätzlich hinzugefügte (unabhängig von dem zus. Erklärungsgrad) Variablen, durch einen höheren R-Wert R² soll diese zus. Variablen "bestrafen": Problem ist, dass in der Gleichung keine Gewichtung der Variablen vorkommt. Lösung wäre mit Trainings-Test-Daten-Split!
• Cross Validation Holdout-Method K-Fold-Cross Validation Mean Absolute Error statt Accuracy UAR, WAR Cross Validation = Daten werden entfernt aus einem Dataset, um das Model auf "neuen" Daten zu testen Holdout Method = Daten werden in Test und Trainingsdaten geteilt K-fold cross validation = Datenset wird in K Subset unterteilt. Dabei wird alternierend jedes Subset zum Testset (k-mal) und zum Trainingsset (k-1 mal) MAE= zu jeder Klassifikation eine Genauigkeit (Prognosewahrscheinlichkeit) und diese durch die Anzahl der Klassen geteilt wird. Recall = tp / (tp + fn) tp = true positive, fn = false negative --> Genauigkeit, mit der der Klassifikator die true positive erkennt (0-1). UAR = ungewichtete Mittelwert der Recalls WAR = gewichtete Mittelwert der Recalls
• Automatisierungsstufen (3) Assisstenzsysteme = Helfen dem Menschen, weit verbreitet, nutzen maschinelles Lernen, werden aktiviert; treffen Vorhersagen, durch maschinelles Lernen kontextsensitiv und Umgang mit Menschen wird besser Automatisierte Systeme = z.B. Roboter, können den Handlungsablauf nicht verändern und nicht prognostizieren Autonomes System = ohne menschliche Hilfe ein vorgegebenes Ziel erreichen und an die Situation angepasst handeln (Putzroboter), nehmen Umwelt über Sensoren wahr und agieren über Aktoren, jedes autonomes System ist ein lernendes System (nicht jedes lernende System ist ein autonomes System, da manche aktiv vom Menschen benutzt werden, z.B. Prothesen)
• Big Data Black Box White Box Grey Box Big Data = riesige Datenmengen Black Box = Daten Input --> ?? -->Daten Output ; es ist unklar, wie das ML funktioniert und welche Features genutzt werden; ganz nicht-parametrische Herangehensweise, nur statisticher Art White Box = benutzte Features sind verständlich und ML ist transparent; parametrische Modelle; analytische und physikalische Beschreibungen, Modelle sind aufwändig Grey Box = kombiniert qualit. Vorwissen mit quantit. Daten, im Gegensatz zu White und Black kann hier das Vorwissen genutzt werden und zur bestmöglichen Bestimmung des Modells des Prozesses genutzt werden; Kombination aus White und Black
• Data Science Support Vector Machine Data Science = Extraktion von Wissen aus Daten SVM = gehört zum machinellem Lernen; nutzt Mustererkennung, um Objekte in Klassen zu unterteilen. Unterteilt Klassen in einer Hyperebene (3-D-Raum) mit Vektoren mit breiten Rand (soll frei gehalten werden und scharf trennen), um später bei den schwierigen Testobjekten auch die richtige Klasse zuzuordnen
• Ende zu Ende lernen Schwache vs. starke KI MatLab GAIA X Cloud Ende zu Ende lernen = alle möglichen Zwischenschritte von der Eingabe bis zur Ausgabe werden unter einem Modell zusammengefasst Schwache KI = alle heutigen Systeme (Text- & Spracherkennung); nutzen bereits bekannte Methoden, um Probleme zu lösen; variiert die Methoden nicht anhand des Problems, erfüllt nur klar definierte Aufgaben, kein tieferes Verständnis fürs Problemlösen Starke KI = Entscheidungsfähigkeit auch bei unsicheren Entscheidung, logisches Denken, Kommunikation möglich, Planung und Lernfähigkeit, Kombination aller Fähigkeiten MatLab = kombiniert Matrizen um numerischen (mathematische) Probleme zu lösen und zu veranschaulichen GAIA X Cloud = europäische Cloud, unterstützt von BND als Gegensatz zu anderen Clouds (beteiligte SAP; Telekom etc.)
• Ineroperabilität ELSI Agilität Skalierbarkeit Ineroperabilität = Fähigkeit zwei oder mehr Systeme miteinander arbeiten zu lassen; kompatibel (Einhaltung gemeinsamer Standards) ELSI = Ethical:ethische Aspekte; Legal; Social; Implications Agilität = Geschwindigkeit, Anpassungsfähigkeit, (Kundenzentriertheit und Haltung) Skalierbarkeit = Fähigkeit eines Systems zur Größenveränderung: Wachstum
• Anzeige
• Blockchain Dezentralität Bitcoin Blockchain = Jeder Block enthält einen Zeitstempel, Hash und Transaktionsdaten. Kryptographisches Verfahren. Jeder User hat zeitgleich Informationen über alle Transaktionen, dadurch gilt das Verfahren als nicht-manipulierbar (z.B.: zwei Stöcke werden bei einer Transaktion eingeritzt, wird einer manipuliert, kann man anhand des anderen den Fehler entdecken) Dezentralität = In Systemen meint, dass Daten nicht zentral gespeichert werden (z.B. wie bei Geld: EZB); sondern alle Beteiligten speichern die Transaktionen Bitcoin = Dezentral agierende Kryptowährung. Transaktionen sind gleichzeitig bei allen Usern verzeichnet (Blockchain) und verhindert Manipulation; Kryptographische Aufgaben (steigend im Schwierigkeitsgrad) lösen entspricht dem Drucken von Geld; Wallet wird vom User verwaltet, passende Schlüssel für die Transaktion wird über eine Phrase (Seed) hergeleitet
• Chat Bot; Deep Learning; Erklärbare KI Chat Bots = nutzen maschinelles Lernen, um personalisierte Antworten zu geben; CS/Benutzerschnittstellen; kommunizieren in natürlicher Sprache mit dem Menschen Deep Learning = mehrere Schichten (input & Output + dazwischen); künstliche Neuronen, verbunden mit der davorliegenden Schicht und darauf reagieren; Anzahl der Schichten von Neuronen, Verbindungen zwischen den Neuronen und Anzahl der Neuronen pro Schicht Erklärbare KI = z.B. Black Box Modelle / künstl. Neuronale Netze sind nicht nachvollziehbar und die e. KI sucht nach Möglichkeiten Logik & Aufgaben nachvollziehbarer zu machen
• Internet of Things; KNN; IoT= wachsenden Vernetzung von Geräten, Fahrzeugen etc. miniatur Computer (Wearables) sollen durch Kommunikation untereinander und mit dem Menschen diesem helfen (ohne aufzufallen oder abzulenken) Korpus = Sammlung von Daten (idR Rohdaten und Annotationen); durch KI können Informationen abgeleitet werden KNN = Schichten von Knoten(künstliche Neuronen) sind über Verbindungen miteinander verbunden (mit numerischer Gewichtung, die während des Trainings angepasst wird), Je mehr Schichten, desto abstraktere Repräsentationen der Eingabe (sehr hohe Anzahl = Deep Learning, können sehr komplexe Muster abbilden und erkennen)
• Multimodales Lernen MML = Eingabe wird von unterschiedl. Quellen bezogen (z.B. Audio & Video) und im Zusammenhang gebracht, um die Aufgabe besser bewältigen zu können
• Smart Data Smart Data = Endergebnis, nachdem z.B. Big Data gesammelt, geordnet und analysiert wurden. die strukturierte und vorab analysierten Daten erleichtern die Weiterverarbeitung der Daten (z.B. Google Suche / Kundenkennzahlen im Ecommerce)
• Sprachassisstenzsysteme Sprachasssisstenzsysteme = mittels Spracherkennung und -analyse die Anweisungen annehmen und Schnittstelle bilden, sowie etwas weitergebildete Intelligenter Persönlicher Asssisstent (IPA) können zus. Dialoge führen
• Turing-Test vom Mathematiker Alan Turing entwickelt. Zur Feststellung ob eine Maschine intelligent ist Mensch kommuniziert mit Maschine + Mensch seperat; kann er nicht sagen wer was ist, ist die Maschine intelligent
• Überwachtes Lernen Lernalgorithmus behält nach Trainings neben Rohdaten die erwarteten Ergebnisse und soll über Feedbackschleife selbst das Modell anpassen. Ziel: dem NN die Fähigkeit anzutrainieren selbst Verbindungen herzustellen
• Unüberwachtes Lernen Lernalgorithmus, Modell wird erzeugt, das Eingaben abstrakt beschreibt und Vorhersagen ermöglicht; erstellt selbst Klassifikatoren, nach denen die Eingabemuster eingeteilt werden. Ziel: im Datensatz interessante oder relevante Muster zu erkennen oder Daten kompakt zu repräsentieren
• Verstärkendes Lernen Lernendes System soll zunächst Entscheidungen treffen und als Ausgangspunkt dienen. Durch Algorithmus wird die Erfolgsprognose der Aktionen besser --> anschließend erhält das System ein pos. oder neg. Feedback  Ziel: möglichst viel pos. Feedback erhalten Deep Reinforcement Learning werden kNN als Modelle verwendet
• Edge Computing Gegensatz zum Cloud Computing; dezentrale Datenverarbeitung am Ran des Netzwerkes (Edge) z.B. Wearables - NICHT Smartphone Computer-Anwendungen, Daten , Dienste werden nicht in Rechenzentren verarbeitet sondern direkt am Endgerät (oder Fabrik); trotzdem Cloud Nutzung
• Cloud Computing IT Infrastruktur: beinhaltet Speicherplatz, Rechenleistung oder Anwendungssoftware als Dienstleistung IT-Infrastrukturen werden über Rechennetz zur Verfügung gestellt ohne dass diese auf dem lokalen Rechner installiert sein müssen
• Software as a Service (SaaS) Bieten bestimmte Software, die auf ihrer Infrastruktur läuft. Nutzung von bestimmten Software-Sammlungen und Anwendungsprogrammen Software on Demand ; Bsp.:Office Paket; 
• Platform as a Service (PaaS) für Entwickler, bietet Entwicklungsumgebung an; Clouds bieten Zugang zu Programmierungs- oder Laufzeitumgebungen mit flexiblen Daten und Rechenkapazitäten
• Infrastructure as a Service (IaaS) Clouds bieten Zugang zu virtualisierten Computerhardware-Ressourcen (Rechner, Netze, Speicher)
• Digitale Souveränität beschreibt Gesellschaft als Ganzes, individuell, Angebot (produzieren), Transportweg (mit Sicherheit transportiert), rechtlich (Datenschutz) aber auch: IT-Komponenten selbst zu entwickeln, zu produzieren und IT Dienstleistungen anzubieten Nicht bloße Erweiterung von Medienkompetenz, sondern auch die Kompetenz, mit relevanten Sicherheitsaspekten und Risiken auseinanderzusetzen
• Sharing Economy Sammelbegriff für Unternehmen ganz / teilw. ungenutzte Ressourcen zu teilen; kein Besitz Beispiele: Car2GO, Tier, AirBnb, UBER
• Plattform Ökonomie transaction platforms, digital matchmakers = Amazon, Airbnb, Uber, Baidu, innovation platform = microsoft mit unabhängigen entwicklern einige Kernkompetenzen mit wenig varianz und einige nebenkomponenten mit hoher varianz
• AWS Amazon Web Services Server, Speicher, Netzwerk (kann Inhalte bereitstellen; von AWS), Datenbank, Entwicklung, Verzeichnis, Verwaltung, Sonstiges Cloud Computing Anbieter; global verteilte Dienste, hochverfügbare Rechenzentren, erstes Jahr kostenlos
• Tencent; Alibaba Chinesisches unternehmen, Shzenhzen Sofortnachrichtendienste, Soziale Netzwerke, Onlinemedien (Webportale), Internet-Mehrwertdienste (stationär und im Mobilfunk), interaktive Unterhaltung (insbesondere Mehrspieler-Onlinespiele aka MMOG, MMORPG), Netzhandel (elektronischer Handel) und Onlinewerbung Alibaba = Gründer Jack Ma, alibaba Seite, Express, payment
• Anzeige
• Daten Migration Daten transfer = zwischen storage-systemen, Daten-Formaten oder Computer-Systemen; idR. wenn man Komponenten aufrüsten möchte; Probleme: Datenkorruption, Systemperformance, Datenverlust, Zeitspanne (der Downtime)
• data marketplace Marktplatz zum Verkauf von Daten; verschiedene Arten von Daten aus versch. Quellen;  business intelligence, advertising, demographics, personal information, research and market data. z.B: Voice Samples, X-Ray etc.
• API (Application Programming Interface) Programmierschnittstelle; vor allem Entwicklern durch die Schnittstelle den bereitgestellten Content in das eigenen Programm einzubinden, auch zum Austausch zwischen versch. Websiten, Programmen & Content-Anbietern maschinelle Äuquivalent zum User-Interface Bsp: Youtube-API / Windows / Linux (--> gibt Anfrage an Hardware weiter)
• Machine Learning; 2 Arten von Lernen (a,b)+2. klassischer Algorithmus: Beziehungs zw. Variablen sind fest definiert und ändern sich nicht. ML = Maschinen lernen und Variablen sind nicht fest; Algorithmen sind nicht fest definiert; 2. Arten von Lernen: 1. Unüberwachtes Lernen: - System weiß nicht, was es erkennen soll -->Muster werden erkannt und in Klassen geteilt (ohne zu Wissen, um welche Klassen es sich handelt --> gut bei unbekannten Daten) a) Clustering: k-Means-Clustering: einfaches einteilen der Klassen ohne "Vorwissen" der Kategorien b) Reduzierung der Dimensionalität: - System erkennt Muster (der im Vorfeld definierten Dimensionen) und reduziert diese --> Performancesteigerung bei der Verarbeitung und Analyse 2. Überwachtes Lernen: Grundwahrheit ist bekannt (mit Trainingsdaten; Eingangsparamter) aus Trainingsdaten werden mithilfe des Algorithmuses Modelle gebildet, danach werden unbekannte Daten getestet
• Deep Learning Unterteilt in Input und Output und dazwischen Hidden Layers (eine beliebige Anzahl an Zwischenebenen, die die Ausgabe der vorliegenden Ebene weiterverarbeitet und weitergibt) Fähigkeit von Computern aus der Erfahrung zu lernen; Welt in Hierarchie von Konzepten zu verstehen Deep Learning als Teilmenge des Maschine Learning
• Unsupervised Learning by Reinforcement Monte Carlo Algorithmus: Agent besitzt eine Nutzenfunktion, bestimmt Zustand bzw. eine Aktion in einem Zustand bei großen Zustandsräumen eignet sich die Fourierreihe / NN Vorgehensweise: Umwelt besitzt eine Menge von S Zuständen, Agent kann aus einer Menge von Aktionen wählen, wodurch er einen Folgezustand und eine Belohnung erhält Ziel: maximierung der Gesamtbelohnung
• Metadata; Open Data Metadata = wird benutzt, um Daten zu definieren, kontextualisieren oder zu charakterisieren Open Data = strukturierte Database, die offen verfügbar ist und benutzt durch eine non-monetary Art (mit Lizenz)
• Pseudomonymisation; Affective Computing; Ambient Intelligence Ähnlich wie Anonymisierung = zur Erschwerung der Herkunft der pers. Daten; im Gegensatz zu A. soll hier nicht komplett anonymisiert werden, sondern nur ein Pseudonym kreiert, dass Datenschutz gewährleistet (Bezüge zu versch. Datensätzen bleibt erhalten) Affective Computing = Betrifft das komplette Feld von Computer Science, Psychologie, Cognitive Science; beschreibt die Studie und Entwicklung von Systemen und Geräten zur Erkennung, Interpretation, Prozessierung und Simulation von Affekten (Emotionen) Ambient Intelligence = Bezieht sich auf die Umgebung der Geräte im menschl. Kontext; Ziel: Vernetzung der Geräte, zur Unterstützung des Menschen im Alltag: intelligente Haus
• Augmented Reality; Cluster Analysis; Computer Vision AR:Erweiterte Realität = computergestützte Erweiterung der Realitätswahrnehmung; Ergänzung von Bildern / Videos mit Einblendungen oder Überlagerungen (z.B. Fussball Entfernung Freistoß) Cluster Analyse = Gruppieren eine bestimmte Anzahl von Objekten in der Art, dass die gruppierten Elemente ähnlicher sind, als die einer anderen Gruppe Gegensatz zur Klassifikation: bestimmung innerhalb einem Set von neuen Klassen; erfordert das hinzufügen oder weglassen von Attributen; Gemeinsamkeiten werden meist erst durch nachträgliche Analyse bestimmt Computer Vision = interdisziplinäres Feld; betrifft das Verstehen von Bildern oder Videos (Objekterkennung, optische Inspektion)
• Convolutional Neural Network CNN = Input ->Convolutions -> Pooling Layer --> fully connected layer (output) Convolutional = meist Bildererkennung (Sprache); Faltung zur Vereinfachung des bspw. Bildes, um es besser analysieren zu können; Neuron reagiert nur auf Reize in der lokalen Umgebung des vorherigen Layers;  Relu = ensuring non linearity; Convolutional layer: looking at a image through window;  pooling layer: downsampling; improves processing, pool feature map (2 Verfahren) unterschied CNN und RNN: feed forward network, feeds data back into itself (better for sequential data; over time)
• Data Fusion; Data Integration; Data Warehouse; Expert System DF = fusionieren mehrerer Daten Quellen zu sein, um die Konsistenz, Genauigkeit und Nützlichkeit der Daten zu verbessern Data Integration = Kombination von Daten aus mehreren Quellen und verfügbar machen (wird mehr benötigt bei BIG DATA + Teilen von Daten) Data Warehouse = Speichern historische Daten und aktuelle Daten von einer oder mehrerer Quellen Expert System = Computer System, dass Entscheidungen eines Experten simulieren soll; Hilfe bei komplexen Problemen mit wenn-dann-Regeln
• Feature Extraction; Feature Selection; Fuzzy Logic Feature Extraction = ML; Extraktion von gemessenen Daten und erstellt Werte (Features), zur Nutzung / Informationsgewinnung; erleichtert das Lernen und die Verallgemeinerungsschritte Feature Selection = Variablen Selektion; Auswahl eines Subsets von relevanten Informationen (Features), zur Modellkonstruktion Fuzzy Logic = Computer hat Problem unscharfe Themen (menschl. Denken kann dies sehr gut) abzubilden; "harte" Entscheidungen zwischen 0-1 werden mit den Werten dazwischen erweitert, damit es auch "ein wenig", "etwas", usw. gibt Fuzzy = schwammig, unscharf
• Genetic Algorithm GA = gehört zu evolutionary algorithms; sehr hoch qualitative Lösungen für Optimierung & Such Probleme; angelehnt an biolog. Vorbild (Operatoren: Mutation, Crossover, Selection);benötigt: genetische Verbreitung des Merkmals im Bereich, Fitness-Funktion; nach Abschluss werden das Fitness-Level der Individuen gemessen und bewertet, dann durch die Operatoren verändert und eine neue Generation wird gestartet
• IEEE Long short-term memory (LSTM) Institute of Electrical and Electronics Engineers (IEEE) RNN = recurrent neural network; deep learning; kann große Datenmengen verarbeiten; Fehlerrückführung: Auslöser der Abweichungen (für falsche Bestimmung der Mustererkennung) werden steuernde Faktoren (Gewichte) in den Schichten des Netztes --> Zuordnungsfehler werden kleiner; Gewichte werden im Gradientenverfahren neu justiert Besteht aus: Input Gate; Merk- & Vergesstor (Forget Gate) und Ausgangstor (Output Gate)
• Predictive Analysis PA = Analyse zur Vorhersage der Eintrittswahrscheinlichkeit von bestimmten Aktionen Verwendung bei BIG Data oder DATA Mining; Principal Compound Analysis (PCA) = Dimensionsreduktion auf die Hauptkomponenten ; automatische Klassifizierung / Merkmalserkennung; 
• random forest besteht aus mehreren fusionierten Entscheidungsbaum verfahren; Random Forest = viele kleine Bäume werden zusammengesetzt; PRO: evaluiert, trainiert sehr schnell (besser als SVM); Zusammenhänge zwischen Klassen können erkannt werden, evaluiert zwischen Klassen; sehr effizient für große Datenmengen
• Recurrent neutral Network RNN = Im Gegensatz zu feedforward NN werden die Informationen nicht nach vorne weitergegeben (Schichten), sondern (teilw.) nach hinten oder seitlich Bsp: LSTM
• Sensor fusion SF = Kombination aus mehrerer Informationen von versch. Quellen oder sensorischen Daten; zur Erhöhung der Qualität der Informationen (weniger Unsicherheiten)
• TensorFlow; Watson; GPU TF = Anwendung im Bereich maschinellen Lernens, Spracherkennung Watson = IBM KI; nutzt mehere Algorithmen gleichzeitig, um potentielle Lösungen zu finden; diese werden mittels Wissensdatenbank überprüft GPU= Grafikprozessor; kann tausende Aufgaben gleichzeitig bearbeiten; CPU nur einige (mit Kernen); GPU hat weniger Leistung, kann aber dafür als parallel computing eingesetzt werden
• Hyperparameter; Label; Natural Language Processing Hyperparameter = parameter. HP sind Werte, die das Lernen des Modells beeinflussen (manuell, von außerhalb) Label = A part of training data which identifies the desired output for that particular piece of data. NLP = die Fähigkeit kommunikative Aufgaben zu übernehmen; Erkennen, was gesagt wurde, die beabsichtigte Meinung und die entsprechende Antwort

zurück  |  weiter 1 / 2