31

Intelligente Systeme (Fach) / Entitätenerkennung (Lektion)

Diese Lektion wurde von Sogn erstellt.

Lektion lernen

zurück  |  weiter 1 / 1

• Welche Probleme treten bei der Informationsextraktion auf? Mehrdeutigkeit von Wörtern, auch Abkürzungen Anaphora, Pronomen und Rückbeziehungen Metonymie (Vertauschung, zB. der Saal applaudiert) Synekdoche (Oberbegriffe zB. Raubkatze für Tiger, Berlin für Regierung..) Lexikalisch , Schreibweisen in verschiedenen Accents Orthografisch, α-helix, alpha helix, alpha-helix Morphologisch, grammatikalisch wie Plural, Singular, Imperfekt.. Strukturell, Satzbau
• Was ist Part-of-speech-Tagging? Zuordnung von Wörtern und Satzzeichen eines Textes zu Wortarten unter Berücksichtigung der Definition des Wortes als auch dessen Kontext (z. B. angrenzende Adjektive oder Nomen). •NP proper noun, singular •MD modal verb •VB verb, base form •VBG verb, gerund •IN preposition •DT determiner
• In welche Schritte lässt sich Text preprocessing unterteilen? 1) Text aus PDF lesen 2) Satzgrenzen beachten , durch Punkt, Leerzeichen und Großbuchstaben. 3) Tokenisierung, erreicht durch Leerräume (Leertaste) oder Kommas 4) Stemming, gemeinsamen Wortstamm herleiten
• Welche Arten der Entitätenerkennung gibt es? Lexikon Reguläre Ausdrücke Klassifikator, darunter Fenster , HMM und Ränder der Entität
• Vor und Nachteile eines Lexikons? Vorteil: Schnell und einfach Nachteil: Keine Personennamen, Städte, Firmen etc. Mehrdeutigkeiten (zB. Herr Schreiner , Schreiner) Keine Varianten (New York, NY) Keine Abstraktion/Muster Meist nicht vollständig Größe im Gegensatz zu zB. regulären Ausdrücken
• Was ist und wie funktioniert der Boyer-Moore-Algorithmus? Der Algorithmus wird dazu genutzt, um in einem Text T einen bestimmten Teiltext (Muster M) zu finden. Das Muster wird am Anfang linksbündig unter den Text geschrieben und dann von rechts nach links Zeichen für Zeichen mit dem Text verglichen. Sobald ein Mismatch auftritt, berechnen zwei Heuristiken, wie weit das Suchmuster nach rechts verschoben werden kann.
• In welche Algorithmen lässt sich der Boyer Moore Algorithmus unterteilen? Bad-Character-Heuristik Stimmt beim Vergleich des Musters mit dem Text von rechts nach links ein Zeichen des Musters nicht mit dem Zeichen des Textes überein („Bad-Character“), wird im Muster nach dem letzten Vorkommen dieses Bad-Characters gesucht und das Muster so weit verschoben, bis beide Buchstaben übereinander liegen. Existiert dieser Bad-Character nicht im Muster, wird das Muster soweit verschoben, dass sein erstes Zeichen unter dem Nachfolger des Bad-Character liegt. Es kann vorkommen, dass die Bad-Character-Heuristik eine Verschiebung des Musters nach links vorschlägt. In diesem Fall wird um eine Position nach rechts geschoben. Good-Suffix-Heuristik Stimmt beim Vergleich des Musters mit dem Text von rechts nach links ein Suffix des Musters mit dem Text überein und tritt danach aber ein Mismatch auf, wird das Muster so weit nach rechts geschoben, bis ein Teilwort des Musters wieder auf das Suffix passt. Existiert das Suffix kein zweites Mal im Muster, wird das Muster um seine volle Länge nach rechts verschoben.
• Wann ist Boyer-Moore besonders gut? Bei langen Suchwörtern mit eher seltenen Buchstaben, da dann ggf. häufig eine ganz lange Wortlänge weitergeführt werden kann. Im schlechtesten Fall ist diese äquivalent zur naiven Suche.
• Welchen Nachteil haben Boyer-Moore, Radix und Trie in Bezug auf Kosten? Hoher preprocessing Aufwand, einmal durch die Erstellung der Bäume bei Radix und Trie und durch die Kodierung der Buchstaben bei BM
• Wie funktionieren Trie und Radix-Tree? Trie Für jeden Buchstaben einen Zweig bis zum EndeHat ein Wort den selben Anfang nutz es ebenso diesen Zweig Radix Wie Trie, aber benutzt stattdessen ganze Wortsilben, welche häufig vorkommen, bzw. ab wann sich zwei Worte unterscheiden.
• Anzeige
• Vergleich der Geschwindigkeit und Speicher von Radix und Trie? Trie ist ein wenig schneller, da schließlich nur ein einzelner Buchstabe erstellt werden muss, kostet aber im Gegensatz zu Radix Unmengen an Speicher , vA. bei langen Wörtern.
• Was ist die Levensthein Distanz? Minimale Anzahl von Einfüge-, Lösch- und Ersetz-Operationen, um die erste Zeichenkette in die zweite umzuwandeln. Bei gleichen Buchstabe +0 (Beim ersten Mal), bei unterschiedlichen +1 Man nimmt das kleinste des Dreiecks.
• Pseudocode Levensthein? string backtrace(i, j): if i>0 && D[i-1,j] + 1 == D[i,j] return backtrace(i-1, j) + " Löschung " if j>0 && D[i,j-1] + 1 == D[i,j] return backtrace(i, j-1) + " Einfügung " if i>0 && j>0 && D[i-1, j-1] + 1 == D[i,j] return backtrace(i-1, j-1) + " Ersetzung " if i>0 && j>0 && D[i-1, j-1] == D[i,j] return backtrace(i-1, j-1) + " Gleichheit "return ""
• Wie funktioniert der Dice-Koeffizient? Man sucht sich ein t(a), was Zb. die Anzahl der Bi-oder Trigramme eines Wortes sein kann.Nun teilt man die Anzahl der gemeinsamen Trigrame*2 durch die Multiplikation der Anzahl von Trigrammen in Wort A mit der Anzahl von Trigrammen in Wort B.
• Vor und Nachteile regulärer Ausdrücke? Pro: Kompakt Con: Pflege (Komplizierte Muster sind schwer zu debuggen) Mehrdeutigkeit
• Wie ist das Hidden Markov Modell aufgebaut? Menge an Zuständen S Σ Alphabet Übergangswahrscheinlichkeiten A (Matrix) Emissionenwahrscheinlichktein B (Matrix) Anfangszustandwahrscheinlichkeiten Π (In welchem Zustand fangen wir an)
• Wie bekommt man die Emissionwahrscheinlichkeiten für Kategorie X? Man schaut in allen Sätzen wie oft Kategorie X vorkommt. Zb. 8 mal. Dann teilt man X in seine Typen auf. Beispiel wäre X = Stadt und Typen: Paris, London..Man gibt an wieviel von Stadt jtz London ist, zB. 1/8 usw.Achtung: Unterschiedliche Schreibweisen gelten als unterschiedliche Typen Zb. D. und Denver seperat betrachten Schreibweisebeispiel: P(Pe→"Paris")=18
• Wie zeichnet man das HMM-Diagramm? Sätze ansehen und die einzelnen Wörter zuteilen. (zB. in Personen(Pe), Städte (St)..), steht in der Aufgabenstellung. Erstes Wort jedes Satzes betrachten und schauen, wie oft dieser Typ von ingesamt allen Sätzen vorkommt. Zb. Jeder zweite Satz der 5 Sätze fängt mit dem Typ Stadt an. Also S->St 2/5 Dann geht man von jedem erzeugten Knoten die Typen durch und schaut sich an, wie oft ein bestimmter Typ Nachfolger ist. StSt kommt 3 mal vor -> St 3/Anzahl Sts Ingesamt auf sich selbst
• Um die Qualität der Entitätenerkennung zu quantifizieren wurden verschiedene Maße eingeführt. Welche sind das? Wie werden Sie berechnet? Recall Rec = TP/ (TP+FN), wobei Precision Prec = TP/ (TP+FP) F-measure (F-Maß) F1 = (2⋅Prec⋅Rec)/(Prec+Rec) TP = Richtig erkannt FP = Falsch erkannt FN = Nicht erkannt
• Wie lautet die Komplexität des Vitali Algorithmus? Exponentiell, aber findet dennoch die optimalste Zustandsfolge
• Wie erreicht man dynamische Programmierung beim Viterbi-Algorithmus? Durch Zwischenspeichern von Teilergebnissen, welche wiederholt benötigt werden. Dadurch ergeben sich lineare Kosten.
• Vor und Nachteile von Randklassifikator? Pro: Mehrdeutigkeit kann durch lokalen Kontext teilweise aufgelöst werden Con: Trainingsdaten? Welche Merkmale?
• Vor und Nachteile von Tokenfenster? Pro: Mehrdeutigkeit kann durch lokalen Kontext teilweise aufgelöst werden Con: Trainingsdaten? Welche Merkmale?
• Wie funktioniert der Randklassifikator? Klassifiziere Leerstellen zwischen Token   Anfang und Ende von Entitäten   Satzgrenzen Repräsentiere jede Leerstelle als Vektor von Merkmalen    nächstes Token beginnt mit Großbuchstaben    vorheriges ist Zahl    vorheriges ist “in”
• Was macht das HMM? Repräsentiert Wahrscheinlichkeiten im Text
• Wozu dient der Viterbi Alogrithmus? Berechnet anhand von Übergangswahrscheinlichkeiten, sowie der Emissionswahrscheinlichkeiten die wahrscheinlichste Entitätenzuteilung. Also, welche Zustandsreihenfolge am wahrscheinlichsten ist.
• Wie kann man erreichen, dass die Entitätserkennung jeweils das Maximum der beiden Maße Recall und Precision erreicht? Ist es möglich, dieses Ziel für beide Maße zur gleichen Zeit zu erreichen? FP sind die Anzahl der Entitäten, die falsch klassifiziert wurden. FN sind die Anzahl der Entitäten, die nicht klassifiziert wurden. Um Rec=1 zu erreichen, klassifiziere einfach alle Wörter als gesuchte Entität. Um Prec=1 zu erreichen, klassifiziere einfach nichts. (Es geht uns hier lediglich darum, dass FP=0.) Um beides gleich Eins zu haben, baue einen perfekten Klassifizierer. Das ist meist nicht möglich. Es gibt einen Tradeoff zwischen Recall und Precision.
• Wie ist die Vorgehensweise bei einem Lexikon? Entitäten werden in einem Lexikon gespeichert und einfach überprüft.
• Wie ist die Vorgehensweise bei regulären Ausdrücken? Es wird ein Muster erstellt, welches anhand der Struktur der Wörter/Sätze Entitäten erkennen soll.
• Wie ist die Vorgehensweise von HMM? Modell, welches anhand von Trainingsdaten die Übergangswahrscheinlichkeiten der Entitäten, sowie dessen Emissionswahrscheinlichkeiten lernt und somit angeben kann, wie wahrscheinlich es ist , dass einer Entität a eine Klasse (A) zugeordnet wird.
• Anzeige
• Welche Möglichkeiten zur Überprüfung gibt es in einem Lexikon? Direkte Suche (Naives Alignment) Bayer Moore Trie Radix Levensthein Dice Koeffizient (aber , nur Betrachtung von Mengen, keine Reihenfolge)

zurück  |  weiter 1 / 1