http://www.kit.edu/ Grundlagen der Automatischen Spracherkennung, WS15/16, Vorlesung de Sun, 28 Feb 2016 11:51:00 +0200 Sun, 28 Feb 2016 11:58:00 +0200 Karlsruher Institut für Technologie (KIT) Grundlagen der Automatischen Spracherkennung, WS15/16, Vorlesung Die Vorlesung erläutert den Aufbau eines modernen Spracherkennungssystems. Der Aufbau wird dabei motiviert ausgehend von der Produktion menschlicher Sprache und ihrer Eigenschaften. Es werden alle Verarbeitungsschritte von der Signalverarbeitung über das Training geeigneter, statistischer Modelle, bis hin zur eigentlichen Erkennung ausführlich behandelt. Dabei stehen statistische Methoden, wie sie in aktuellen Spracherkennungssystemen verwendet werden, im Vordergrund. Somit wird der Stand der Technik in der automatischen Spracherkennung vermittelt. Ferner werden alternative Methoden vorgestellt, aus denen sich die aktuellen entwickelt haben und die zum Teil noch in spezialisierten Fällen in der Spracherkennung zum Einsatz kommen. Anhand von Beispielanwendungen und Beispielen aus aktuellen Projekten wird der Stand der Technik und die Leistungsfähigkeit moderner Systeme veranschaulicht. Zusätzlich zu den grundlegenden Techniken wird auch eine Einführung in die weiterführenden Techniken automatischer Spracherkennung geben, um so zu vermitteln, wie moderne, leistungsfähige Spracherkennungssysteme trainiert und angewendet werden können. Literaturhinweise: Xuedong Huang, Alex Acero, Hsiao-wuen Hon, Spoken Language Processing, Prentice Hall, NJ, USA, 2001 Fredrick Jelinek (editor), Statistical Methods for Speech Recognition, The MIT Press,1997, Cambridge, Massachusetts, London, England. KIT, Vorlesung, Informatik, Spracherkennung, Signalverarbeitung, Spracherkennungssystem, Speech, Recognition, Translator, Lecture no Karlsruher Institut für Technologie (KIT) itunesu@informatik.kit.edu no Dr. Sebastian Stüker 01: Vorlesung | 0:00:00 Starten 0:01:21 Organisatorisches 0:06:48 Literatur 0:19:10 Definition Automatische Spracherkennung 0:25:29 Sprache vs. Sprache 0:29:21 Anwendung von ASR 0:56:02 Lecture Translator 1:12:12 Vorteile von ASR 1:26:17 Nachteile von ASR http://dx.doi.org/10.5445/DIVA/2015-769 Tue, 17 Nov 2015 10:00:31 +0100 01:26:40 Dr. Sebastian Stüker 02: Vorlesung | 0:00:00 Starten 0:03:02 Nachteile von ASR 0:11:10 Taxonomie von Sprache 0:19:02 Taxonomie von Spracherkennungssystemen/-aufgaben 0:33:30 Ist Spracherkennung schwierig? 0:36:26 Warum ist ASR schwierig? 0:39:37 Variabilität auf Signalebene 0:52:10 Variabilität auf phonetischer Ebene 0:55:25 Mehrdeutigkeit auf linguistischer Ebene 0:59:33 Segmentierung 1:02:32 Sprache aus Sicht der Maschine 1:03:55 Spracherkennung als Klassifikation 1:05:18 Große Datenmenge, viele Klassen 1:07:27 Menschen können ASR 1:22:25 Ein Experiment 1:26:49 Gebiete, die relevant sind http://dx.doi.org/10.5445/DIVA/2015-770 Tue, 17 Nov 2015 10:05:13 +0100 01:29:03 Dr. Sebastian Stüker 03: Vorlesung | 0:00:00 Starten 0:00:59 Überblick: Sprachproduktion und Schall 0:01:12 Sprachproduktion 0:04:11 Artikulationsapparat 0:09:54 Vokaltrakt 0:11:34 Stimmhafte Sprache 0:17:14 Grundfrequenz/-ton 0:22:38 Animation des Vokaltrakts / Stroboskopaufnahme 0:25:41 Die Artikulatoren 0:28:21 Sprachlaute - Vokale und Konsonante 0:33:47 Vokale 0:44:10 Diphthonge 0:46:25 Konsonanten 0:50:05 Konsonantenbeispiel 0:52:38 Ort der Artikulation 0:53:14 Art der Artikulation 1:01:08 Internationale Phonetische Alphabete 1:04:00 IPA Vokale 1:05:00 Beispielkonfigurationen 1:06:38 IPA Konsonanten 1:08:49 Plosive 1:09:35 Nasale 1:11:25 Frikative 1:11:54 Kurioses 1:17:54 Phonem http://dx.doi.org/10.5445/DIVA/2015-771 Tue, 17 Nov 2015 10:08:47 +0100 01:25:04 Dr. Sebastian Stüker 04: Vorlesung | 0:00:00 Starten 0:01:29 Überblick: Schall, Gehör, Schriftsysteme 0:01:53 Schall 0:07:45 Schalldruckpegel 0:10:31 Beispiel für Pegel 0:11:44 Schallenergie 0:15:19 Schallfläche 0:16:12 Anatomie Gehör 0:21:43 Gehör 0:23:54 Cochlea 0:28:24 Psychoakustik 0:33:00 Frequenzantwort der Membran 0:35:50 Lautstärkenempfinden 0:39:29 Experimente 0:39:54 Die Hörfläche 0:41:46 Schriftsysteme 0:48:55 Verteilung der Schriftsysteme 0:53:45 Mikrofone 0:55:14 Überblick 0:56:31 Wandlerprinzipien 1:07:04 Wandlerprinzipien 1:07:26 Richtcharakterristik 1:09:30 Akustische Bauformen 1:15:59 Pop- und Windschutz http://dx.doi.org/10.5445/DIVA/2015-772 Tue, 17 Nov 2015 10:13:42 +0100 01:20:10 Dr. Sebastian Stüker 05: Vorlesung | 0:00:00 Starten 0:00:09 Überblick 0:00:57 Animation des Vokaltrakts/Stroboskopaufnahme 0:02:44 Konsonantenbeispiel 0:05:06 Experimente 0:11:48 Zwei Beispiele 0:24:19 Geschichte der ASR 0:30:43 Euphonia - speech Organ (1846) 0:32:08 Radio Rex (1922) 0:34:08 Vocoder (1939) 0:35:20 HARPY (1976) 0:37:32 Wortfehlerrate 0:40:37 Minimale Editierdistanz 0:49:58 Ein Beispiel 0:50:43 Eigenschaften der WER 0:52:46 Probleme mit der WER? 0:56:33 WER in den DARPA Evaluationen 1:11:48 Grundlagen der Signalverarbeitung 1:14:08 Wozu Signal(vor)verarbeitung? 1:21:52 Systeme http://dx.doi.org/10.5445/DIVA/2015-773 Tue, 17 Nov 2015 10:17:24 +0100 01:24:17 Dr. Sebastian Stüker 06: Vorlesung | 0:00:00 Starten 0:00:07 Vorverarbeitung Teil 1 0:00:58 Wozu Signal(vor)verarbeitung? 0:02:31 Systeme 0:05:57 Zeitinvariante System 0:07:57 Dirac Distribution 0:16:07 Faltung 0:19:40 Impulsantwort 0:23:08 Quelle Filter Modell der Sprache 0:27:35 Parametereigenschaften einer trigonometrischen Funktion 0:32:28 Darstellung der Fourierreihe 0:38:26 Fouriertransformation 0:47:42 Komplexes Spektrum 0:53:44 Zeitdiskrete Fouriertransformation 0:56:16 Diskrete Fouriertransformation 1:00:47 Schnelle Fouriertransformation 1:02:01 Zusammenfassung Fouriertransformation 1:04:01 Digitalisierung 1:05:14 Abtastung (Sampling) 1:08:50 Abtasttheorem Nyquist-Shannon Theorem 1:11:53 Aliasing 1:22:25 Reale Abtastung 1:24:05 Quantisierung http://dx.doi.org/10.5445/DIVA/2015-774 Tue, 17 Nov 2015 10:20:01 +0100 01:24:59 Dr. Sebastian Stüker 07: Vorlesung | 0:00:00 Starten 0:00:06 Vorverarbeitung Teil 2 0:01:19 Quantisierung 0:04:25 Quantisierungsrauschen 0:08:53 Quantisierung von Sprachsignalen 0:11:14 Einseitige und zweiseitige Laplace Transformation 0:14:03 Laplace Transformation 0:15:57 F(s)-Darstellung 0:18:48 Wiederholung LTI-Systeme 0:20:03 Darstellung der Übertragungsfunktion von LTI-Systemen 0:20:35 Darstellung der Übertragunsfunktion von LTI-Systemen im Laplace-Bereich 0:24:28 Projektion auf s-Ebene 0:25:33 Pol-Nullstellen-Schema in der s-Ebene 0:26:50 Projektion auf s-Ebene 0:29:38 Z-Transformation 0:33:14 Zusammenhang LT und ZT 0:33:59 Abbildung komplexe s-Ebene auf z-Ebene 0:34:34 Kurzzeitspektralanalyse 0:44:41 Periodizität des gefensterten Signals 0:48:25 Effekt der Fensterung 0:51:18 Fensterfunktionen 0:56:31 Wo ist der Fehler? 0:57:55 Spektrogramm 1:01:58 Oberschwingung, Harmonische 1:05:12 Spektrogramm 1:06:59 Mel Skalierung 1:09:47 Mel Skala 1:10:52 Mel Skalierung 1:12:48 Effekt der Fensterlängen http://dx.doi.org/10.5445/DIVA/2015-775 Tue, 17 Nov 2015 10:26:54 +0100 01:25:18 Dr. Sebastian Stüker 08: Vorlesung | 0:00:00 Starten 0:00:24 Wiederholung: Laplace Transformation, Kurzzeitspektralanalyse 0:06:06 Quelle Filter Modell der Sprache 0:07:40 Helmholtzresonator 0:12:25 Vokaldreieck 0:18:34 Lineare Vorhersage (LPC) 0:26:46 Interpretation der LPC Koeffizienten 0:29:04 All-Pole Modell 0:30:16 LPC Beispiel 0:35:33 Cesptrum 0:51:39 Diskrete Cosinustransformation 0:59:11 Beispiel: Berechnung MFCC Koeffizienten 1:00:02 Filterbank im Leistungsbetrags-Spektrum (Mel-Filterbank) 1:00:41 Logarithmus auf Leistungsbetragsspektrum 1:01:29 Cepstral-Koeffizienten 1:03:19 Log-Spektrum rekonstruiert von (geliftertem) Cepstrum 1:03:44 Vergleich Verschiedener Spektren 1:04:21 Typische Vorverarbeitung 1:13:00 Dynamische Merkmale 1:14:10 Autokorrelation 1:21:18 Nulldurchgangsrate 1:23:15 Hauptkomponentenanalyse (PCA) http://dx.doi.org/10.5445/DIVA/2015-776 Tue, 17 Nov 2015 10:32:18 +0100 01:23:50 M.Sc. Markus Müller 09: Vorlesung | 0:00:00 Starten 0:01:03 Hauptkomponentenanalyse (PCA) 0:04:55 Lineare Diskriminanzanalyse 0:06:42 Vorverarbeitung mit Neuronalen Netzen 0:09:29 Bottleneck Features 0:11:29 Klassifikation 0:14:49 Statistische vs. Wissensbasierte Ansätze 0:17:07 Wissensbasiert: Entscheidungsbäume 0:18:09 Classification and Regression Trees 0:22:26 Überwachtes vs. Unüberwachtes Lernen 0:24:08 Unüberwachtes Lernen 0:26:09 Überwachtes Lernen 0:27:48 Parametrisches vs. Nicht-Parametrische Klassifikation 0:28:56 Bayes Klassifikator 0:32:02 Minimum Fehler Regel 0:33:42 Parzen Fenster 0:36:53 Spracherkennung mit Musterklassifikation 0:39:04 Vergleich ganzer Äußerungen 0:46:01 Time Warping 0:47:28 Erinnerung: Minimale Editierdistanz 0:50:19 Finden der minimalen Editierdistanz: DP Matrix 0:52:20 Dynamic Time Warping (DTW) 0:59:54 Strahlsuche 1:02:12 Mögliche Distanzen von Vektoren 1:03:01 Einordnung des DTW http://dx.doi.org/10.5445/DIVA/2015-842 Tue, 24 Nov 2015 16:20:08 +0100 01:03:54 Dr. Sebastian Stüker 10: Vorlesung | 0:00:00 Starten 0:01:18 DTW für einzelne Wörter 0:09:35 DTW für Sequenzen mehrere Wörter 0:14:57 One Stage DP 0:33:51 Gaußverteilung (Normalverteilung) 1:05:01 Vektorquantisierung 1:11:11 Voronoiregionen 1:14:22 Mahalanobis Distanz 1:16:27 Vektorquantisierung als Klassifikationsproblem 1:17:52 K-Nächste Nachbar 1:22:05 Baumstruktur des Merkmalsraums 1:23:01 (Haus-) Aufgabe http://dx.doi.org/10.5445/DIVA/2015-887 Thu, 03 Dec 2015 09:33:21 +0100 01:24:55 Dr. Sebastian Stüker 11: Vorlesung | 0:00:00 Starten 0:01:05 Aufgabe 0:10:18 Vektorquantisierung 0:11:47 Finden von Referenzvektoren 0:12:57 K-Mittelwerte 0:15:53 Learning VQ 0:18:12 LVQ 2, LVQ3 0:20:27 LVQ als KNN 0:29:42 Literaturempfehlung zu Statische Spracherkennung 0:30:39 Stochastik in der Spracherkennung 0:34:35 Die Fundamentalformel 0:39:58 Stochastische ASR - Akustische Modell 0:43:56 Stochastischer Prozess 0:49:12 Markow-Kette 0:51:11 Markow-Kette n-ter Ordnung 0:53:01 Markow-Ketten 1.Ordnung 0:54:59 Homogene Markow-Ketten 1.Ordnung 0:55:46 Beispiele 1:02:41 Hidden Markov Models 1:10:41 Urne Ball Modell 1:12:04 HMM Definition 1:15:01 HMM Beobachtungsgenerierung 1:16:52 Die HMM Trellis 1:18:53 Die Drei Probleme der HMMs http://dx.doi.org/10.5445/DIVA/2015-920 Thu, 03 Dec 2015 15:38:51 +0100 01:20:17 Dr. Sebastian Stüker 12: Vorlesung | 0:00:00 Starten 0:01:22 Die Fundamentalformel 0:02:47 HMM Definition 0:06:01 Die Drei Probleme der HMMs 0:11:23 Forward Algorithmus 0:23:04 Backward Algorithmus 0:27:43 Das Decoding Problem 0:33:02 Viterbi-Algorithmus 0:36:01 Das Lern-Problem 0:46:23 Baum-Welch Regeln 0:52:35 Literatur 0:54:42 Maximum-Likelihood Methode 0:59:20 Expectation Maximization (EM) 1:06:13 EM-Expectation Schritt 1:09:04 EM- Maximization Schritt 1:11:58 EM für Mixtur-Gewichte http://dx.doi.org/10.5445/DIVA/2015-943 Thu, 10 Dec 2015 10:09:32 +0100 01:15:04 Dr. Sebastian Stüker 13: Vorlesung | 0:00:00 Starten 0:00:10 EM-Algorithmus für HMMs 0:48:30 EM-Algorithmus 0:49:35 EM - Expectation Schritt 0:50:10 EM-Maximization Schritt 0:51:09 EM für Mixtur-Gewichte 1:01:27 EM für Gaußmixturen 1:10:07 EM für HMMs 1:13:12 EM für HMMs - Anfangswahrscheinlichkeiten 1:14:26 EM für HMMs - Übergangswahrscheinlichkeiten 1:15:54 EM Algorithmus - diskrete Emissionswahrscheinlichkeiten 1:17:08 EM Algorithmus - Emisssionswahrscheinlichkeiten GMM 1:21:13 HMM Training für multiple Trainingssequenzen 1:24:31 HMMs in ASR http://dx.doi.org/10.5445/DIVA/2015-985 Tue, 22 Dec 2015 16:01:44 +0100 01:25:47 Dr. Sebastian Stüker 14: Vorlesung | 0:00:00 Starten 0:02:34 Polyphone 0:03:32 Polyphone-Datenmangel 0:04:32 Anzahl der Polyphone 0:05:46 Häufigkeiten der Polyphone 0:07:42 Backoff für Polyphone 0:10:10 Gekoppelte Polyphone 0:11:32 Bottom-Up vs. Top-Down Clustering 0:13:15 Bottom-Up Clustering 0:13:41 Top-Down Clustering 0:14:30 Probleme beim Clustering 0:15:48 Distanzen für Polyphonecluster 0:20:53 Diskrete Entropiedistanz 0:26:50 Gewichtete Entropiedistanz 0:29:58 Clustern von Polyphonen mit Entropiedistanz 0:32:00 Clustern nach Kai-Fu Lee 0:39:11 Problem der Vokabularbeschränktheit 0:40:12 Clustering mit Entscheidungsbäumen 0:42:03 Top-Down Clustern 0:44:02 Der Wachstumsprozess 0:44:29 Während der Erkennung 0:45:27 Abbruchkriterium für das Clustern 0:48:07 Clustern mit Likelihood Distanz 0:50:01 Problem bei Clustern mit Likelihood Distanz 0:52:04 Kontextfragen 0:57:47 Typische Kontextfragen 1:00:45 Abdeckung durch Polyphone 1:04:53 Gewinn durch längere Kontexte http://dx.doi.org/10.5445/DIVA/2016-8 Thu, 07 Jan 2016 13:33:27 +0100 01:05:50 Dr. Sebastian Stüker 15: Vorlesung | 0:00:00 Starten 0:05:06 Fehler durch falsche Aussprachen 0:08:07 Generierung von Aussprachewörterbüchern 0:11:32 Verwendung von existierenden Wörterbüchern 0:18:46 Lernen von Ausspracheregeln 0:28:21 Inkrementelles Lernen 0:30:07 Aussprachevarianten 0:33:21 Finden von Aussprachevarianten 0:35:28 Probleme mit Aussprachevarianten 0:39:45 Typische Aussprachevarianten 0:40:16 Regeln für Aussprachevarianten im Deutschen 0:41:31 Datengetriebenes finden von Aussprachevarianten 0:42:51 Finden von Aussprachevarianten mit dem Silbenmodell 0:44:04 Flexibles Trainingsalignment 0:45:45 Aussprachen bestimmen für unüberwachtes Lernen 0:47:27 Emotionserkennung mit Hilfe von Aussprachevarianten 0:49:22 Aussprachewörterbuch Entwicklung (nach Adda-Decker und Lamel) 0:51:23 Multiworte 0:53:56 Single Pronunciation Dictionaries 0:56:00 Erweiterter Clusterbaum 0:56:06 Ergebnisse 1:01:07 Literaturempfehlung 1:01:51 Sprachmodellierung 1:02:04 Erinnerung: Fundamentalformel 1:02:34 Deterministische vs. Stochastische Sprachmodelle 1:04:57 Wörterratespiel 1:08:46 Wozu dient das Sprachmodell 1:11:12 Stochastische Sprachmodelle 1:16:40 Äquivalenzklassen 1:19:00 Schätzen von N-Gramm W`keiten 1:19:53 Beispiel http://dx.doi.org/10.5445/DIVA/2016-46 Thu, 14 Jan 2016 14:56:27 +0100 01:22:53 Dr. Sebastian Stüker 16: Vorlesung | 0:00:00 Starten 0:00:14 Erinnerung: Fundamentalformel 0:02:17 Stochastische Sprachmodelle 0:03:54 Äquivalenzklassen 0:04:36 Schätzen von N-Gramm Wahrscheinlichkeiten 0:05:32 Beispiel 0:07:05 Bigramme und Trigramme 0:10:07 Das Bag-of-Words Experiment 0:10:56 Glättung von Sprachmodellparametern 0:15:07 Discounting 0:17:51 Interpolation (Lineare Glättung) 0:23:53 HMM für Interpolationsgewichte 0:30:03 Schätzung der Gewichte 0:42:03 Deleted Interpolation basierend auf den ""Conditional Counts"" 0:46:22 Praktische Aspekte 0:49:46 Schätzen von y 0:52:34 Allgemeines Rahmenwerk für Glättung 0:55:17 Weitere Notationen 0:59:17 Schätzung von qj und α 1:04:24 M bestimmen 1:08:06 Good-Turing Discounting 1:10:13 Back-Off Sprachmodelle 1:13:06 Back-Off LM 1:16:53 Katz Backoff http://dx.doi.org/10.5445/DIVA/2016-56 Thu, 14 Jan 2016 14:41:41 +0100 01:20:49 Dr. Sebastian Stüker 17: Vorlesung | 0:00:00 Starten 0:00:13 Kurze Wiederholung der letzten Vorlesung 0:04:16 Kneser-Ney Backoff 0:08:07 Schätzung von Beta - Margnialisierung 0:16:51 Leaving-One-Out Beta Schätzung 0:19:04 Ergebnisse von Kneser-Ney 0:20:27 Qualität von Sprachmodellen 0:23:21 Entropie einer Wortquelle 0:26:29 Perplexität von Sprachmodellen 0:35:16 Perplexität und Akustik 0:38:02 Klassenbasierte Sprachmodelle 0:44:08 Aussprachevarianten 0:45:58 Multiworte 0:47:59 Besondere Arten von Sprachmodellen 0:48:44 Interpolierte Sprachmodelle 0:53:56 Cache Sprachmodelle 0:57:49 Trigger Sprachmodelle 1:00:06 Mehrschichtige Sprachmodelle 1:01:56 Verzahnte Sprachmodelle 1:04:26 Morphembasierte Sprachmodelle 1:10:31 Entscheidungsbäume 1:12:02 HMMs für Modellierung 1:13:57 Probleme mit Spontaner Sprache 1:18:11 Probleme mit unbekannten Wörtern 1:20:34 Besonderheiten verschiedener Sprachen http://dx.doi.org/10.5445/DIVA/2016-92 Tue, 19 Jan 2016 14:45:24 +0100 01:23:47 M.Sc. Markus Müller 18: Vorlesung | 0:00:00 Starten 0:00:37 Graphembasierte Spracherkennung 0:06:48 Eignung von Graphemen 0:14:38 Verteilung von Schriften 0:16:21 Verteilung der Schriftsysteme 0:17:12 Eignung von Graphemen 0:18:10 Beispiele für schlechte Korrespondenz 0:19:32 Graphembasierte ASR für Arabisch 0:20:19 Englisch, Deutsch, Russisch, Spanisch, Thai 0:21:12 Kontextabhängige Modelle für Grapheme ASR 0:23:10 Flexibler Clusterbaum für Grapheme 0:24:20 Praktische Probleme 0:27:13 Spracherkennung bei ungeschriebenen Sprachen 0:30:13 Plansprachen (Exkurs) 0:32:23 Esperanto 0:35:15 Esperanto und ASR 0:35:59 Toki Pona 0:37:55 Toki Pona und ASR 0:38:40 Entwurf einer Sprache für ASR 0:40:45 Entwurf von Ziffernwörtern 0:42:42 Ergebnis 0:43:49 ASR für Roboter Interaktion 0:47:01 ASR für Roboter Interaktion (Ausblick) http://dx.doi.org/10.5445/DIVA/2016-117 Thu, 28 Jan 2016 14:57:14 +0100 00:50:04 Dr. Sebastian Stüker 19: Vorlesung | 0:00:00 Starten 0:00:14 Erinnerung: Fundamentalformel 0:02:20 Deterministische Sprachmodelle 0:05:42 Repräsentation der Grammatik 0:07:18 Formale Sprachtheorie 0:09:35 Chomsky Hierarchie 0:11:42 Chartparsing 0:14:29 Probabilistische CFGs 0:19:56 Probleme mit Erkennungsfehlern 0:24:06 Kombination von Sprachmodell und Akustischem Modell 0:33:35 Suche 0:35:46 Erinnerung: Fundamentalformel 0:37:15 Suche in der Spracherkennung 0:42:46 Erinnerung DTW und One-Stage-DP 0:44:02 Suche im Allgemeinen 0:46:51 Suche mit DP und Heuristik 0:48:19 Kenngrößen für Suchprobleme 0:50:18 Forward-/Backward-/bidirektionale Suche 0:51:51 Explizite vs. Implizite Implementierung 0:53:42 Blinde Suche 0:55:24 Suchstrategien 0:58:29 Tiefensuche vs. Breitensuche 1:00:41 Heuristische Graphsuche 1:03:40 Zeitasynchrone Suche mit A* http://dx.doi.org/10.5445/DIVA/2016-132 Mon, 01 Feb 2016 13:12:11 +0100 01:11:02 Dr. Sebastian Stüker 20: Vorlesung | 0:00:00 Starten 0:00:19 Suchstrategien 0:01:25 Tiefensuche vs. Breitensuche 0:01:57 Heuristische Graphsuche 0:02:45 Zeitasynchrone Suche mit A* 0:04:15 Zeitsynchrone Strahlsuche 0:10:31 Beams in ASR 0:12:13 Beam vs. WER 0:15:45 Kontinuierliche Suchräume, gleichverteiltes Sprachmodell 0:20:59 Suchraum mit Uni-Gramm 0:23:03 Suchraum mit Bi-Grammen 0:26:32 Suchraum mit Tri-Grammen 0:33:48 Viterbi Decoding 0:40:42 A* mit Stack Decoder 0:42:50 Heuristik für A* 0:44:43 Fast Match 0:47:36 Vor- und Nachteile eines Stackdecoders 0:51:10 A* vs. Strahlsuche 0:52:39 Vermeidung von Redundanzen 0:54:44 Baumsuche 0:57:30 Baumsuche mit Sprachmodell 0:59:04 Delayed Bi-Grams 1:01:51 Einsparung durch Baum-Lexica 1:05:41 Kopien von Suchbäumen 1:10:36 Suche mit kontextabhängigen Modellen 1:13:38 Baumsuche mit kontextabhängigen Modellen 1:16:45 N-Besten Suche http://dx.doi.org/10.5445/DIVA/2016-158 Fri, 05 Feb 2016 09:40:21 +0100 01:23:29 Dr. Sebastian Stüker 21: Vorlesung | 0:00:00 Starten 0:00:10 Suche 0:00:29 N-Besten Suche 0:01:50 Probleme mit n besten Listen 0:02:54 Wortgraphen 0:04:14 Zusammenfassung Beschleunigungstechniken 0:06:00 Mehrpass Suchen 0:06:55 Beispiel: IBIS Single Pass Decoder 0:11:18 Consensus Decoding 0:13:01 Bsp: MAP vs. Wort-Posteriori-W´keiten 0:16:36 Minimierung des Wortfehlers 0:19:28 Approximierung mit N-besten Listen 0:21:36 WER Minimierung auf Wortgraphen 0:24:26 Multiple Alignment WER 0:29:19 Finden des globalen Alignment 0:30:50 Multiple Alignment WER 0:32:37 Alignment als Äquivalenzrelation 0:34:37 Finden einer angemessenen Äquivalenzrelation 0:36:38 Intra-Wort-Clustern 0:38:44 Pruning 0:40:37 Confusionsnetzwerke 0:42:28 Multiple Alignment WER 0:43:03 Confusionsnetzwerke 0:43:26 Confusionsnetzwer-Hypothese 0:45:16 Multiple Alignment WER 0:45:53 Experimente 0:47:58 Systemkombination 0:49:14 Systemkombination mit ROVER 0:50:27 Alignierung vieler Hypothesen mittels DP 0:51:49 Beispiel http://dx.doi.org/10.5445/DIVA/2016-160 Mon, 08 Feb 2016 18:27:56 +0100 00:59:08 Dr. Sebastian Stüker 22: Vorlesung | 0:00:00 Starten 0:00:43 Adaption 0:08:52 Motivation 0:13:40 Adaption des Akustischen Modells 0:16:21 Mögliche Variationen 0:18:24 Adaption als Transformation 0:22:51 Arten der Adaption 0:27:13 Batch vs. Inkrementell 0:31:17 Überwachte und Unüberwachte Adaption 0:32:18 Training vs. Normalisierung 0:33:07 Merkmals vs. Modelladaption 0:36:23 Anwendung der Transformation 0:37:27 Optimierungskriterien zur Schätzung 0:39:40 Adaptionsmethoden 0:42:43 Vokaltraktlängen-normalisierung (VTLN) 0:52:39 VTLN: Experimente 0:58:53 Inkrementelle Adaption 1:05:06 Verschiedenes zu VTLN 1:08:48 MAP Adaption 1:14:37 Maximum Likelihood Linear Regression (MLLR) 1:17:54 Finden von Klassen 1:20:11 Label Boosting mit MLLR 1:21:48 Welche Adaption unter welchen Bedingungen 1:23:14 fMLLR http://dx.doi.org/10.5445/DIVA/2016-162 Mon, 08 Feb 2016 18:29:33 +0100 01:25:36