Ruprecht-Karls-Universität Heidelberg
Institut für Computerlinguistik

Bilder vom Neuenheimer Feld, Heidelberg und der Universität Heidelberg

Statistical Methods for Computational Linguistics

Kursbeschreibung

Studiengang Modulkürzel Leistungs-
bewertung
BA-2010 FF-SM 6 LP
Dozenten/-innen Michael Staniek
Veranstaltungsart Vorlesung / Übung
Sprache Deutsch
Erster Termin 16.10.2023
Zeit und Ort Vorlesung: Montags, 15:15–16:45, INF 327 / SR 1
Tutorium (Jakob): Donnerstags, 10:15–11:45, INF 327 / SR 1
Commitment-Frist tbd.

Fachliche Voraussetzungen

Erfolgreicher Abschluss des Kurses "Formale Grundlagen der Computerlinguistik: Mathematische Grundlagen"

Teilnehmerkreis

Für Studierende der Computerlinguistik (mind 25%) sowie für Studierende des Bsc/Msc Informatik, Bsc Mathematik und Msc Scientific Computing, die Computerlinguistik als Anwendungsgebiet gewählt haben. Andere Studierende sind nicht zugelassen.

Leistungsnachweis

  • Bearbeitung der Übungsaufgaben
  • Klausur
  • Regelmäßige Teilnahme an Vorlesung und Übung wird empfohlen

Inhalt

Die Vorlesung stellt zentrale Konzepte des statistischen maschinellen Lernens vor, und exemplifiziert diese anhand einfacher Aufgaben aus der automatischen Sprachverarbeitung. Der Fokus der Vorlesung liegt einerseits auf der Vermittlung theoretischer Fundamente maschinellen Lernens, andererseits auf der praktischen Umsetzung in effiziente Lernalgorithmen.

Mögliche Themenbereiche der Vorlesung sind:

  • Loss/Risk-Funktionen
  • Optimierung
  • Regularisierung
  • Lineare/Nicht-Lineare Modelle
  • Online/Batch Algorithmen

Literatur

  • Schölkopf & Smola (2002). Learning with Kernels. Support Vector Machines, Regularization, Optimization, and Beyond. MIT Press.
  • Abney (2008). Semisupervised Learning. Chapman & Hall.
  • Kulkarni, Harman (2011). An Elementary Introduction to Statistical Learning Theory. Wiley.
  • Hastie, Tibshirani, Friedman (2011). The Elements of Statistical Learning. Data Mining, Inference, and Prediction. Springer.
  • Kevin Murphy (2012). Machine Learning. A Probabilistic Perspective. MIT Press.
  • Kyunghyun Cho (2015). Natural Language Understanding with Distributed Representations. Lecture Notes.
  • Ian Goodfellow, Yoshua Bengio, Aaron Courville (2016). Deep Learning. MIT Press.

» weitere Kursmaterialien

zum Seitenanfang