Uni Wien:Deep Learning for Natural Language Processing VU (Erion Çano, Benjamin Roth, Andreas Stephan)

Daten

Vortragende	Benjamin Roth, Andreas Stephan
ECTS	6
Sprache	English
Links	ufind:052316

Zuordnungen

Bachelor Informatik	Modul Data Analysis (Gebundenes Wahlfach)
Master Informatik	Modul Data Analysis (Gebundenes Wahlfach)
Master Data Science	Modul Specialisation (Gebundenes Wahlfach)

Inhalt

Die Einführung behandelt NLP-Tasks und Word Embeddings, gefolgt von Modellen wie RNNs, LSTMs, BERT, Electra, XLNet und GPTs mit ihren Pre-Training- und Fine-Tuning-Objectives.

Wichtige Themen sind zudem die ethischen Aspekte von LLMs, Decoding-Strategien, RLHF, Prompt Engineering sowie Methoden zur Erklärbarkeit wie LIME und SHAP.

Ablauf

Die Lehrveranstaltung besteht aus einem Theorie- und einem Praxisteil. Im Theorieteil wird wöchentlich ein Kapitel vorgestellt, zu dem ein Quiz gelöst werden muss. Der praktische Teil umfasst fünf Projektaufgaben, die in Teams von zwei bis drei Personen bearbeitet werden. Die Aufgaben sind gut strukturiert und vertiefen zentrale Themen aus dem Theorieteil. Dabei werden unter anderem ein RNN für Sentiment Analysis trainiert, ein Transformer implementiert und Attention Patterns untersucht.

Benötigte/Empfehlenswerte Vorkenntnisse

Pythonkenntnisse sind von Vorteil.

Prüfung, Benotung

2 closed-book Tests, 10 Quizzes und 5 Projektaufgaben.

Dauer der Zeugnisausstellung

Semester	Letzte Leistung	Zeugnis
WS24	30.01.2025	30.01.2025	1 Tag

Zeitaufwand

Der Aufwand hängt davon ab, wie gründlich die Projektaufgaben bearbeitet und die Konzepte verstanden werden. Mit angemessenem Einsatz sind etwa 180 Stunden realistisch.

Unterlagen

noch offen

Tipps

noch offen

Highlights / Lob

noch offen

Verbesserungsvorschläge / Kritik

noch offen

Materialien

Diese Seite hat noch keine Anhänge, du kannst aber neue hinzufügen.