TU Wien:High Performance Computing VU (Träff)

Aus VoWi
Zur Navigation springen Zur Suche springen
Ähnlich benannte LVAs (Materialien):

Daten[Bearbeiten | Quelltext bearbeiten]

Diese LVA wird nicht mehr von dieser Person angeboten, ist ausgelaufen, oder läuft aus und befindet sich daher nur noch zu historischen Zwecken im VoWi.
Vortragende Jesper Larsson Träff, Francesco Versaci Sascha Hunold
ECTS 4,5
Sprache English
Links tiss:184725 , Homepage
Zuordnungen
Masterstudium Data Science
Masterstudium Logic and Computation
Masterstudium Software Engineering & Internet Computing
Masterstudium Technische Informatik

Mattermost: Channel "high-performance-computing"RegisterMattermost-Infos

Inhalt[Bearbeiten | Quelltext bearbeiten]

Aus TISS: Fortgeschrittene MPI Programmierung (mit Projekt/Übung), Überblick HPC Architekturen und Kommunikationsnetzwerken, Probleme, Algorithmen u. Lösungen (mit Projekt/Übung); Werkzeuge, Leistungsmodelle, Bibliotheken (mit Projekt/Übung)

Aus Studentensicht: Ein Misch-Masch von verschiedenen Themen des Bereichs High Performance Computing:

  • Allgemeines/Einführung
  • Memory hierachies & caching
  • Advanced MPI features
  • benchmarking, tools and libraries
  • Networks for HPC

Ablauf[Bearbeiten | Quelltext bearbeiten]

Wöchentliche Vorlesung, volle 2 Stunden. 2 Programmierübungen. Prüfung zu Ende des Semesters.

WS2022: 1 theory-based worksheet (with some minor programming exercises), 1 programming project

Benötigte/Empfehlenswerte Vorkenntnisse[Bearbeiten | Quelltext bearbeiten]

Programmierkenntisse in C/C++. Etwas Erfahrung mit MPI ist gut, um dem MPI-Block folgen zu können.

Schaffbar ohne Parallel Computing, sollte man aber trotzdem vorher gemacht haben.

W2020: You should have a basis of C/C++

Vortrag[Bearbeiten | Quelltext bearbeiten]

Drei Vortragende mit jeweils sehr unterschiedlichem und teilweise etwas eigenem Vortragsstil: von sehr theoretisch und detailiert zu eher praktisch und überblicksmäßig. Eine klare Linie oder ein "roter Faden" waren nicht erkennbar. In Englisch.

WS 2019:

2 Vortragende (Prof Träff u. Prof Hunold), Prof Träffs Teil dreht sich um MPI, während Prof. Hunolds Teil sich um Benchmarking und Tooling dreht.

W2020: Online lecture (recorded) on LectureTube from Prof. Traff only.

WS2022: Weekly lecture (in person - no recordings) by Professor Träff

Übungen[Bearbeiten | Quelltext bearbeiten]

2 Programmierübungen: es werden 4 Aufgaben aus den einzelnen Schwerpunkten der VO angeboten, wobei man sich als Student 2 aussuchen muss. Die zwei Aufgaben sind bis zum Ende des Semesters zu implementieren, wobei großer Wert auf detailierte und ordentliche Protokolle gelegt wird.

W2019: Es wurden 2 Aufgaben fix vorgegeben, einmal benchmarken von 2 systemen und analyse eines benchmarks via roofline plot und einmal "MPI_Scatter" selber implementieren, einmal für 1-ported communication, einmal für k-ported communication.

W2020: One single project to hand-in at the end of the semester. You had to implement your own version of the Graph500 (https://graph500.org/) BFS by using collective operations only. It was doable but a basis in C/C++ was needed.

WS2022: A more theory-heavy worksheet was due in early December and included small programming exercises on Gray codes and cube connection cycles. A programming project on the implementation and benchmarking of various MPI_Allreduce algorithms, including a report, was due in mid-January. The programming project could be done in groups of 2. There were many bonus points to be gained on both worksheets, so if you put in the necessary time, you could achieve high scores relatively comfortably.

Prüfung, Benotung[Bearbeiten | Quelltext bearbeiten]

Prüfung am Beginn der Sommerferien, wobei es eher ein Abgabegespräch ist: es werden hauptsächlich die zwei Programmieraufgaben mit den LVA-Leitern diskutiert.

WS 2019:

Die Übungen werden in das Gespräch wenn nur als Basis benutzt, um eine Eins zu bekommen muss man, meinem Empfinden nach, sich sehr genau mit dem Stoff auskennen, besonders Prof. Träff fragt sehr genau nach, Prof. Hunold scheint eher Wert darauf zu legen, dass man den Stoff verstanden hat und flexibel Einsetzen kann.

WS 2020: Due to the covid situation the exam was held online (via Zoom). It was a little discussion about the project and some questions about the whole material (for instance linear cost model, LogP, circulant graph etc..). The grade was 50/10 project/exam.

WS2022:

The theory worksheet gave 30(+10 bonus) points and the programming project gave 50(+20 bonus) points. The bonus points did not carry over to the final score, i.e. one could only reach a max of 30 and 50 points, respectively.

The exam (~40min) was in person. One is first asked to explain the programming project and had to answer some theoretical questions about the implemented solutions. Then more generic questions and algorithms from the lecture were asked. Professor Träff sent out an email with important topics before the exam which covered most of the topics presented in the lecture. Knowing every single step of every single algorithm that was presented was not required. If you knew the basic idea or concept and why the algorithms worked the way they did, that was perfectly fine.

The final grade was weighted as follows: 2/3 worksheets + 1/3 exam

Dauer der Zeugnisausstellung[Bearbeiten | Quelltext bearbeiten]

1 Woche nach Prüfung.

Zeitaufwand[Bearbeiten | Quelltext bearbeiten]

WS 2019: Eher an der Obergrenze von 4.5 ECTS

Unterlagen[Bearbeiten | Quelltext bearbeiten]

Vorlesungsfolien

WS2022: Professor Träff wrote a lecture note pdf which was quite helpful for some exercises and went a lot more into detail on some topics compared to the slides - but it was not fully finished yet.

Tipps[Bearbeiten | Quelltext bearbeiten]

Aufwand der Übungsaufgaben nicht unterschätzen! Mitarbeit in den Vorlesungen kann sich positiv auf die Note auswirken!

Für eine Eins muss man den Stoff sehr gut beherrschen.

Verbesserungsvorschläge / Kritik[Bearbeiten | Quelltext bearbeiten]

Die LVA wurde im SS 13 zum ersten Mal abgehalten: zum Teil waren die Vorlesungsfolien nicht fertig und die Vorträge oft etwas "unrund": zu viel vorbereiteter Inhalt, hin und wieder mit Fehlern, manchmal war nicht klar, was eigentlich das Ziel der Einheit war.

WS 2019: Das ist nicht mehr wirklich ein Problem, das Einzige was fehlt wäre vielleicht den Stoff ein bisschen Überschaubarer zu machen (nicht unbedingt weniger, aber es ist schwierig beim Lernen der Folien den Überblick zu behalten)