Καλησπέρα ξανά,
Για τις ενότητες που καλύφθηκαν στο μάθημα από το Εργαστήριο Υπολογιστικών Συστημάτων (δείτε και τις σχετικές διαφάνειες), ακολουθεί υποστηρικτικό υλικό για κάθε ενότητα που μπορεί να βοηθήσει τη μελέτη σας. Διευκρινίζουμε ότι το υλικό είναι αρκετά ευρύ, δεν ανήκει στην εξεταστέα ύλη, αλλά δίνεται για να περιγράψει την ευρύτερη περιβάλλουσα κάθε ενότητας.
Εισαγωγή [1, 5]
Παράλληλοι υπολογισμοί σε αρχιτεκτονικές κοινής μνήμης [1]
Παράλληλος προγραμματισμός σε αρχιτεκτονικές κοινής μνήμης: OpenMP [1]
Παράλληλοι υπολογισμοί με επιταχυντές [1]
Παράλληλος προγραμματισμός σε επεξεργαστές γραφικών: CUDA [1]
Μηχανική μάθηση, αρχιτεκτονικές και επίδοση [2, 3]
Παράλληλη και κατανεμημένη εκπαίδευση βαθιών νευρωνικών δικτύων [4]
Μη διστάσετε να επικοινωνήσετε για απορίες.
Καλή συνέχεια,
Νικέλα
Υποστηρικτική Βιβλιογραφία
[1] Parallel Computing for Data Science with examples in R, C++, CUDA, Norman Matloff, Chapman and Hall/CRC, 2015
[2] Williams, Samuel, Andrew Waterman, and David Patterson. Roofline: An insightful visual performance model for floating-point programs and multicore architectures. No. LBNL-2141E. Lawrence Berkeley National Lab.(LBNL), Berkeley, CA (United States), 2009.
[3] Shi, Shaohuai, et al. "Benchmarking state-of-the-art deep learning software tools." 2016 7th International Conference on Cloud Computing and Big Data (CCBD). IEEE, 2016.
[4] Ben-Nun, Tal, and Torsten Hoefler. "Demystifying parallel and distributed deep learning: An in-depth concurrency analysis." arXiv preprint arXiv:1802.09941 (2018).
[5] Reagen, Brandon, et al. "Deep learning for computer architects." Synthesis Lectures on Computer Architecture 12.4 (2017): 1-123.
[6] Hazelwood, Kim, et al. "Applied machine learning at facebook: A datacenter infrastructure perspective." 2018 IEEE International Symposium on High Performance Computer Architecture (HPCA). IEEE, 2018.
