Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση

ΔΙΑΤΜΗΜΑΤΙΚΟ ΠΡΟΓΡΑΜΜΑ ΜΕΤΑΠΤΥΧΙΑΚΩΝ ΣΠΟΥΔΩΝ «ΕΠΙΣΤΗΜΗ ΔΕΔΟΜΕΝΩΝ & ΜΗΧΑΝΙΚΗ ΜΑΘΗΣΗ»
ΔΙΑΤΜΗΜΑΤΙΚΟ ΠΡΟΓΡΑΜΜΑ  ΜΕΤΑΠΤΥΧΙΑΚΩΝ ΣΠΟΥΔΩΝ «ΜΑΘΗΜΑΤΙΚΗ ΠΡΟΤΥΠΟΠΟΙΗΣΗ ΣΕ ΣΥΓΧΡΟΝΕΣ ΤΕΧΝΟΛΟΓΙΕΣ & ΤΗ ΧΡΗΜΑΤΟΟΙΚΟΝΟΜΙΚΗ»
«ΣΤΟΧΑΣΤΙΚΕΣ ΔΙΕΡΓΑΣΙΕΣ & ΒΕΛΤΙΣΤΟΠΟΙΗΣΗ ΣΤΗ ΜΗΧΑΝΙΚΗ ΜΑΘΗΣΗ»

Εαρινό Εξάμηνο 2023: Αίθουσα 002, Τρίτη 8:45 – 10:30 και εργαστηριακή άσκηση 10:30 – 11:30

Διδάσκων: Ομότιμος Καθηγητής Βασίλης Μάγκλαρης

Υποστήριξη: ΕΕΔΙΠ Μαίρη Γραμματικού Υποψήφιοι Διδάκτορες Νίκος Κωστόπουλος, Δημήτρης Πανταζάτος

Course Outline in English is available here

Περιγραφή:

Επισκόπηση Αλγορίθμων Βελτιστοποίησης στη Μηχανική Μάθηση: Σχέση Μηχανικής Μάθησης (ML) και Τεχνητής Νοημοσύνης  (AI). Επιβλεπόμενη, μη επιβλεπόμενη, ενισχυτική μάθηση. Διακριτικά (Discriminative) & Παραγωγικά (Generative) Μοντέλα, το ChatGPT – Chat Generative Pre-trained Transformer). Σύνολα δεδομένων Training, Validation & Testing Datasets. Linear & Logistic Regression

Νευρωνικά Δίκτυα, κανόνας του Hebb. Προσδιορισμός παραμέτρων με επιβλεπόμενη μάθηση, Rosemblatt’s Perceptron, Back-Propagation Algorithm

Μη Επιβλεπόμενη Μάθηση: K-Means Clustering, Ανάλυση Κυρίων Συνιστωσών (Principal Components Analysis – PCA), Self-Organizing Maps (SOM), Autoencoders

Βασικές Έννοιες Στατιστικής Μηχανικής στη Μηχανική Μάθηση: Αλυσίδες Markov, ταξινόμηση καταστάσεων, πιθανότητες μετάβασης, εξισώσεις  Chapman – Kolmogorov, επαναληπτικότητα – παροδικότητα, αναλλοίωτες κατανομές, ασυμπτωτική συμπεριφορά

Μέθοδοι Monte Carlo προσομοίωσης αλυσίδων Markov, αλγόριθμος Metropolis – Hastings. Προσομοιωμένη Ανόπτηση (Simulated Annealing), δειγματοληψία Gibbs. Παραγωγικά Μοντέλα Μάθησης (Generative Models), Μηχανή Boltzmann, Restricted Boltzmann Machine (RBM), Δίκτυα Πεποίθησης Μεγάλου Βάθους (Deep Belief Nets – DBN)

Ενισχυτική Μάθηση και Δυναμικός Προγραμματισμός: Διαδικασίες Απόφασης Markov (Markov Decision Processes), κριτήριο βελτιστοποίησης Bellman (Bellman’s Optimality Criterion), αλγόριθμοι Δυναμικού Προγραμματισμού (Value & Policy Iteration algorithms). Προσεγγιστικές μέθοδοι δυναμικού προγραμματισμού, Temporal Difference (TD) & Q-Learning

Ενισχυτική Μάθηση για Δρομολόγηση στο Internet: Αλγόριθμος Bellman – Ford, Border Gateway Protocols (BGP) 

Αλγόριθμοι Πυρήνα και Διαχωρισιμότητα Προτύπων: Θεώρημα του Cover, εφαρμογές σε Radial-Basis Function (RBF) Networks, Υβριδική Μάθηση, Support Vector Machines (SVM)

Μη-παραμετρικοί Ταξινομητές, ταξινόμηση σύμφωνα με γνωστές κλάσεις K γειτονικών στοιχείων μάθησης, K-Nearest Neighbors (KNN)

Στατιστική αξιολόγηση δυαδικής ταξινόμησης, Confusion Matrix, Receiver Operating Characteristics (ROC) & Area Under the Curve (AUC), Παραμετρική Πιθανοτική Ταξινόμηση – κανόνας Bayes, προσεγγιστικές μέθοδοι, αλγόριθμος Naïve Bayes

Δένδρα Αποφάσεων (Decision Trees): Αλγόριθμοι διαμόρφωσης CART (Classification And Regression Trees), Gini Index, Random Forests, αλγόριθμοι Bagging (Bootstrap & aggregating)

Αναδρομικά Νευρωνικά Δίκτυα (Recurrent Neural Nets – RNN): Μοντέλα Συσχετισμένης Μνήμης (Associative Memory ή Content Addressable Memory – CAM), δίκτυα Hopfield, RNNs & ακολουθιακά μοντέλα δεδομένων (time/character series, speech processing), δίκτυα Long-Short Term Memory (LSTM)Επεξηγησιμότητα Τεχνητής Νοημοσύνης – eXplainable AI (XAI): Ορισμοί, Intrinsic & Model-Agnostic XAI Methods, PI (Permutation Feature Importance), SHAP (Shapley Additive exPlanations), LIME (Local Interpretable Model Agnostic Explanation)

Εργαστηριακές Ασκήσεις:

Στην Αίθουσα 2 της ΣΗΜΜΥ με χρήση εργαλείων – βιβλιοθηκών Python.

Προτεινόμενη Βιβλιογραφία:

1. Simon Haykin, “Neural Networks and Learning Machines”, 3^rd Edition, Pearson Education, 2009
2. Simon Haykin, “Νευρωνικά Δίκτυα και Μηχανική Μάθηση”, 3^η Έκδοση, Παπασωτηρίου, 2010
3. Bernhard Mehlig, “Machine learning with neural networks”, Cambridge Univ. Press, 2021 https://arxiv.org/pdf/1901.05639.pdf  
4. Μιχάλης Λουλάκης, “Στοχαστικές Διαδικασίες”, ΣΕΑΒ, 2015
5. Βασίλης Μάγκλαρης, “Σημειώσεις Μαθήματος Συστήματα Αναμονής”, ΣΗΜΜΥ – ΕΜΠ, 2018 http://www.netmode.ntua.gr/courses/undergraduate/queues/documents/Queuing_Systems_2018.pdf 
6. Kevin P. Murphy, “Machine Learning: A Probabilistic Perspective”, MIT Press, 2012
7. Ian Goodfellow, Yoshua Bengio and Aaron Courville, “Deep Learning”, MIT Press, 2016 https://www.deeplearningbook.org/ 
8. Daniel Jurafsky and James H. Martin, “Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition”, 3^rd  Edition draft, 2018
9. Andrew Ng, “CS229 Lecture Notes“, Stanford University, Fall 2018 https://see.stanford.edu/materials/aimlcs229/cs229-notes1.pdf
10. James Gareth, Daniela Witten, Trevor Hastie and Robert Tibshirani, “An Introduction to Statistical Learning with Applications in R“, 2^nd Edition, Springer, 2021 https://hastie.su.domains/ISLR2/ISLRv2_website.pdf
11. Richard Sutton and Andrew Barto, “Reinforcement Learning: An Introduction“, 2^nd Edition, MIT Press, 2018
12. Dimitri P. Bertsekas and John Tsitsiklis, “Neuro-Dynamic Programming”, Athena Scientific, Belmont MA, 1996
13. Christopher Bishop, “Pattern Recognition and Machine Learning”, Springer 2006
14. Tom Mitchell, “Machine Learning”, McGraw Hill, 1997 http://www.cs.cmu.edu/~tom/mlbook.html
15. Charu C. Aggarwal, “Outlier Analysis”, Springer 2013 https://link.springer.com/chapter/10.1007/978-1-4614-6396-2_1 
16. Christoph Molnar, “Interpretable Machine Learning”, 2^nd Edition, Munich, 2022  https://christophm.github.io/interpretable-ml-book/ 
17. Leonida Gianfagna and Antonio Di Cecco, “Explainable AI with Python”, Springer 2021 https://link.springer.com/book/10.1007/978-3-030-68640-6 
18. Robert Hogg, Joseph McKean and Allen Craig, “Introduction to Mathematical Statistics“, 8^th  Edition, Pearson Education, 2020
19. Frank Kelly, “Reversibility and Stochastic Networks“, Wiley, 1979 http://www.statslab.cam.ac.uk/~frank/BOOKS/book/whole.pdf
20. Sheldon Ross, “Applied Probability Models with Optimization Applications“, Dover, 1992

Ημερομηνία	Διαλέξη	Διαφάνειες
28/02/2023	Μηχανική Μάθηση & Τεχνητή Νοημοσύνη, Ορισμοί Συνόλων Δεδομένων (Datasets), Διακριτικά (Discriminative) & Παραγωγικά (Generative) Μοντέλα, το ChatGPT, Επιβλεπόμενη Μάθηση, Linear & Logistic Regression	Αρχείο
07/03/2023	Επισκόπηση Νευρωνικών Δικτύων, Κανόνας του Hebb, Ρύθμιση Παραμέτρων με Επιβλεπόμενη Μάθηση, Back Propagation Algorithm	Αρχείο
14/03/2023	Μη Επιβλεπόμενη Μάθηση – Unsupervised Learning: (i) K-Means Clustering, (ii) Ανάλυση Κυρίων Συνιστωσών – Principal Component Analysis (PCA), (iii) Self-Organizing Maps (SOM), (iv) Autoencoders	Αρχείο
21/03/2023	Μοντέλα Στατιστικής Μηχανικής, Κινητικότητα & Ισορροπία, Αλυσίδες Markov: Καταστάσεις, Εξισώσεις Μεταβάσεων	Αρχείο
28/03/2023	Προσομοίωση Monte Carlo Αλυσίδων Markov:  (i) Αλγόριθμοι Metropolis & Metropolis-Hastings, (ii) Markov Random Fields, Ising Model, (iii) Προσομοιωμένη Ανόπτηση – Simulated Annealing, (iv) Gibbs Sampling	Αρχείο
31/03/2023	Παραγωγικά Μοντέλα μη Επιβλεπόμενης Μάθησης: (i) Μηχανή Boltzmann, (ii) Παραγωγικά (Generative) Στοχαστικά Νευρωνικά Δίκτυα, (iii) Generative Adversarial Networks (GAN), (iv) Restricted Boltzmann Machine (RBM), Deep Belief Networks	Αρχείο
25/04/2023	Ενισχυτική Μάθηση – Δυναμικός Προγραμματισμός: (i) Markov Decision Processes, (ii) Bellman’s Optimality Criterion, (iii) Αλγόριθμος Policy Iteration, (iv) Αλγόριθμος Value Iteration	Αρχείο
02/05/2023	Ενισχυτική Μάθηση με Προσεγγιστικές Μεθόδους: (i) Μάθηση Χρονικών Διαφορών, TD (Temporal Difference) Learning, (ii) Στοχαστικός Αλγόριθμος Q-Learning, (iii) Κατανεμημένη Υλοποίηση Ενισχυτικής Μάθησης, (iv) Αλγόριθμος Bellman-Ford, Δρομολόγηση BGP στο Internet	Αρχείο
09/05/2023	Δυαδική Ταξινόμηση – Αλγόριθμοι Πυρήνα (Kernel Methods): (i) Διαχωρισιμότητα Προτύπων, Θεώρημα του Cover, (ii) Radial-Basis Function (RBF) Networks, (iii) RBF Hybrid Learning, (iv) Support Vector Machines (SVM)	Αρχείο
16/05/2023	(i) Μη-παραμετρικοί Ταξινομητές: Κ Πλησιέστερα Γειτονικά Στοιχεία (K-Nearest Neighbors – KNN), (ii) Στατιστική Αξιολόγηση Δυαδικής Ταξινόμησης: Μετρικές Αξιολόγησης Μεθόδων, Μήτρα Σύγχυσης, ROC, AUC, (iii) Παραμετρική Πιθανοτική Ταξινόμηση: Εκτίμηση MLE & MAP, Ταξινομητής Bayes, Αλγόριθμος Naive Bayes	Αρχείο
23/05/2023	Δένδρα Αποφάσεων (Decision Trees): (i) Αλγόριθμοι Διαμόρφωσης CART (Classification And Regression Trees), Gini Index, (ii) Random Forests, (iii) Αλγόριθμοι Bagging (Bootstrap & aggregating)	Αρχείο
30/05/2023	Αναδρομικά Νευρωνικά Δίκτυα – Recurrent Neural Networks (RNN): (i) Μοντέλα Συσχετισμένης Μνήμης, Δίκτυα Hopfield, (ii) Ακολουθιακά Μοντέλα Δεδομένων & RNN, (iii) Δίκτυα Long Short-Term Memory (LSTM)	Αρχείο
06/06/2023	Επεξηγησιμότητα Τεχνητής Νοημοσύνης – eXplainable AI (XAI): (i) Ορισμοί, Intrinsic & Model-Agnostic XAI Methods, (ii) PI (Permutation Feature Importance), (iii) SHAP (Shapley Additive exPlanations), (iv) LIME (Local Interpretable Model Agnostic Explanation)	Αρχείο