Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση

Πρόγραμμα Μεταπτυχιακών Σπουδών “Επιστήμη Δεδομένων και Μηχανική Μάθηση”

Εαρινό Εξάμηνο 2025: Αίθουσα 002, Τρίτη 8:45 – 10:30 και εργαστηριακή άσκηση 10:30 – 11:30 (Έναρξη Τρίτη 11/2/2025)

Διδάσκων: Ομότιμος Καθηγητής Βασίλης Μάγκλαρης

Υποστήριξη: ΕΕΔΙΠ Μαίρη Γραμματικού, Υπ. Δρ. Δημήτρης Πανταζάτος

Course Outline in English is available here

Περιγραφή:

Επισκόπηση Αλγορίθμων Βελτιστοποίησης στη Μηχανική Μάθηση: Σχέση Μηχανικής Μάθησης (ML) και Τεχνητής Νοημοσύνης (AI). Επιβλεπόμενη, μη επιβλεπόμενη, ενισχυτική μάθηση. Διακριτικά (Discriminative) & Παραγωγικά (Generative) Μοντέλα, το ChatGPT (Chat Generative Pre-trained Transformer). Σύνολα δεδομένων Training, Validation & Testing Datasets. Linear & Logistic Regression

Νευρωνικά Δίκτυα, κανόνας του Hebb. Προσδιορισμός παραμέτρων με επιβλεπόμενη μάθηση, Rosemblatt’s Perceptron, Back-Propagation Algorithm

Μη Επιβλεπόμενη Μάθηση: K -Means Clustering, Ανάλυση Κυρίων Συνιστωσών (Principal Components Analysis – PCA), Self-Organizing Maps (SOM), Autoencoders

Βασικές Έννοιες Στατιστικής Μηχανικής στη Μηχανική Μάθηση: Αλυσίδες Markov, ταξινόμηση καταστάσεων, πιθανότητες μετάβασης, εξισώσεις Chapman – Kolmogorov, επαναληπτικότητα – παροδικότητα, αναλλοίωτες κατανομές, ασυμπτωτική συμπεριφορά

Μέθοδοι Monte Carlo προσομοίωσης αλυσίδων Markov, αλγόριθμος Metropolis – Hastings. Προσομοιωμένη Ανόπτηση (Simulated Annealing), δειγματοληψία Gibbs. Παραγωγικά Μοντέλα Μάθησης (Generative Models), Μηχανή Boltzmann, Restricted Boltzmann Machine (RBM), Δίκτυα Πεποίθησης Μεγάλου Βάθους (Deep Belief Nets – DBN)

Ενισχυτική Μάθηση και Δυναμικός Προγραμματισμός: Διαδικασίες Απόφασης Markov (Markov Decision Processes), κριτήριο βελτιστοποίησης Bellman (Bellman’s Optimality Criterion), αλγόριθμοι Δυναμικού Προγραμματισμού (Value & Policy Iteration algorithms). Προσεγγιστικές μέθοδοι δυναμικού προγραμματισμού, Temporal Difference (TD) & Q-Learning

Ενισχυτική Μάθηση για Δρομολόγηση στο Internet: Αλγόριθμος Bellman – Ford, Border Gateway Protocols (BGP)

Αλγόριθμοι Πυρήνα και Διαχωρισιμότητα Προτύπων: Θεώρημα του Cover, εφαρμογές σε Radial-Basis Function (RBF) Networks, Υβριδική Μάθηση, Support Vector Machines (SVM)

Μη-παραμετρικοί Ταξινομητές, ταξινόμηση σύμφωνα με γνωστές κλάσεις K γειτονικών στοιχείων μάθησης, K -Nearest Neighbors (KNN)

Στατιστική αξιολόγηση δυαδικής ταξινόμησης, Confusion Matrix, Receiver Operating Characteristics (ROC) & Area Under the Curve (AUC), Παραμετρική Πιθανοτική Ταξινόμηση – κανόνας Bayes, προσεγγιστικές μέθοδοι, αλγόριθμος Naïve Bayes

Δένδρα Αποφάσεων (Decision Trees): Αλγόριθμοι διαμόρφωσης CART (Classification And Regression Trees), Gini Index, Random Forests, αλγόριθμοι Bagging (Bootstrap & aggregating)

Αναδρομικά Νευρωνικά Δίκτυα (Recurrent Neural Nets – RNN): Μοντέλα Συσχετισμένης Μνήμης (Associative Memory ή Content Addressable Memory – CAM), δίκτυα Hopfield, RNNs & ακολουθιακά μοντέλα δεδομένων (time/character series, speech processing), δίκτυα Long-Short Term Memory (LSTM)

Επεξηγησιμότητα Τεχνητής Νοημοσύνης – eXplainable AI (XAI): Ορισμοί, Intrinsic & Model-Agnostic XAI Methods, PI (Permutation Feature Importance), SHAP (Shapley Additive exPlanations), LIME (Local Interpretable Model Agnostic Explanation)

Εργαστηριακές Ασκήσεις:

Στην Αίθουσα 002 της ΣΗΜΜΥ με χρήση εργαλείων – βιβλιοθηκών Python.

Προτεινόμενη Βιβλιογραφία:

  1. Simon Haykin, “Neural Networks and Learning Machines”, 3rd Edition, Pearson Education, 2009
  2. Simon Haykin, “Νευρωνικά Δίκτυα και Μηχανική Μάθηση”, 3η Έκδοση, Παπασωτηρίου, 2010 (in Greek)
  3. Bernhard Mehlig, “Machine learning with neural networks”, Cambridge Univ. Press, 2021 https://arxiv.org/pdf/1901.05639.pdf  
  4. Μιχάλης Λουλάκης, “Στοχαστικές Διαδικασίες”, ΣΕΑΒ, 2015 (in Greek)
  5. Βασίλης Μάγκλαρης, “Σημειώσεις Μαθήματος Συστήματα Αναμονής”, ΣΗΜΜΥ – ΕΜΠ, 2018 http://www.netmode.ntua.gr/courses/undergraduate/queues/documents/Queuing_Systems_2018.pdf (in Greek)
  6. Kevin P. Murphy, “Machine Learning: A Probabilistic Perspective”, MIT Press, 2012
  7. Ian Goodfellow, Yoshua Bengio and Aaron Courville, “Deep Learning”, MIT Press, 2016 https://www.deeplearningbook.org/ 
  8. Daniel Jurafsky and James H. Martin, “Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition”, 3rd  Edition draft, 2018
  9. Andrew Ng, “CS229 Lecture Notes“, Stanford University, Fall 2018 https://see.stanford.edu/materials/aimlcs229/cs229-notes1.pdf
  10. James Gareth, Daniela Witten, Trevor Hastie and Robert Tibshirani, “An Introduction to Statistical Learning with Applications in R“, 2nd Edition, Springer, 2021 https://hastie.su.domains/ISLR2/ISLRv2_website.pdf
  11. Richard Sutton and Andrew Barto, “Reinforcement Learning: An Introduction“, 2nd Edition, MIT Press, 2018
  12. Dimitri P. Bertsekas and John Tsitsiklis, “Neuro-Dynamic Programming”, Athena Scientific, Belmont MA, 1996
  13. Christopher Bishop, “Pattern Recognition and Machine Learning”, Springer 2006
  14. Tom Mitchell, “Machine Learning”, McGraw Hill, 1997 http://www.cs.cmu.edu/~tom/mlbook.html
  15. Charu C. Aggarwal, “Outlier Analysis”, Springer 2013 https://link.springer.com/chapter/10.1007/978-1-4614-6396-2_1 
  16. Christoph Molnar, “Interpretable Machine Learning”, 2nd Edition, Munich, 2022  https://christophm.github.io/interpretable-ml-book/ 
  17. Leonida Gianfagna and Antonio Di Cecco, “Explainable AI with Python”, Springer 2021 https://link.springer.com/book/10.1007/978-3-030-68640-6 
  18. Robert Hogg, Joseph McKean and Allen Craig, “Introduction to Mathematical Statistics“, 8th  Edition, Pearson Education, 2020
  19. Frank Kelly, “Reversibility and Stochastic Networks“, Wiley, 1979 http://www.statslab.cam.ac.uk/~frank/BOOKS/book/whole.pdf
  20. Sheldon Ross, “Applied Probability Models with Optimization Applications“, Dover, 1992
ΗμερομηνίαΔιαλέξη Διαφάνειες  
11/02/2025Introduction: Machine Learning (ML) & Artificial Intelligence (AI); Definitions of Datasets; Discriminative & Generative AI Models; Supervised Learning, Linear & Logistic Regression (Part 1, Part 2)Αρχείο
18/02/2025Overview of Neural Networks; Hebb’s Rule; Weight Tuning via Supervised Learning; Back Propagation AlgorithmΑρχείο
25/02/2025Unsupervised Learning; 𝑲-Means Clustering; Principal Component Analysis (PCA); Autoencoders (Part 1, Part 2)Αρχείο
04/03/2025Stochastic Methods Rooted in Statistical Mechanics; Markov Chains: Definitions of States & Transitions; Stationarity & Ergodic Probabilities; Global & Detailed Balance EquationsΑρχείο
11/03/2025Metropolis-Hastings Algorithm; Gibbs Sampling;Markov Random Fields, Ising Model, Simulated Annealing (Part 1, Part 2)Αρχείο
18/03/2025Boltzmann Machine; Gibbs Sampling & Bayesian Statistics; Boltzmann Learning Rule, Maximum Likelihood Principle; Generative Models, Generative Adversarial Network (GAN)Αρχείο
01/04/2025Restrictive Boltzmann Machine (RBM); Contrastive Divergence Algorithm; Deep Belief Networks (DBN)Αρχείο
08/04/2025Reinforcement Learning – Dynamic Programming; Markov Decision Processes; Bellman’s Optimality Criterion; Policy Iteration Algorithm; Value Iteration AlgorithmΑρχείο
29/04/2025Model-Free Methods in Reinforcement Learning:Direct Approximations, Random Trajectories & State-Action Counting, Temporal-Difference & Stochastic Q-Learning; Distributed Multi-Agent Reinforcement Learning; Bellman-Ford Algorithm, BGP Routing in the InternetΑρχείο
06/05/2025Binary Classification – Kernel Methods: Separability of Patterns, Cover’s Theorem; Radial-Basis Function (RBF) Networks; RBF Hybrid Learning; Support Vector Machines (SVM)Αρχείο
13/05/2025Non-Parametric Classifiers, K-Nearest Neighbors – KNN; 2. Statistical Evaluation of Binary Classification: Confusion Matrix, ROC, AUC; 3. Parametric Probabilistic Classification: MLE & MAP Estimation, Bayes & Naive Bayes ClassifiersΑρχείο
20/05/2025Decision Trees: 1. Classification And Regression Trees (CART), Gini Index, 2. Random Forests, 3. Bagging (Bootstrap & aggregating) AlgorithmsΑρχείο
21/05/2025Recurrent Neural Networks (RNN): 1. Memory Models, 2. Hopfield Recurrent Networks, 3. Long Short-Term Memory (LSTM) Networks; Large Language Models (LLM)

eXplainable AI (XAI): 1. Definitions, Intrinsic & Model-Agnostic XAI Methods, 2. PI (Permutation Feature Importance), 3. SHAP (Shapley Additive exPlanations), 4. LIME (Local Interpretable Model Agnostic Explanation)		Αρχείο



Αρχείο

Skip to content