Μηχανική Μάθηση (ΣΜΗΝ: Μέθοδοι Επεξεργασίας με Τεχνικές Μηχανικής Μάθησης)


Ημερολόγιο Μαθήματος         



1η Εβδομάδα

Δευτέρα 6 Μαρτίου 2023

Καλυφθείσα Ύλη
Αντικείμενα μαθήματος, Απαραίτητο υπόβαθρο.
Θεωρία πιθανοτήτων: Χώρος Πιθανότητας, Τυχαίες μεταβλητές, Πυκνότητες πιθανότητας, Μέσος όρος, Νόμος των μεγάλων αριθμών.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης καθώς και σημειώσεις για τη Θεωρία Πιθανοτήτων:  

2η Εβδομάδα

Δευτέρα, 13 Μαρτίου 2023

Καλυφθείσα Ύλη
Θεωρία Πιθανοτήτων: Από κοινού πυκνότητα πιθανότητας, Δεσμευμένη πιθανότητα, δεσμευμένη πυκνότητα πιθανότητας, κανόνας Bayes, ισότητες.
Αλγόριθμοι Μάθησης: Επίλυση συστήματος εξισώσεων, Απλός επαναληπτικός αλγόριθμος, Βελτιστοποίηση συναρτήσεων, Gradient Descent/Ascent.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης:  

3η Εβδομάδα / 3rd

Δευτέρα, 20 Μαρτίου 2023

Καλυφθείσα Ύλη
Αλγόριθμοι μάθησης: Επίλυση αγνώστου συστήματος εξισώσεων με χρήση Νόμου Μεγάλων Αριθμών, Επίλυση αγνώστου συστήματος εξισώσεων με απλό επαναληπτικό αλγόριθμο μάθησης. Απλοϊκή ανάλυση συμπεριφοράς στοχαστικών αλγορίθμων μάθησης. Δίκαιη μέθοδος σύγκρισης στοχαστικών αλγορίθμων μάθησης ως προς την ακρίβεια και ταχύτητα σύγκλισης.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης, μια μικρή powerpoint παρουσίαση για αλγορίθμους μάθησης καθώς και Matlab παραδείγματα για LMS:  

4η Εβδομάδα

Δευτέρα, 27 Μαρτίου 2023

Καλυφθείσα Ύλη
Αλγόριθμοι μάθησης: Στοχαστικοί αλγόριθμοι για ελαχιστοποίηση συναρτήσεων, Stochastic gradient descent, Σύγκριση στοχαστικών αλγορίθμων ελαχιστοποίησης.
Νευρωνικά δίκτυα: Βασικές γεωμετρίες νευρωνικών δικτύων. Ιδιότητα της ολικής προσέγγισης. Μέθοδοι εκπαίδευσης.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης, τo σημαντικό άρθρο του Cybenko για προσέγγιση συναρτήσεων με νευρωνικά δίκτυα και ένα πρόσφατο βιβλίο αναφοράς για Deep Learning:  

5η Εβδομάδα

Δευτέρα, 3 Απριλίου 2023

Καλυφθείσα Ύλη
Εξέταση Υποθέσεων: Ντετερμινιστική λήψη αποφάσεων, Τυχαιοποιημένη λήψη αποφάσεων. Εξέταση δυαδικών υποθέσεων, Bayesian μέθοδος, Ελαχιστοποίηση πιθανότητας σφάλματος απόφασης. Εξέταση πολλαπλών υποθέσεων κατά Bayes, Ελαχιστοποίηση πιθανότητας σφάλματος απόφασης.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης και σημειώσεις για Εξέταση Υποθέσεων (στα Ελληνικά):  


ΠΑΣΧΑ ΤΟ              ΕΛΛΗΝΙΚΟΝ         

6η Εβδομάδα

Δευτέρα, 24 Απριλίου 2023

Καλυφθείσα Ύλη
Εξέταση Υποθέσεων και Κατηγοριοποίηση: Προβλήματα βελτιστοποίησης για εύρεση κανόνων απόφασης στο πρόβλημα της κατηγοριοποίησης. Χρήση για εκπαίδευση νευρωνικού δικτύου. Προβλήματα βελτιστοποίησης για εκτίμηση λόγου πιθανοφάνειας και μετασχηματισμών του. Εκτίμηση με νευρωνικά δίκτυα.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης και άρθρο για εκτίμηση λόγου πιθανοφάνειας:  

7η Εβδομάδα

Δευτέρα, 8 Μαΐου 2023

Καλυφθείσα Ύλη
Υλοποιήσεις τυχαίων μεταβλητών: Μέθοδος της αντίστροφης συνάρτησης κατανομής. Υλοποίηση Γκαουσιανών τυχαίων μεταβλητών. Μέθοδος της απόρριψης/αποδοχής. Μέθοδος των μετασχηματισμών. Ανταγωνιστικό πρόβλημα μεγίστου/ελαχίστου για τον προσδιορισμό του μετασχηματισμού (GANs).

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης, σημειώσεις για υλοποιήσεις, άρθρα σχετικά με GANs:  

8η Εβδομάδα

Δευτέρα, 15 Μαΐου 2023

Καλυφθείσα Ύλη
Θεωρία εκτίμησης παραμέτρων: Bayesian τεχνικές, Εκτιμητές MMSE, MAP, MAE. Εκτιμητής μέγιστης πιθανοφάνειας ML.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης καθώς και σημειώσεις για εκτίμηση παραμέτρων:  

9η Εβδομάδα

Τετάρτη, 24 Μαΐου 2023

Καλυφθείσα Ύλη
Αποκατάσταση εικόνων με GANs: Στατιστική περιγραφή δεδομένων με τη βοήθεια GANs. Θεωρητική ανάλυση του προβλήματος αποκατάστασης με τη βοήθεια της Στατιστικής Θεωρίας εκτίμησης. Αποκατάσταση από μετασχηματισμούς με άγνωστες παραμέτρους, Παραδείγματα. Διαχωρισμός εικόνων από μείξη.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης και συνοδευτικό υλικό:  

10η Εβδομάδα

Δευτέρα, 29 Μαΐου 2023

Καλυφθείσα Ύλη
Support Vector Machines: Πυρήνες για εκτίμηση πυκνότητας πιθανότητας. Πυρήνες Mercer, Διανυσματικοί χώροι, Χώροι εσωτερικού γινομένου (Hilbert), Αρχή της Ορθογωνιότητας, Representer Theorem.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης:  

11η Εβδομάδα

Τετάρτη, 31 Μαΐου 2023

Καλυφθείσα Ύλη

Μη Εποπτευόμενη Μάθηση: Ομαδοποίηση δεδομένων, Μέθοδος K-Means, Αλγόριθμος Προσδοκίας / Μεγιστοποίησης, Μείξη Gaussian τυχαίων μεταβλητών.

Μεταφορτώσεις
Κατεβάστε τις σελίδες της διάλεξης, επίσης σχετικά άρθρα και κεφάλαια βιβλίων για K-Means, EM αλγόριθμο και Μίξη Gaussian: