Στόχοι Μαθήματος: Το μάθημα "Βαθιά Μάθηση Ι" είναι το πρώτο από μία σειρά δύο μαθημάτων σχετικά με τη βαθιά μάθηση, με έμφαση στις βασικές έννοιες και τεχνικές. Το μάθημα αυτό καλύπτει τα θεμέλια της βαθιάς μάθησης, επιτρέποντας στους φοιτητές να κατανοήσουν πώς να κατασκευάζουν και να εκπαιδεύουν νευρωνικά δίκτυα αποτελεσματικά. Οι φοιτητές θα μάθουν τις βασικές αρχιτεκτονικές, την αρχή της μάθησης αναπαραστάσεων, μεθόδους εκπαίδευσης και βελτιστοποίησης, καθώς και εισαγωγή σε συνελικτικά και επαναλαμβανόμενα νευρωνικά δίκτυα. Στο τέλος του μαθήματος, οι φοιτητές θα είναι κατάλληλα προετοιμασμένοι για πιο προχωρημένα θέματα στο επόμενο μάθημα (Βαθιά Μάθηση ΙΙ) και για να ηγηθούν επιτυχημένων έργων μηχανικής μάθησης.
Μαθησιακά Αποτελέσματα: Με την ολοκλήρωση του μαθήματος, οι φοιτητές θα μπορούν να: (1) Περιγράφουν και να ταξινομούν τις θεμελιώδεις αρχές σχεδίασης συστημάτων βαθιάς μάθησης. (2) Υλοποιούν και να χρησιμοποιούν καθιερωμένες τεχνικές για την κατασκευή και εκπαίδευση βαθιών νευρωνικών δικτύων. (3) Συνοψίζουν και να αξιολογούν κριτικά επιστημονικά άρθρα σχετικών θεμάτων. (4) Εφαρμόζουν μεθόδους βαθιάς μάθησης σε ολοκληρωμένα έργα, από τη διατύπωση προβλήματος έως την υλοποίηση και αξιολόγηση μοντέλου.
Περιεχόμενο Μαθήματος: (1) Εισαγωγή στη Βαθιά Μάθηση: Ιστορικό, σημασία και εφαρμογές. (2) Βασικά Νευρωνικά Δίκτυα: Perceptrons, συναρτήσεις ενεργοποίησης, πολυεπίπεδα δίκτυα, αλγόριθμος backpropagation. (3) Αναπαραστάσεις Δεδομένων: Μάθηση χαρακτηριστικών αυτόματα έναντι παραδοσιακής εξαγωγής χαρακτηριστικών. (4) Εκπαίδευση Νευρωνικών Δικτύων: Στοχαστική καθοδική κλίση και παραλλαγές, συναρτήσεις κόστους, σταθερότητα εκπαίδευσης. (5) Κανονικοποίηση: L2, dropout, early stopping, και η επίδρασή τους στη γενίκευση. (6) Βελτιστοποίηση και Ρύθμιση Υπερπαραμέτρων: Ρυθμός μάθησης, μέγεθος batch, αρχικοποίηση, κανονικοποίηση batch. (7) Συνελικτικά Δίκτυα (CNNs): Αρχές, αρχιτεκτονικές, και εξαγωγή χωρικών χαρακτηριστικών. (8) Επαναλαμβανόμενα Δίκτυα (RNNs): Μοντελοποίηση ακολουθιών, LSTM/GRU.