94ab679d2a
|
||
|---|---|---|
| .. | ||
| AutoEncodersPyTorch.ipynb | ||
| AutoencodersTF.ipynb | ||
| README.md | ||
README.md
Αυτόματοι Κωδικοποιητές
Κατά την εκπαίδευση CNNs, ένα από τα προβλήματα είναι ότι χρειαζόμαστε πολλά δεδομένα με ετικέτες. Στην περίπτωση της ταξινόμησης εικόνων, πρέπει να διαχωρίσουμε τις εικόνες σε διαφορετικές κατηγορίες, κάτι που απαιτεί χειροκίνητη προσπάθεια.
Προ-διάλεξης κουίζ
Ωστόσο, μπορεί να θέλουμε να χρησιμοποιήσουμε ακατέργαστα (χωρίς ετικέτες) δεδομένα για την εκπαίδευση εξαγωγέων χαρακτηριστικών CNN, κάτι που ονομάζεται αυτοεπιβλεπόμενη μάθηση. Αντί για ετικέτες, θα χρησιμοποιήσουμε εικόνες εκπαίδευσης τόσο ως είσοδο όσο και ως έξοδο του δικτύου. Η βασική ιδέα του αυτόματου κωδικοποιητή είναι ότι θα έχουμε ένα δίκτυο κωδικοποιητή που μετατρέπει την εικόνα εισόδου σε κάποιο λανθάνοντα χώρο (συνήθως είναι απλά ένας διάνυσμα μικρότερου μεγέθους), και στη συνέχεια το δίκτυο αποκωδικοποιητή, του οποίου ο στόχος είναι να ανακατασκευάσει την αρχική εικόνα.
✅ Ένας αυτόματος κωδικοποιητής είναι "ένας τύπος τεχνητού νευρωνικού δικτύου που χρησιμοποιείται για να μάθει αποδοτικούς κωδικούς δεδομένων χωρίς ετικέτες."
Καθώς εκπαιδεύουμε έναν αυτόματο κωδικοποιητή για να συλλάβει όσο το δυνατόν περισσότερες πληροφορίες από την αρχική εικόνα για ακριβή ανακατασκευή, το δίκτυο προσπαθεί να βρει την καλύτερη ενσωμάτωση των εικόνων εισόδου για να αποτυπώσει το νόημα.
Εικόνα από το Keras blog
Σενάρια χρήσης Αυτόματων Κωδικοποιητών
Ενώ η ανακατασκευή αρχικών εικόνων μπορεί να μην φαίνεται χρήσιμη από μόνη της, υπάρχουν μερικά σενάρια όπου οι αυτόματοι κωδικοποιητές είναι ιδιαίτερα χρήσιμοι:
- Μείωση διάστασης εικόνων για οπτικοποίηση ή εκπαίδευση ενσωματώσεων εικόνων. Συνήθως οι αυτόματοι κωδικοποιητές δίνουν καλύτερα αποτελέσματα από την PCA, επειδή λαμβάνουν υπόψη τη χωρική φύση των εικόνων και τα ιεραρχικά χαρακτηριστικά.
- Αποθορυβοποίηση, δηλαδή αφαίρεση θορύβου από την εικόνα. Επειδή ο θόρυβος περιέχει πολλές άχρηστες πληροφορίες, ο αυτόματος κωδικοποιητής δεν μπορεί να τον χωρέσει όλο στον σχετικά μικρό λανθάνοντα χώρο, και έτσι αποτυπώνει μόνο το σημαντικό μέρος της εικόνας. Κατά την εκπαίδευση αποθορυβοποιητών, ξεκινάμε με αρχικές εικόνες και χρησιμοποιούμε εικόνες με τεχνητά προστιθέμενο θόρυβο ως είσοδο για τον αυτόματο κωδικοποιητή.
- Υπερανάλυση, αύξηση της ανάλυσης εικόνας. Ξεκινάμε με εικόνες υψηλής ανάλυσης και χρησιμοποιούμε την εικόνα με χαμηλότερη ανάλυση ως είσοδο του αυτόματου κωδικοποιητή.
- Γενετικά μοντέλα. Αφού εκπαιδεύσουμε τον αυτόματο κωδικοποιητή, το μέρος του αποκωδικοποιητή μπορεί να χρησιμοποιηθεί για τη δημιουργία νέων αντικειμένων ξεκινώντας από τυχαία λανθάνοντα διανύσματα.
Παραλλαγμένοι Αυτόματοι Κωδικοποιητές (VAE)
Οι παραδοσιακοί αυτόματοι κωδικοποιητές μειώνουν τη διάσταση των δεδομένων εισόδου με κάποιο τρόπο, εντοπίζοντας τα σημαντικά χαρακτηριστικά των εικόνων εισόδου. Ωστόσο, τα λανθάνοντα διανύσματα συχνά δεν έχουν ιδιαίτερο νόημα. Με άλλα λόγια, αν πάρουμε το σύνολο δεδομένων MNIST ως παράδειγμα, ο εντοπισμός των ψηφίων που αντιστοιχούν σε διαφορετικά λανθάνοντα διανύσματα δεν είναι εύκολος, επειδή κοντινά λανθάνοντα διανύσματα δεν αντιστοιχούν απαραίτητα στα ίδια ψηφία.
Αντίθετα, για την εκπαίδευση γενετικών μοντέλων είναι καλύτερο να έχουμε κάποια κατανόηση του λανθάνοντα χώρου. Αυτή η ιδέα μας οδηγεί στον παραλλαγμένο αυτόματο κωδικοποιητή (VAE).
Ο VAE είναι ένας αυτόματος κωδικοποιητής που μαθαίνει να προβλέπει τη στατιστική κατανομή των λανθανόντων παραμέτρων, τη λεγόμενη λανθάνουσα κατανομή. Για παράδειγμα, μπορεί να θέλουμε τα λανθάνοντα διανύσματα να κατανέμονται κανονικά με κάποιο μέσο zmean και τυπική απόκλιση zsigma (τόσο ο μέσος όσο και η τυπική απόκλιση είναι διανύσματα κάποιας διάστασης d). Ο κωδικοποιητής στον VAE μαθαίνει να προβλέπει αυτές τις παραμέτρους, και στη συνέχεια ο αποκωδικοποιητής παίρνει ένα τυχαίο διάνυσμα από αυτή την κατανομή για να ανακατασκευάσει το αντικείμενο.
Συνοψίζοντας:
- Από το διάνυσμα εισόδου, προβλέπουμε
z_meanκαιz_log_sigma(αντί να προβλέπουμε την τυπική απόκλιση απευθείας, προβλέπουμε τον λογάριθμό της) - Δειγματοληπτούμε ένα διάνυσμα
sampleαπό την κατανομή N(zmean,exp(zlog_sigma)) - Ο αποκωδικοποιητής προσπαθεί να αποκωδικοποιήσει την αρχική εικόνα χρησιμοποιώντας το
sampleως διάνυσμα εισόδου
Εικόνα από αυτό το άρθρο του Isaak Dykeman
Οι παραλλαγμένοι αυτόματοι κωδικοποιητές χρησιμοποιούν μια σύνθετη συνάρτηση απώλειας που αποτελείται από δύο μέρη:
- Απώλεια ανακατασκευής, η οποία δείχνει πόσο κοντά είναι η ανακατασκευασμένη εικόνα στον στόχο (μπορεί να είναι το Μέσο Τετραγωνικό Σφάλμα, ή MSE). Είναι η ίδια συνάρτηση απώλειας όπως στους κανονικούς αυτόματους κωδικοποιητές.
- Απώλεια KL, η οποία διασφαλίζει ότι οι κατανομές των λανθανόντων μεταβλητών παραμένουν κοντά στην κανονική κατανομή. Βασίζεται στην έννοια της απόκλισης Kullback-Leibler - μια μέτρηση για την εκτίμηση της ομοιότητας δύο στατιστικών κατανομών.
Ένα σημαντικό πλεονέκτημα των VAEs είναι ότι μας επιτρέπουν να δημιουργούμε νέες εικόνες σχετικά εύκολα, επειδή γνωρίζουμε από ποια κατανομή να δειγματοληπτήσουμε λανθάνοντα διανύσματα. Για παράδειγμα, αν εκπαιδεύσουμε έναν VAE με 2D λανθάνον διάνυσμα στο MNIST, μπορούμε στη συνέχεια να μεταβάλλουμε τα συστατικά του λανθάνοντος διανύσματος για να πάρουμε διαφορετικά ψηφία:
Εικόνα από τον Dmitry Soshnikov
Παρατηρήστε πώς οι εικόνες συγχωνεύονται μεταξύ τους, καθώς αρχίζουμε να παίρνουμε λανθάνοντα διανύσματα από διαφορετικά μέρη του λανθάνοντος χώρου παραμέτρων. Μπορούμε επίσης να οπτικοποιήσουμε αυτόν τον χώρο σε 2D:
Εικόνα από τον Dmitry Soshnikov
✍️ Ασκήσεις: Αυτόματοι Κωδικοποιητές
Μάθετε περισσότερα για τους αυτόματους κωδικοποιητές στα αντίστοιχα notebooks:
Ιδιότητες Αυτόματων Κωδικοποιητών
- Ειδικοί για δεδομένα - λειτουργούν καλά μόνο με τον τύπο εικόνων που έχουν εκπαιδευτεί. Για παράδειγμα, αν εκπαιδεύσουμε ένα δίκτυο υπερανάλυσης σε λουλούδια, δεν θα λειτουργήσει καλά σε πορτρέτα. Αυτό συμβαίνει επειδή το δίκτυο μπορεί να παράγει εικόνα υψηλότερης ανάλυσης λαμβάνοντας λεπτομέρειες από χαρακτηριστικά που έμαθε από το σύνολο δεδομένων εκπαίδευσης.
- Με απώλειες - η ανακατασκευασμένη εικόνα δεν είναι ίδια με την αρχική εικόνα. Η φύση της απώλειας καθορίζεται από τη συνάρτηση απώλειας που χρησιμοποιείται κατά την εκπαίδευση.
- Λειτουργούν με δεδομένα χωρίς ετικέτες
Μετά-διάλεξης κουίζ
Συμπέρασμα
Σε αυτό το μάθημα, μάθατε για τους διάφορους τύπους αυτόματων κωδικοποιητών που είναι διαθέσιμοι στον επιστήμονα AI. Μάθατε πώς να τους κατασκευάζετε και πώς να τους χρησιμοποιείτε για την ανακατασκευή εικόνων. Μάθατε επίσης για τους VAE και πώς να τους χρησιμοποιείτε για τη δημιουργία νέων εικόνων.
🚀 Πρόκληση
Σε αυτό το μάθημα, μάθατε για τη χρήση αυτόματων κωδικοποιητών για εικόνες. Αλλά μπορούν επίσης να χρησιμοποιηθούν για μουσική! Δείτε το έργο MusicVAE του Magenta, το οποίο χρησιμοποιεί αυτόματους κωδικοποιητές για να μάθει να ανακατασκευάζει μουσική. Κάντε μερικά πειράματα με αυτήν τη βιβλιοθήκη για να δείτε τι μπορείτε να δημιουργήσετε.
Μετά-διάλεξης κουίζ
Ανασκόπηση & Αυτομελέτη
Για αναφορά, διαβάστε περισσότερα για τους αυτόματους κωδικοποιητές στις παρακάτω πηγές:
- Κατασκευή Αυτόματων Κωδικοποιητών στο Keras
- Άρθρο στο NeuroHive
- Επεξήγηση Παραλλαγμένων Αυτόματων Κωδικοποιητών
- Υπό όρους Παραλλαγμένοι Αυτόματοι Κωδικοποιητές
Εργασία
Στο τέλος του αυτού του notebook χρησιμοποιώντας TensorFlow, θα βρείτε μια 'εργασία' - χρησιμοποιήστε την ως την εργασία σας.
Αποποίηση Ευθύνης:
Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία αυτόματης μετάφρασης Co-op Translator. Παρόλο που καταβάλλουμε προσπάθειες για ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτόματες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα θα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή εσφαλμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.