Regularizers σας επιτρέπουν να εφαρμόζετε ποινές σε παραμέτρους επιπέδου ή δραστηριότητα επιπέδου κατά τη βελτιστοποίηση. Αυτές οι ποινές αθροίζονται στη συνάρτηση απώλειας που βελτιστοποιεί το δίκτυο. Οι κυρώσεις τακτοποίησης εφαρμόζονται ανά στρώση.
Τι είναι ο ρυθμιστής δραστηριότητας;
Ο ρυθμιστής δραστηριότητας λειτουργεί ως συνάρτηση της εξόδου του καθαρού και χρησιμοποιείται κυρίως για την τακτοποίηση κρυφών μονάδων, ενώ ο weight_regularizer, όπως λέει το όνομα, λειτουργεί στα βάρη (π.χ. να τα κάνει να φθείρονται).
Πότε πρέπει να χρησιμοποιήσω το κανονικοποιητή δραστηριότητας;
Εάν θέλετε η συνάρτηση εξόδου να διέρχεται από την αρχή(ή να έχει μια τομή πιο κοντά στην αρχή), μπορείτε να χρησιμοποιήσετε τον ρυθμιστή πόλωσης. Εάν θέλετε η έξοδος να είναι μικρότερη (ή πιο κοντά στο 0), μπορείτε να χρησιμοποιήσετε τον κανονικοποιητή δραστηριότητας.
Πώς μπορώ να χρησιμοποιήσω το Keras regularizer;
Για να προσθέσετε έναν κανονικοποιητή σε ένα επίπεδο, έχετε απλώς για να περάσετε στην προτιμώμενη τεχνική τακτοποίησης στο όρισμα λέξης-κλειδιού του επιπέδου 'kernel_regularizer'. Οι μέθοδοι υλοποίησης τακτοποίησης Keras μπορούν να παρέχουν μια παράμετρο που αντιπροσωπεύει την τιμή της υπερπαραμέτρου κανονικοποίησης.
Τι είναι ο πυρήνας και η προκατάληψη;
Dense class
Dense υλοποιεί τη λειτουργία: output=activation(dot(input, kernel) + bias) όπου η ενεργοποίηση είναι η συνάρτηση ενεργοποίησης βάσει στοιχείων που μεταβιβάζεται ως όρισμα ενεργοποίησης, Ο πυρήνας είναι ένας πίνακας βαρών που δημιουργείται από το επίπεδο καιΤο bias είναι ένα διάνυσμα μεροληψίας που δημιουργείται από το επίπεδο (ισχύει μόνο εάν το use_bias είναι True).
