Όροι ποινής Η τακτοποίηση λειτουργεί ωθώντας τα δεδομένα προς συγκεκριμένες τιμές (όπως μικρές τιμές κοντά στο μηδέν). … Η τακτοποίηση L1 προσθέτει μια ποινή L1 ίση με την απόλυτη τιμή του μεγέθους των συντελεστών. Με άλλα λόγια, περιορίζει το μέγεθος των συντελεστών.
Πώς λειτουργεί η τακτοποίηση L1 και L2;
Η κύρια διαισθητική διαφορά μεταξύ της τακτοποίησης L1 και L2 είναι ότι η κανονικοποίηση L1 προσπαθεί να εκτιμήσει τη διάμεσο των δεδομένων ενώ η κανονικοποίηση L2 προσπαθεί να εκτιμήσει τη μέση τιμή των δεδομένων σε αποφύγετε την υπερβολική τοποθέτηση. … Αυτή η τιμή θα είναι επίσης η διάμεσος της κατανομής δεδομένων μαθηματικά.
Είναι καλύτερη η τακτοποίηση L1 ή L2;
Από πρακτική άποψη, το L1 τείνει να συρρικνώνει τους συντελεστές στο μηδέν ενώ το L2 τείνει να συρρικνώνει τους συντελεστές ομοιόμορφα. Το L1 είναι επομένως χρήσιμο για την επιλογή χαρακτηριστικών, καθώς μπορούμε να απορρίψουμε οποιεσδήποτε μεταβλητές που σχετίζονται με συντελεστές που πάνε στο μηδέν. Το L2, από την άλλη πλευρά, είναι χρήσιμο όταν έχετε συγγραμμικές/συνεξαρτώμενες λειτουργίες.
Πώς λειτουργεί το Regularizer;
Η τακτοποίηση λειτουργεί με προσθέτοντας έναν όρο ποινής ή πολυπλοκότητας ή όρο συρρίκνωσης με Υπολειπόμενο άθροισμα τετραγώνων (RSS) στο σύνθετο μοντέλο . β0, β1, ….. β Τοαντιπροσωπεύει τις εκτιμήσεις των συντελεστών για διαφορετικές μεταβλητές ή προγνωστικούς παράγοντες (X), που περιγράφει τα βάρη ή το μέγεθος που συνδέονται με τα χαρακτηριστικά, αντίστοιχα.
Πώς η τακτοποίηση L1 μειώνει την υπερβολική προσαρμογή;
Η τακτοποίηση
L1, επίσης γνωστή ως L1 norm ή Lasso (σε προβλήματα παλινδρόμησης), καταπολεμά την υπερπροσαρμογή, συρρικνώνοντας τις παραμέτρους προς το 0.