Από πρακτική άποψη, το L1 τείνει να συρρικνώνει τους συντελεστές στο μηδέν ενώ το L2 τείνει να συρρικνώνει τους συντελεστές ομοιόμορφα. Επομένως, το L1 είναι χρήσιμο για την επιλογή χαρακτηριστικών, καθώς μπορούμε να απορρίψουμε τυχόν μεταβλητές που σχετίζονται με συντελεστές που πηγαίνουν στο μηδέν. Το L2, από την άλλη πλευρά, είναι χρήσιμο όταν έχετε συγγραμμικές/συνεξαρτώμενες λειτουργίες.
Ποια είναι η χρήση της τακτοποίησης Τι είναι η τακτοποίηση L1 και L2;
Η τακτοποίηση
L1 δίνει έξοδο σε δυαδικά βάρη από το 0 έως το 1 για τα χαρακτηριστικά του μοντέλου και υιοθετείται για τη μείωση του αριθμού των χαρακτηριστικών σε ένα τεράστιο σύνολο δεδομένων διαστάσεων. Η τακτοποίηση L2 διασκορπίζει τους όρους σφάλματος σε όλα τα βάρη που οδηγεί σε πιο ακριβή προσαρμοσμένα τελικά μοντέλα.
Ποιες είναι οι διαφορές μεταξύ της τακτοποίησης L1 και L2;
Η κύρια διαισθητική διαφορά μεταξύ της τακτοποίησης L1 και L2 είναι ότι η κανονικοποίηση L1 προσπαθεί να εκτιμήσει τη διάμεση τιμή των δεδομένων ενώ η τακτοποίηση L2 προσπαθεί να εκτιμήσει τη μέση τιμή των δεδομένων για να αποφύγει την υπερβολική προσαρμογή. … Αυτή η τιμή θα είναι επίσης η διάμεσος της κατανομής δεδομένων μαθηματικά.
Τι είναι η τακτοποίηση L1 και L2 στη βαθιά μάθηση;
Η τακτοποίηση
L2 είναι επίσης γνωστή ως αποσύνθεση βάρους καθώς αναγκάζει τα βάρη να φθάσουν προς το μηδέν (αλλά όχι ακριβώς στο μηδέν). Στο L1, έχουμε: Σε αυτό, τιμωρούμε την απόλυτη τιμή των βαρών. Σε αντίθεση με το L2, τα βάρη μπορεί να μειωθούν στο μηδέν εδώ. Ως εκ τούτου, είναι πολύ χρήσιμο όταν προσπαθούμε να συμπιεστούμετο μοντέλο μας.
Πώς λειτουργεί η τακτοποίηση L1 και L2;
Ένα μοντέλο παλινδρόμησης που χρησιμοποιεί την τεχνική τακτοποίησης L1 ονομάζεται παλινδρόμηση λάσο και το μοντέλο που χρησιμοποιεί L2 ονομάζεται παλινδρόμηση κορυφογραμμής. Η βασική διαφορά μεταξύ αυτών των δύο είναι ο όρος της ποινής. Η παλινδρόμηση κορυφογραμμής προσθέτει "τετράγωνο μέγεθος" του συντελεστή ως όρος ποινής στη συνάρτηση απώλειας.
