Τι δεν πάει καλά με την πίσω διάδοση;

Πίνακας περιεχομένων:

Τι δεν πάει καλά με την πίσω διάδοση;
Τι δεν πάει καλά με την πίσω διάδοση;
Anonim

Εν ολίγοις, δεν μπορείτε να κάνετε back-propagation εάν δεν έχετε αντικειμενική συνάρτηση. Δεν μπορείτε να έχετε αντικειμενική συνάρτηση εάν δεν έχετε ένα μέτρο μεταξύ μιας προβλεπόμενης τιμής και μιας τιμής με ετικέτα (πραγματικά δεδομένα ή δεδομένα εκπαίδευσης). Έτσι, για να επιτύχετε "μάθηση χωρίς επίβλεψη", μπορεί να έχετε χάσει τη δυνατότητα να υπολογίσετε μια κλίση.

Ποιοι είναι οι περιορισμοί της πίσω διάδοσης;

Μειονεκτήματα του Αλγόριθμου Back Propagation:

Βασίζεται στην είσοδο για την εκτέλεση ενός συγκεκριμένου προβλήματος. Ευαίσθητο σε πολύπλοκα/θορυβώδη δεδομένα. Χρειάζεται τα παράγωγα των συναρτήσεων ενεργοποίησης για το χρόνο σχεδιασμού του δικτύου.

Πώς διορθώνετε την αντίστροφη διάδοση;

Διαδικασία Backpropagation σε Deep Neural Network

  1. Τιμές εισαγωγής. Χ1=0,05. …
  2. Αρχικό βάρος. W1=0,15 w5=0,40. …
  3. Αξίες μεροληψίας. b1=0,35 b2=0,60.
  4. Τιμές στόχου. T1=0,01. …
  5. Εμπρός πάσο. Για να βρούμε την τιμή του H1 πολλαπλασιάζουμε πρώτα την τιμή εισόδου από τα βάρη ως. …
  6. Πέρασμα προς τα πίσω στο επίπεδο εξόδου. …
  7. Πάσο προς τα πίσω στο κρυφό επίπεδο.

Είναι αποτελεσματική η οπίσθια διάδοση;

Η οπίσθια διάδοση είναι αποτελεσματική, καθιστώντας εφικτή την εκπαίδευση δικτύων πολλαπλών επιπέδων που περιέχουν πολλούς νευρώνες, ενώ ενημερώνονται τα βάρη για την ελαχιστοποίηση της απώλειας.

Τι πρόβλημα λύνει η backpropagation όταν εργάζεστε με νευρωνικά δίκτυα;

Κατά την προσαρμογή ενός νευρωνικού δικτύου, η οπίσθια διάδοση υπολογίζει την κλίση τουη συνάρτηση απώλειας σε σχέση με τα βάρη του δικτύου για ένα παράδειγμα εισόδου-εξόδου, και το κάνει αποτελεσματικά, σε αντίθεση με έναν απλό άμεσο υπολογισμό της διαβάθμισης σε σχέση με κάθε βάρος ξεχωριστά.

Συνιστάται: