.
Το ALOPEX (ακρωνύμιο από το "ALgorithms Of Pattern EXtraction") είναι ένας αλγόριθμος μηχανικής μάθησης που βασίζεται σε συσχέτιση που προτάθηκε για πρώτη φορά από τους Τζανάκου και Χαρτ το 1974.
Στη μηχανική μάθηση, ο στόχος είναι να εκπαιδεύσετε ένα σύστημα ώστε να ελαχιστοποιεί μια συνάρτηση κόστους ή (αναφερόμενοι στο ALOPEX) μια συνάρτηση απόκρισης. Πολλοί αλγόριθμοι εκπαίδευσης, όπως η backpropagation, έχουν μια εγγενή ευαισθησία στο να «κολλήσουν» στα τοπικά ελάχιστα ή μέγιστα της συνάρτησης απόκρισης. Το ALOPEX χρησιμοποιεί μια διασταυρούμενη συσχέτιση διαφορών και μια στοχαστική διαδικασία για να το ξεπεράσει σε μια προσπάθεια να φτάσει στο απόλυτο ελάχιστο (ή μέγιστο) της συνάρτησης απόκρισης.
μέθοδος
Το ALOPEX, στην απλούστερη μορφή του ορίζεται από μια εξίσωση ενημέρωσης:
\( {\displaystyle \Delta \ W_{ij}(n)=\gamma \ \Delta \ W_{ij} (n-1)\Delta\R(n)+r_{i}(n)} \)
Οπου:
\( n\geq 0 \) είναι η επανάληψη ή το χρονικό βήμα.
\( {\displaystyle \Delta \ W_{ij}(n)} \) είναι η διαφορά μεταξύ της τρέχουσας και της προηγούμενης τιμής της μεταβλητής συστήματος \( {\displaystyle \ W_{ij}} \) στην επανάληψη n.
\( ) {\displaystyle \Delta \ R(n)} \) είναι η διαφορά μεταξύ της τρέχουσας και της προηγούμενης τιμής της συνάρτησης απόκρισης \( {\displaystyle \ R,} \)στην επανάληψη n n.
Το \( \gamma \) είναι η παράμετρος ρυθμού εκμάθησης ( \( {\displaystyle (\gamma \ <0} \) ελαχιστοποιεί το \( {\displaystyle R,} \) και \( {\displaystyle \gamma \ >0} \) μεγιστοποιεί το \( {\displaystyle R\ )} \)
\( {\displaystyle r_{i}(n)\sim \ N(0,\sigma \ ^{2})} \)
Συζήτηση
Ουσιαστικά, το ALOPEX αλλάζει κάθε μεταβλητή συστήματος \( {\displaystyle W_{ij}(n)} \) με βάση ένα γινόμενο: της προηγούμενης αλλαγής στη μεταβλητή \( \Delta \) \( {\displaystyle W_{ ij}(n-1)} \), την προκύπτουσα αλλαγή στη συνάρτηση κόστους \( \Delta R(n) \), και την παράμετρο του ρυθμού εκμάθησης \( \gamma \) . Περαιτέρω, για να βρεθεί το απόλυτο ελάχιστο (ή μέγιστο), προστίθεται η στοχαστική διαδικασία \( {\displaystyle r_{ij}(n)} \) (Gaussian ή άλλη) για να "σπρώξει" στοχαστικά τον αλγόριθμο από οποιαδήποτε τοπικά ελάχιστα.
βιβλιογραφικές αναφορές
Harth, E., & Tzanakou, E. (1974) Alopex: A στοχαστική μέθοδος για τον προσδιορισμό των οπτικών δεκτικών πεδίων. Vision Research, 14:1475-1482. Περίληψη από το ScienceDirect,
Hellenica World - Scientific Library
Από τη ελληνική Βικιπαίδεια http://el.wikipedia.org . Όλα τα κείμενα είναι διαθέσιμα υπό την GNU Free Documentation License
