Η Μέγιστη Εκτίμηση Πιθανότητας (VLE) είναι ένα γενικό μοντέλο για την εκτίμηση παραμέτρων μιας κατανομής πιθανότητας που εξαρτάται από τις παρατηρήσεις του δείγματος.
Με άλλα λόγια, το EMV μεγιστοποιεί την πιθανότητα των παραμέτρων των συναρτήσεων πυκνότητας που εξαρτώνται από την κατανομή πιθανότητας και τις παρατηρήσεις στο δείγμα.
Όταν μιλάμε για εκτίμηση μέγιστης πιθανότητας, πρέπει να μιλάμε για το λειτουργία μέγιστη πιθανότητα. Μαθηματικά, δίνεται ένα δείγμα x = (x1,…, Χν) και παράμετροι, θ = (θ1,…, Θν) έπειτα,
Μην πανικοβάλλεστε! Αυτό το σύμβολο σημαίνει το ίδιο με το άθροισμα των αθροισμάτων. Σε αυτήν την περίπτωση, ο πολλαπλασιασμός όλων των συναρτήσεων πυκνότητας εξαρτάται από τις παρατηρήσεις του δείγματος (xΕγώ) και οι παράμετροι θ.
Όσο μεγαλύτερη είναι η τιμή του L (θ | x), δηλαδή, η τιμή της συνάρτησης μέγιστης πιθανότητας, τόσο πιθανότερο θα είναι οι παράμετροι βάσει δείγματος.
Λογαριθμική συνάρτηση του EMV
Για να βρούμε τις εκτιμήσεις μέγιστης πιθανότητας πρέπει να διαφοροποιήσουμε (να αντλήσουμε) τα προϊόντα των λειτουργιών πυκνότητας και αυτός δεν είναι ο πιο άνετος τρόπος για να το κάνουμε.
Όταν συναντάμε περίπλοκες λειτουργίες, αυτό που μπορούμε να κάνουμε είναι ένας μονότονος μετασχηματισμός. Με άλλα λόγια, θα ήταν σαν να θέλουμε να προσελκύσουμε την Ευρώπη σε πραγματική κλίμακα. Πρέπει να το μειώσουμε ώστε να χωράει σε ένα φύλλο χαρτιού.
Σε αυτήν την περίπτωση, κάνουμε τον μονοτονικό μετασχηματισμό χρησιμοποιώντας φυσικούς λογάριθμους, καθώς είναι μονοτονικοί και αυξανόμενες συναρτήσεις. Μαθηματικά,
Οι ιδιότητες των λογαρίθμων μας επιτρέπουν να εκφράσουμε τον παραπάνω πολλαπλασιασμό ως το άθροισμα των φυσικών λογαρίθμων που εφαρμόζονται στις συναρτήσεις πυκνότητας.
Έτσι, ο μονοτονικός μετασχηματισμός από λογάριθμους είναι απλά μια «αλλαγή κλίμακας» σε μικρότερους αριθμούς.
Η εκτιμώμενη τιμή των παραμέτρων που μεγιστοποιούν την πιθανότητα των παραμέτρων της συνάρτησης μέγιστης πιθανότητας με λογάριθμους είναι ισοδύναμη με την εκτιμώμενη τιμή των παραμέτρων που μεγιστοποιούν την πιθανότητα των παραμέτρων της αρχικής συνάρτησης μέγιστης πιθανότητας.
Έτσι, πάντα θα ασχολούμαστε με τη μονότονη τροποποίηση της λειτουργίας μέγιστης πιθανότητας, δεδομένης της μεγαλύτερης ευκολίας υπολογισμών.
Περιέργεια
Όσο περίπλοκο και παράξενο μπορεί να φαίνεται το EMV, το εφαρμόζουμε συνεχώς χωρίς να το συνειδητοποιούμε.
Πότε?
Σε όλες τις εκτιμήσεις των παραμέτρων μιας γραμμικής παλινδρόμησης υπό κλασικές υποθέσεις. Πιο κοινά γνωστά ως τακτικά τετράγωνα (OLS).
Με άλλα λόγια, όταν εφαρμόζουμε OLS, εφαρμόζουμε EMV σιωπηρά, καθώς και τα δύο είναι ισοδύναμα ως προς τη συνέπεια.
Εφαρμογή
Όπως και άλλες μέθοδοι, το EMV βασίζεται σε επαναλήψεις. Δηλαδή, επαναλαμβάνοντας μια συγκεκριμένη λειτουργία όσες φορές απαιτείται για να βρείτε τη μέγιστη ή ελάχιστη τιμή μιας συνάρτησης. Αυτή η διαδικασία ενδέχεται να υπόκειται σε περιορισμούς στις τελικές τιμές των παραμέτρων. Για παράδειγμα, ότι το αποτέλεσμα είναι μεγαλύτερο ή ίσο με μηδέν ή ότι το άθροισμα των δύο παραμέτρων πρέπει να είναι μικρότερο από μία.
Το συμμετρικό μοντέλο GARCH και οι διαφορετικές επεκτάσεις του εφαρμόζουν το EMV για να βρουν την εκτιμώμενη τιμή των παραμέτρων που μεγιστοποιούν την πιθανότητα των παραμέτρων των συναρτήσεων πυκνότητας.