Πιθανότητες και Τυχαία Σήματα

Σύντομη εισαγωγή στην θεωρία πιθανοτήτων (σύνολα, μοντέλα πιθανοτήτων, αξιωματικός ορισμός, δεσμευμένη πιθανότητα, κύρια θεωρήματα, ανεξαρτησία). Τυχαίες μεταβλητές – τ.μ. - ορισμός και βασικές έννοιες, - διακριτές τ.μ.: συναρτήσεις μάζας πιθανότητας, συναρτήσεις τ.μ., μέση τιμή και διασπορά, από κοινού συνάρτηση μάζας πιθανότητας πολλαπλών τ.μ., δέσμευση, ανεξαρτησία, - συνεχείς τ.μ.: συνάρτηση πυκνότητας πιθανότητας, αθροιστική συνάρτηση κατανομής, κανονικές τ.μ., δεσμευμένη συνάρτηση πυκνότητας πιθανότητας από ένα γεγονός, πολλαπλές συνεχείς τ.μ., κατανομές συναρτήσεων τ.μ. Επιπλέον έννοιες τ.μ. (αθροίσματα ανεξάρτητων τ.μ. συνέλιξη, περισσότερα για δεσμευμένη μέση τιμή και διασπορά, άθροισμα τυχαίου αριθμού ανεξάρτητων τ.μ., συνδιασπορά και συσχέτιση. Εισαγωγή στις στοχαστικές διαδικασίες Bernoulli και Poisson. Τυχαία διανύσματα, πολυδιάστατες κανονικές κατανομές, γραμμικοί μετασχηματισμοί τυχαίων διανυσμάτων. Τυχαία σήματα: ορισμός, ερμηνεία, ειδικές περιπτώσεις. Αναμενόμενες τιμές και συνάρτηση αυτοσυσχέτισης τυχαίων σημάτων. Στασιμότητα. Πυκνότητα φάσματος ισχύος. Απόκριση γραμμικών, χρονικά-αναλλοίωτων συστημάτων σε τυχαία σήματα.

Στόχοι Μαθήματος

Ο φοιτητής, μετά την επιτυχή ολοκλήρωση του μαθήματος αναμένεται να κατανοεί και να μπορεί να χειριστεί όλες τις βασικές έννοιες των πιθανοτήτων, των τυχαίων μεταβλητών, των κατανομών, των τυχαίων διανυσμάτων, τυχαίων διαδικασιών και σημάτων, συναρτήσεων συσχέτισης και συνδιακύμανσης. Επίσης διδάσκονται οι έννοιες της πυκνότητας φάσματος ισχύος, γραμμικών μετασχηματισμών τυχαίων διανυσμάτων, και του γραμμικού φιλτραρίσματος τυχαίων σημάτων. Οι έννοιες των πιθανοτήτων και στατιστικής που διδάσκονται είναι η απαραίτητη βάση για μαθήματα στις περιοχές της αναγνώρισης προτύπων, μηχανικής μάθησης, τεχνητής νοημοσύνης, στατιστικής επεξεργασίας σήματος, επεξεργασίας φωνής, εικόνας και βίντεο, συστήματα τηλεπικοινωνιών, δίκτυα υπολογιστών, κ.λ.π. που διδάσκονται στις πολυτεχνικές σχολές και στις σχολές πληροφορικής. Μέσα από τις εργαστηριακές ασκήσεις στο MATLAB δίνεται η δυνατότητα στο φοιτητή να αποκτήσει μια πιο άμεση κατανόηση της εφαρμογής της θεωρίας στην πράξη.

Προαπαιτούμενες Γνώσεις

Προαπαιτούνται: Βασικές γνώσεις μαθηματικών όπως αυτές που διδάσκονται στο μάθημα: Μαθηματικά Ι Συνιστώνται: βασικές γνώσεις σημάτων και συστημάτων.

Περιεχόμενα

Δ1. Εφαρμογές Πιθανοτήτων & Στατιστικής Δ2. Εισαγωγή στις Πιθανότητες. Θεμελιώδεις έννοιες, δειγματοχώρος, Άλγεβρα Γεγονότων, Μέτρο πιθανότητας, Υπό συνθήκη πιθανότητα, Βασικοί κανόνες πιθανοτήτων Δ3. Ανεξαρτησία, Υπό συνθήκη ανεξαρτησία, Δίκτυα Bayes Δ4. Διακριτές τυχαίες μεταβλητές, ορισμός, παραδείγματα, συνάρτηση μάζας πιθανότητας, συνάρτηση κατανομής Δ5-Δ6. Κανόνες πιθανοτήτων για τυχαίες μεταβλητές, Ανεξαρτησία τυχαίων μεταβλητών, Συναρτήσεις τυχαίων μεταβλητών, Αναμενόμενη τιμή Δ7-Δ8. Συνεχείς τυχαίες μεταβλητές. Ορισμός, Παραδείγματα. Συνάρτηση Πυκνοτητας πιθανότητας, Συνάρτηση κατανομής, Κανόνες πιθανοτήτων για συνεχείς τυχαίες μεταβλητές, Ανεξαρτησία, Συναρτήσεις συνεχών τυχαίων μεταβλητών, Αναμενόμενες τιμές. Δ9-Δ10. Συνδυαστική. Συνήθεις Κατανομές (Bernoulli, Διωνυμική, Γεωμετρική, Poisson, Εκθετική, Ομοιόμορφη, Κανονική) Δ11-Δ12. Παραδείγματα κατανομών, Αδύναμος Νόμος των Μεγάλων Αριθμών- Ισχυρός Νόμος των Μεγάλων Αριθμών- Θεώρημα Κεντρικού Ορίου Δ13-Δ14. Τυχαία Διανύσματα Δ15-Δ16. Επανάληψη στα Τυχαία Διανύσματα. ΤΔ και συσχέτιση/ανεξαρτησία, Πολυδιάστατη κανονική κατανομή, Παραδείγματα Δ17-Δ18. Εισαγωγή στα τυχαία σήματα, Αναμενόμενες τιμές Τ.Σ. Αντιστοιχία με Τυχαία Μεταβλητή και Τυχαίο Διάνυσμα, Ειδικές περιπτώσεις τυχαίων σημάτων (Bernoulli, Poisson,Markov), Αλυσίδες και μοντέλα Markov Δ19. Στασιμότητα τυχαίων σημάτων, Αυστηρά στατικές, Στατικές υπό την ευρεία έννοια, Αυτοσυσχέτιση, Ιδιότητες αυτοσυσχέτισης Δ20-Δ21. Πυκνότητα Φάσματος Ισχύος, Ιδιότητες Πυκνότητας φάσματος ισχύος, Λευκός θόρυβος, Βαθυπερατά και Ζωνοπερατά σήματα, Πυκνότητα Φάσματος Ισχύος τυχαίων σημάτων διακριτού χρόνου, Παραδείγματα Δ22-Δ23. Διέλευση μέσω γραμμικών συστημάτων, Απόκριση διακριτών και συνεχών ΓΧΑ συστημάτων, Αυτοσυσχέτιση ΓΧΑ συστημάτων, Μετασχηματισμός Fourier της κρουστικής απόκρισης συστήματος, Είσοδος στατικών σημάτων, Γραμμικοί μετασχηματισμοί Τ.Δ., Πυκνότητα Φάσματος Ισχύος εξόδου, Παραδείγματα