Randomness · 4·~38 min read·🟡 Operational definition — όλες οι επόμενες σελίδες την υποθέτουν

Stationarity & ergodicity — η λειτουργική έννοια από εδώ και κάτω

1. Νιώσε — γιατί αυτή η σελίδα είναι «το λεξιλόγιο που θα χρησιμοποιήσουμε από εδώ και κάτω»

Στο /randomness/random-processes χτίσαμε την πλήρη μηχανή της ΤΔ:

m_{X} (t), R_{X} (t_{i}, t_{j}), C_{X} (t_{i}, t_{j}), R_{X, Y} (t_{1}, t_{2}), C_{X, Y} (t_{1}, t_{2})

Πέντε συναρτήσεις, δύο χρονικές μεταβλητές σε κάθε δι-χρονική ποσότητα. Στην πλήρη Άσκηση 1 της σελίδας Random processes (slides 14–19) είδαμε ότι ο $m_{X} (t)$ μπορεί να εξαρτάται απ' τον $t$ και η $R_{X} (t_{1}, t_{2})$ να εξαρτάται μόνο απ' τη διαφορά — αλλά δεν είναι αυτονόητο.

Εδώ ορίζουμε τη συνθήκη που κάνει όλη αυτή τη μηχανή να δουλεύει. Αν ένα random σήμα έχει στατιστικές αμετάβλητες σε χρονική μετατόπιση — δηλαδή δεν του συμβαίνει αυτό που χάλασε την WSS στην Άσκηση 1 (το κεντρικό παράδειγμα που λύσαμε στην προηγούμενη σελίδα Random processes §9: εκεί ο μέσος $m_{X} (t) = - \frac{2 A}{π} sin (2 π f_{1} t)$ εξαρτιόταν από τον χρόνο) — τότε:

ο $m_{X} (t)$ γίνεται σταθερά $m_{X}$ (όχι συνάρτηση),
η $R_{X} (t_{1}, t_{2})$ γίνεται $R_{X} (τ)$ (συνάρτηση μιας μεταβλητής),
ορίζεται με σαφή τρόπο η ισχύς $R_{X} (0)$ ,
η PSD $S_{X} (f)$ της επόμενης σελίδας μπορεί καν να ορισθεί ως FT της $R_{X} (τ)$ ,
ο θερμικός θόρυβος, το λευκό θόρυβο, το PSD-μέσα-από-LTI, και το AM/FM-σε-θόρυβο όλα χτίζονται πάνω σε αυτή τη συνθήκη.

Από ΤΔ (Random processes)	Με WSS (αυτή η σελίδα)	Επόμενη σελίδα
$m_{X} (t)$ — συνάρτηση του $t$	$m_{X} = const$	Σταθερή τιμή για AM-carrier ή DC-bias
$R_{X} (t_{1}, t_{2})$ — δύο χρόνοι	$R_{X} (τ)$ — μία μεταβλητή	PSD: $S_{X} (f) = F {R_{X} (τ)}$
$C_{X} (t_{1}, t_{2})$ — δύο χρόνοι	$C_{X} (τ) = R_{X} (τ) - m_{X}^{2}$	Διαχωρισμός carrier-από-message
$E [X^{2} (t)]$ — εξαρτάται από $t$ γενικά	$P_{X} = R_{X} (0)$ — σταθερή	Ισχύς θορύβου σε δέκτη

Τι ξεκλειδώνει το WSS — και γιατί κάθε επόμενη σελίδα το θεωρεί δεδομένο

Οι επόμενες 5+ σελίδες του site όλες ξεκινούν με «έστω WSS ΤΔ $X (t)$ με $R_{X} (τ)$ …»:

Σελίδα	Τι κάνει υποθέτοντας WSS
/randomness/psd	Wiener-Khinchin: $S_{X} (f) = F {R_{X} (τ)}$ — χωρίς WSS, το $R_{X}$ έχει δύο μεταβλητές και η FT δεν ορίζεται καθαρά
/noise/sources	Θερμικός θόρυβος ορίζεται ως WSS Gaussian ΤΔ με συγκεκριμένη PSD
/noise/white-noise	Λευκός θόρυβος: WSS με $R_{X} (τ) = (N_{0} /2) δ (τ)$
/noise/through-filters	$R_{Y} (τ) = R_{X} (τ) * h (τ) * h (- τ)$ — όλη η formula χρειάζεται WSS-input
/am/modulator-demodulator & /fm/in-noise	$SNR = P_{signal} / P_{noise}$ όπου $P_{noise} = R_{N} (0)$

Αν δεν «κάνει κλικ» το WSS εδώ, όλη η ανάλυση SNR και θορύβου γίνεται μαύρο κουτί. Στόχος της σελίδας: στο τέλος, όταν δεις «έστω WSS ΤΔ με $R_{X} (τ) = \dots$ », να ξέρεις ακριβώς τι σου επιτρέπει αυτή η φράση να κάνεις.

2. Αυστηρά Στάσιμη (SSS) — slide 20

Η πιο αυστηρή μορφή stationarity είναι η εξής. Μια ΤΔ $X (t)$ είναι αυστηρά στάσιμη (strict-sense stationary, SSS) αν για κάθε χρονική μετατόπιση $τ$ οι ΤΔ $X (t)$ και $X (t + τ)$ έχουν ακριβώς την ίδια στατιστική — δηλαδή ολόκληρη η joint PDF είναι αμετάβλητη σε μετατόπιση του χρόνου:

f_{X (t_{1}), X (t_{2}), \dots} (a_{1}, a_{2}, \dots) = f_{X (t_{1} + τ), X (t_{2} + τ), \dots} (a_{1}, a_{2}, \dots)

ή, πιο συμπυκνωμένα — γράφοντας με διάνυσμα $a = (a_{1}, a_{2}, \dots, a_{n})$ και εννοώντας με $X (t)$ ολόκληρη τη συλλογή $(X (t_{1}), \dots, X (t_{n}))$ :

f_{X (t)} (a) = f_{X (t + τ)} (a) .

Προσοχή — μην μπερδέψεις αυτή τη σύντομη γραφή με «μία χρονική στιγμή». Το $a$ είναι διάνυσμα και το $X (t)$ κρύβει όλες τις στιγμές $t_{1}, \dots, t_{n}$ μαζί· η σύντομη γραφή λέει ακριβώς ό,τι κι η αναλυτική από πάνω — όχι κάτι πιο αδύναμο για μία μόνο στιγμή.

Διάβασε αργά: η ολόκληρη joint PDF — για κάθε συλλογή χρονικών στιγμών $(t_{1}, t_{2}, \dots, t_{n})$ και κάθε χρονική μετατόπιση $τ$ — είναι αμετάβλητη. Πολύ ισχυρή συνθήκη.

2α. Στασιμότητες μικρότερων τάξεων

Ορίζονται επίσης πιο χαλαρές εκδοχές, ανάλογα με το πόσες χρονικές στιγμές «κλειδώνουμε» ταυτόχρονα:

Τάξη	Συνθήκη	Τι λέει
1ης τάξης	$f_{X (t_{1})} (a) = f_{X (t_{1} + τ)} (a)$	Η PDF σε μία χρονική στιγμή είναι αμετάβλητη
2ης τάξης	$f_{X (t_{1}), X (t_{2})} (a_{1}, a_{2}) = f_{X (t_{1} + τ), X (t_{2} + τ)} (a_{1}, a_{2})$	Η joint PDF σε δύο στιγμές είναι αμετάβλητη
n-στής τάξης	Joint PDF σε $n$ στιγμές αμετάβλητη	…
SSS (αυστηρή)	Όλες οι τάξεις	Συνδυασμός όλων

Οι τάξεις ΔΕΝ είναι ισοδύναμες — είναι σκάλα

Μην μπερδευτείς: η 1ης τάξης και η 2ης τάξης δεν λένε το ίδιο πράγμα. Είναι εμφωλευμένες συνθήκες, σαν σκαλοπάτια:

SSS \Rightarrow \dots \Rightarrow 2ης τ \overset{α}{ˊ} ξης \Rightarrow 1ης τ \overset{α}{ˊ} ξης

Ψηλότερη τάξη ⇒ χαμηλότερη (πάντα): αν η joint PDF δύο στιγμών είναι αμετάβλητη, τότε «ολοκληρώνοντας έξω» (marginalizing) τη μία μεταβλητή προκύπτει ότι κι η PDF μίας στιγμής είναι αμετάβλητη. Θυμήσου τι είναι το marginalizing — ο τύπος $f_{X} (x) = \int_{- \infty}^{\infty} f_{X, Y} (x, y) d y$ από τα Random variables §6α: «ολοκληρώνεις έξω» τη μία μεταβλητή και μένει η κατανομή μόνο της άλλης (εδώ η μεταβλητή που σβήνεις είναι το δεύτερο δείγμα, $X (t_{2})$ ).
Χαμηλότερη ⇏ ψηλότερη (ποτέ αυτόματα): το ότι η PDF μίας στιγμής δεν αλλάζει στον χρόνο δεν σου λέει τίποτα για το πώς συν-μεταβάλλονται δύο στιγμές μαζί. Κάθε $X (t)$ μπορεί να έχει την ίδια μονοδιάστατη κατανομή σε κάθε $t$ , αλλά η σχέση μεταξύ $X (t_{1})$ και $X (t_{2})$ ν' αλλάζει ανάλογα με το πού βρίσκονται.

Η σύντομη γραφή $f_{X (t)} (a) = f_{X (t + τ)} (a)$ της SSS τα ζητάει όλα τα σκαλοπάτια ταυτόχρονα — γι' αυτό είναι η πιο αυστηρή.

Παρατήρηση: για να ελέγξεις SSS πειραματικά χρειάζεσαι όλες τις joint PDFs — αμέτρητα δεδομένα. Στην πράξη δεν ελέγχεται· αντί αυτής χρησιμοποιούμε την WSS παρακάτω.

3. Στάσιμη Υπό την Ευρεία Έννοια (WSS) — slides 21-22

Η πρακτική εκδοχή — αυτή που χρησιμοποιούμε στην εξέταση και σε όλες τις επόμενες σελίδες. Μια ΤΔ $X (t)$ λέγεται στάσιμη υπό την ευρεία έννοια (wide-sense stationary, WSS) αν ικανοποιεί δύο συνθήκες:

m_{X} (t) = m_{X} \forall t

R_{X} (t_{i}, t_{j}) = R_{X} (t_{i} - t_{j}) \overset{η}{ˊ} ισοδ \overset{υ}{ˊ} ναμα R_{X} (t, t + τ) = R_{X} (τ) = R_{X} (τ)

Δηλαδή, η μέση τιμή της $X (t)$ είναι σταθερή για κάθε $t$ , κι η ΣΑΣ της εξαρτάται μόνο από τη διαφορά των δειγματοληπτημένων χρόνων — όχι από κάθε ζεύγος χρονικών στιγμών χωριστά. Η δεύτερη γραφή, $R_{X} (t, t + τ)$ , το λέει πιο παραστατικά: διάλεξε μια στιγμή $t$ και κοίτα τη συσχέτιση με μια στιγμή $τ$ αργότερα — μετράει μόνο το πόσο μακριά ( $τ$ ), όχι το πού ( $t$ ).

Η συνθήκη 2 σε «μορφή μετατόπισης». Το «εξαρτάται μόνο από τη διαφορά» γράφεται ισοδύναμα κι έτσι: μετατόπισε και τα δύο σημεία κατά το ίδιο $t$ — η απόσταση $τ = t_{i} - t_{j}$ δεν αλλάζει, άρα ούτε η $R_{X}$ :

R_{X} (t_{i} + t, t_{j} + t) = R_{X} (t_{i}, t_{j}) .

Κράτα αυτή τη μορφή — σε λίγο κάνει προφανές γιατί η SSS συνεπάγεται WSS. (Είναι, εξάλλου, αυτό που δείχνει η έλλειψη πιο κάτω: γλιστράς το ζεύγος σημείων κρατώντας την απόστασή τους, κι η $R_{X}$ μένει καρφωμένη.)

Πώς συνδέεται η WSS με την SSS που μόλις είδαμε;

Η WSS κρατάει την ίδια ιδέα — «οι στατιστικές δεν αλλάζουν αν μετατοπίσεις τον χρόνο» — αλλά την απαιτεί μόνο για δύο ροπές, όχι για ολόκληρη την κατανομή:

Η SSS (§2) ζητάει να είναι αμετάβλητη η ολόκληρη joint PDF $f_{X (t_{1}), \dots}$ .
Η WSS ζητάει να είναι αμετάβλητα μόνο ο μέσος $m_{X} (t)$ και η αυτοσυσχέτιση $R_{X} (t_{i}, t_{j})$ — δύο αριθμητικές συνόψεις (moments) αυτής της κατανομής.

Η μία κατεύθυνση είναι πια προφανής. Βάλε τη μορφή μετατόπισης της συνθήκης-2 ακριβώς δίπλα στην 2ης τάξης SSS:

2ης τ \overset{α}{ˊ} ξης SSS: WSS, συνθ \overset{η}{ˊ} κη 2: f_{X (t_{1}), X (t_{2})} = f_{X (t_{1} + t), X (t_{2} + t)} R_{X} (t_{1} + t, t_{2} + t) = R_{X} (t_{1}, t_{2})

Ίδιο ακριβώς σχήμα — «μετατόπισε δύο σημεία, μένει αμετάβλητο» — μόνο που η SSS το απαιτεί για ολόκληρη την joint PDF, ενώ η WSS μόνο για τη 2η ροπή της, $R_{X} = E [X (t_{1}) X (t_{2})]$ . Κι αφού η $R_{X}$ βγαίνει από εκείνη την PDF (ολοκληρώνοντας το $a_{1} a_{2}$ πάνω της), αν η joint PDF είναι αμετάβλητη στη μετατόπιση τότε υποχρεωτικά κι η $R_{X}$ — να η συνθήκη #2.

Κι ο μέσος (συνθήκη #1); Βγαίνει ακόμα πιο εύκολα — από την 1ης τάξης SSS, που η 2ης τάξης ούτως ή άλλως τη συνεπάγεται (§2α). Αν η μονή PDF είναι αμετάβλητη στη μετατόπιση, $f_{X (t_{1})} (a) = f_{X (t_{1} + t)} (a)$ , τότε κι ο μέσος $m_{X} (t) = \int a f_{X (t)} (a) d a$ που βγαίνει απ' αυτήν δεν αλλάζει με τον χρόνο → σταθερός.

Έτσι παίρνεις και τις δύο WSS-συνθήκες: 2ης τάξης SSS ⟹ WSS — χωρίς κανέναν υπολογισμό.

Όμως το αντίστροφο δεν ισχύει: η WSS δεν απαιτεί $f_{X (t_{1}), X (t_{2})} = f_{X (t_{1} + τ), X (t_{2} + τ)}$ . Μια ΤΔ μπορεί να έχει σταθερό μέσο και αυτοσυσχέτιση-μόνο-της-διαφοράς, ενώ η πλήρης κατανομή της (π.χ. η ασυμμετρία της) μεταβάλλεται στον χρόνο. Γι' αυτό λέγεται «ευρεία» (wide-sense) έννοια — είναι χαλαρότερη από την SSS. Την πλήρη εικόνα — γιατί WSS ⇏ SSS και πού κάθεται η WSS στη «σκάλα των τάξεων» — στο §3β.

Tip εξέτασης: όταν μια εκφώνηση γράφει κατευθείαν $R_{X} (τ)$ — ένα όρισμα αντί για δύο — υπονοεί ότι η ΤΔ είναι ήδη WSS· το διπλό όρισμα έχει συμπτυχθεί στη διαφορά.

Δες τη μορφή μετατόπισης ζωντανά — πάνω σ' ένα random-phase cosine, το ίδιο σήμα της Άσκησης 2 (§6 πιο κάτω):

Η R_X(t_i, t_j) εξαρτάται μόνο από το Δt = t_i − t_j

Σήμα: X(t) = A·cos(2π f₀ t + Θ), με Θ ~ U[0, 2π) — η ίδια ΤΔ της Άσκησης 2 (§6).

t_i (μπλε) = 1.00 s

t_j (πορτοκαλί) = 1.20 s

⇄ Μετατόπισε το ζεύγος μαζί — σταθερό Δt = 0.20 s = κέντρο 1.10 s

Κούνα τα t_i, t_j μαζί: το Δt μένει ίδιο και η R_X δεν κουνιέται. Άλλαξε το Δt (μοχλοί από πάνω) και η R_X αλλάζει.

Συνεισφορές στο R_X (γινόμενα ab)net ≈ 0.40

θετικά (ab>0) +0.40αρνητικά (ab<0) −0.00

R_X(t_i, t_j) ≈

0.40

ρ (−1…1)

0.81

Δt = |t_i − t_j|

0.20 s

ισχυρά συσχετισμένα

Κλειστός τύπος (αποδεικνύεται στην Random processes §10 και ξανά στην Άσκηση 2 πιο κάτω): R_X(τ) = (A²/2)·cos(2π·f₀·τ) — μέσα του μόνο το τ = Δt, κανένα t_i ή t_j χωριστά.

Πάνω σχεδιάζουμε λίγες μόνο κυματομορφές — μία για κάθε τιμή του Θ· στην πραγματικότητα είναι άπειρες (ένα Θ για κάθε σημείο του διαστήματος [0, 2π)). Κάθε σημείο κάτω είναι ένα τέτοιο δείγμα: το ίδιο Θ μπαίνει ταυτόχρονα στο X(t_i) και στο X(t_j), γι' αυτό οι δύο τιμές είναι εξαρτημένες (το πείραμα γίνεται μία φορά). Καθώς το Θ διατρέχει όλες τις άπειρες τιμές του, τα ζεύγη (X(t_i), X(t_j)) γεμίζουν μια σταθερή έλλειψη. Σύρε το «μετατόπισε το ζεύγος»: τα σημεία γλιστρούν πάνω στην ίδια έλλειψη και η R_X δεν αλλάζει — αυτό ακριβώς σημαίνει R_X(t_i, t_j) = R_X(τ). Άλλαξε το Δt και η έλλειψη αλλάζει σχήμα (στενή διαγώνιος → κύκλος → αντι-διαγώνιος) και η R_X μαζί.

Γιατί φαίνεται αμέσως με το μάτι. Το πείραμα γίνεται μία φορά: διαλέγεται ένα $Θ$ και μπαίνει ταυτόχρονα στο $X (t_{i})$ και στο $X (t_{j})$ . Γι' αυτό οι δύο τιμές είναι εξαρτημένες — όχι δύο ανεξάρτητες ρίψεις. Καθώς το $Θ$ διατρέχει όλες τις (άπειρες) τιμές του, τα ζεύγη $(X (t_{i}), X (t_{j}))$ πέφτουν πάνω σε μία έλλειψη, και το σχήμα της το ορίζει μόνο η διαφορά φάσης $2 π f_{0} τ$ — δηλαδή μόνο το $τ$ . Σύρε τον μοχλό «μετατόπισε το ζεύγος»: τα σημεία γλιστρούν πάνω στην ίδια έλλειψη και η $R_{X}$ μένει καρφωμένη. Αυτό, οπτικά, είναι το « $R_{X} (t_{i}, t_{j}) = R_{X} (τ)$ ». Αν όμως αλλάξεις την απόσταση $τ$ (μοχλοί $t_{i}$ , $t_{j}$ ), η έλλειψη αλλάζει σχήμα και η $R_{X}$ κινείται — γιατί τώρα άλλαξε αυτό από το οποίο πραγματικά εξαρτάται.

3α. Αυτοσυνδιακύμανση $C_{X} (τ)$ — slide 22

Με WSS, η αυτοσυνδιακύμανση γίνεται κι αυτή συνάρτηση μόνο της χρονικής μετατόπισης $τ$ :

C_{X} (τ) ≜ C_{X} (t, t + τ) = R_{X} (τ) - m_{X}^{2} .

Αυτό προκύπτει άμεσα από τον ορισμό $C_{X} (t_{i}, t_{j}) = R_{X} (t_{i}, t_{j}) - m_{X} (t_{i}) m_{X} (t_{j})$ (Random processes §7) με το $m_{X}$ σταθερό και την $R_{X}$ μόνο της διαφοράς. Πρακτική σημασία:

Αν $m_{X} = 0$ : $C_{X} (τ) = R_{X} (τ)$ — οι δύο συναρτήσεις ταυτίζονται. Συνηθέστερη περίπτωση για θόρυβο.
Αν $m_{X} \neq = 0$ : $R_{X} (τ)$ έχει έναν σταθερό όρο $m_{X}^{2}$ που δεν εξαρτάται από $τ$ · είναι το «DC κομμάτι» της αυτοσυσχέτισης. Αυτό σπάει η Άσκηση 3 παρακάτω (§7).

3β. SSS ⇒ WSS, αλλά το αντίστροφο δεν ισχύει

📚 Πόσο βαθιά να το πας — μια ειλικρινής σημείωση για την εξέταση

Από εδώ και κάτω εξηγούμε αναλυτικά γιατί η WSS δεν συνεπάγεται SSS — βάλαμε επιπλέον κόπο για να χτιστεί σωστά η διαίσθηση. Με ειλικρίνεια όμως: αν προετοιμάζεσαι καθαρά για την εξέταση, η πλήρης κατανόηση του βήμα-βήμα παρακάτω δεν είναι απαραίτητη. Κράτα πάντως αυτά:

SSS ⇒ WSS πάντα· το αντίστροφο όχι — η WSS κλειδώνει μόνο μέσο & $R_{X}$ , αφήνει το υπόλοιπο σχήμα ελεύθερο.
Ένα πρακτικά χρήσιμο αποτέλεσμα που θα ξαναδείς: για WSS ΤΔ η variance είναι σταθερή στον χρόνο — και για zero-mean (η συνηθισμένη περίπτωση στον θόρυβο) ισούται με $R_{X} (0)$ . Εμφανίζεται συνέχεια στην ισχύ και τον θόρυβο.
«Είναι WSS;» στην πράξη = ελέγχεις τις δύο συνθήκες του §3.

Το βήμα-βήμα βελτιώνει την κατανόηση αλλά δεν είναι essential — διάβασέ το αν θες το «γιατί», προσπέρασέ το αν βιάζεσαι. (Η εξαίρεση των Gaussian στο §3γ, αντίθετα, αξίζει τον χρόνο σου: τη χρησιμοποιείς συνέχεια στον θόρυβο.)

Όταν μια ΤΔ είναι στάσιμη υπό την αυστηρή έννοια (SSS), τότε είναι και στάσιμη υπό την ευρεία έννοια (WSS). Αυτή η κατεύθυνση είναι σχεδόν προφανής: αν ολόκληρη η joint PDF μένει αμετάβλητη σε χρονική μετατόπιση, τότε κάθε ποσότητα που υπολογίζεται απ' αυτήν μένει κι αυτή αμετάβλητη — άρα και ο μέσος και η αυτοσυσχέτιση. Η SSS λέει «όλα αμετάβλητα»· οι δύο WSS-συνθήκες είναι απλώς δύο από αυτά τα «όλα».

Το αντίστροφο δεν ισχύει — κι εκεί κρύβεται η ουσία του «ευρεία». Θα το δείξουμε φτιάχνοντας μια ΤΔ που είναι WSS αλλά όχι SSS: κρατάμε αμετάβλητα ακριβώς τα δύο που ζητάει η WSS (μέσο και $R_{X}$ ) κι αφήνουμε το υπόλοιπο σχήμα της κατανομής να μεταβάλλεται στον χρόνο. Πάμε βήμα-βήμα.

Βήμα 1 — πού θα δούμε αυτό το «σχήμα». Η πλήρης περιγραφή μιας ΤΔ είναι η joint PDF σε πολλές στιγμές μαζί — δύσκολο να την «δεις». Η WSS αγγίζει μόνο δύο συνόψεις της: τον μέσο $m_{X} (t)$ και την αυτοσυσχέτιση $R_{X} (t_{i}, t_{j})$ (τη συσχέτιση ζεύγους στιγμών — την έλλειψη πιο πάνω). Για να δούμε τι αφήνει ελεύθερο, κοίτα το απλούστερο κομμάτι αυτής της περιγραφής: την κατανομή σε μία μόνο στιγμή, την $f_{X (t)}$ — πάγωσε τον χρόνο σ' ένα $t$ και κοίτα κάθετα τις τιμές όλων των realizations (τη «στοίβα» της Random processes, §2):

Πάγωσε τον χρόνο: από τις realizations στην κατανομή μίας στιγμής

σύρε τη γραμμή «πάγωσε τον χρόνο» — χρονική στιγμή t = 2.80 s

Κάθε γαλάζια γραμμή είναι μία realization (μία από άπειρες). Στη κόκκινη γραμμή διαβάζεις τις τιμές X(t) όλων των realizations κάθετα· δεξιά πέφτουν σε μια κατανομή — η PDF μίας στιγμής f_X(t). Σύρε τον χρόνο: ο μέσος μένει στο 0 και η μπλε λωρίδα ±σ ακίνητη, αλλά το σχήμα στραβώνει: η κορυφή γλιστράει αριστερά, με μακριά ουρά προς τα δεξιά (θετική skewness — τη μετράει η ουρά, όχι η κορυφή). Αυτό ακριβώς αφήνει ελεύθερο η WSS.

Βήμα 2 — τι κρατάει κλειδωμένο η WSS πάνω σ' αυτή τη μονή κατανομή.

Το κέντρο της είναι εύκολο: είναι ο μέσος $m_{X} (t)$ , και η συνθήκη #1 ( $m_{X}$ σταθερός) τον καρφώνει αμέσως. ✓

Το πλάτος της — η variance $σ_{X}^{2} (t)$ (Random variables §4β) — δεν κλειδώνεται τόσο άμεσα, κι αξίζει να δούμε γιατί κλειδώνεται καθόλου. Ως εδώ για τη #2 ξέρουμε μόνο ότι η $R_{X}$ εξαρτάται από τη διαφορά — ισοδύναμα, $R_{X} (t_{i} + t, t_{j} + t) = R_{X} (t_{i}, t_{j})$ — μια ποσότητα δύο στιγμών· η variance είναι ποσότητα μίας. Ο κρίκος που τις δένει: η variance είναι η αυτοσυσχέτιση πάνω στη διαγώνιό της,

σ_{X}^{2} (t) = R_{X} (t, t) - m_{X}^{2} (t) (zero-mean: = R_{X} (t, t) = E [X^{2} (t)]) .

Και τώρα δουλεύει η #2: στη μορφή μετατόπισης, βάλε και τα δύο σημεία στο ίδιο 0 ( $t_{i} = t_{j} = 0$ ) και μετατόπισέ τα κατά $t$ — βγαίνει $R_{X} (t, t) = R_{X} (0, 0)$ , η ίδια τιμή σε κάθε $t$ . Άρα η διαγώνιος είναι σταθερή, κι έτσι και η variance. Το πλάτος κλειδώνει κι αυτό — όχι σαν δική μας υπόθεση, αλλά σαν συνέπεια της #2. ✓

Συνολικά: η WSS καρφώνει πού κάθεται η $f_{X (t)}$ (ο μέσος) και πόσο φαρδιά είναι (η variance), αλλά όχι το σχήμα της (συμμετρική; λοξή;). Αυτό το αφήνει ελεύθερο — κι αυτό ακριβώς θα εκμεταλλευτούμε: ίδιο κέντρο, ίδιο πλάτος, διαφορετικό σχήμα. (Πρόσεξε: το πλάτος είναι μόνο η διαγώνιος, το $τ = 0$ κομμάτι της #2· το πώς συσχετίζονται δύο στιγμές για $τ \neq = 0$ δεν φαίνεται σε μονή κατανομή — το ελέγχουμε χωριστά στο Βήμα 3: όταν επαληθεύουμε τη συνθήκη #2 κάτω από το «Πώς είναι φτιαγμένη», οι ασυσχέτιστες τιμές δίνουν $R_{X} = 0$ για $τ \neq = 0$ .)

Βήμα 3 — νά η ΤΔ, σαν καθαρή PDF με τις ροπές μετρημένες. Στο διαδραστικό «Ίδιος μέσος, ίδια variance — αλλάζει μόνο το σχήμα» σύρε τον χρόνο: μέσος και πλάτος μένουν καρφωμένα (ακριβώς ό,τι κλειδώνει η WSS), αλλά το σχήμα στραβώνει — η κορυφή γλιστράει αριστερά μ' ουρά δεξιά, δηλαδή θετική skewness (παγίδα: τη «λοξότητα» τη δείχνει η ουρά, γι' αυτό «λοξή δεξιά» ενώ το καμπούρι φαίνεται αριστερά). Τα δύο πλαίσια κάτω μετρούν ποιες ροπές κλειδώνουν (1η & 2η) και ποιες μένουν ελεύθερες (3η & 4η):

Ίδιος μέσος, ίδια variance — αλλάζει μόνο το σχήμα

Η κατανομή πλάτους f της ΤΔ σε μία χρονική στιγμή t. Σύρε τον χρόνο και δες: ο μέσος μένει στο 0 και η variance μένει σ² (η μπλε λωρίδα ±σ δεν κουνιέται, ούτε φαρδαίνει) — αλλάζει μόνο το σχήμα.

χρονική στιγμή t (νωρίς → αργά)

🔒 Κλειδωμένα από WSS — δεν αλλάζουν

μέσος E[X]

0.00

1η ροπή

variance σ²

1.00

2η ροπή

🔓 Ελεύθερα — αλλάζουν στον χρόνο

skewness

0.86

3η ροπή

kurtosis (excess)

0.71

4η ροπή

Νωρίς (t≈0) η κατανομή είναι συμμετρική καμπάνα: skewness 0. Αργά (t≈1) η κορυφή γλιστράει αριστερά κι αναπτύσσεται μακριά «ουρά» δεξιά: θετική skewness. Επειδή η 1η & 2η ροπή μένουν κλειδωμένες αλλά η 3η & 4η αλλάζουν, η ΤΔ είναι WSS ✓ αλλά όχι SSS ✗ — η joint PDF δεν είναι αμετάβλητη στον χρόνο.

Πώς είναι φτιαγμένη: zero-mean ΤΔ, με τις τιμές σε διαφορετικές στιγμές ασυσχέτιστες — μηδενική συνδιακύμανση $Cov (X (t_{i}), X (t_{j})) = 0$ , καμία γραμμική σχέση μεταξύ τους (ορισμός στα Random variables §6γ). Επειδή ο μέσος είναι 0, αυτό γίνεται σκέτο $E [X (t_{i}) X (t_{j})] = 0$ — γιατί στον ορισμό της συνδιακύμανσης ο όρος των μέσων μηδενίζεται:

Cov (X (t_{i}), X (t_{j})) = E [X (t_{i}) X (t_{j})] - = 0 \cdot 0 = 0 E [X (t_{i})] E [X (t_{j})] = E [X (t_{i}) X (t_{j})] .

Έχει επίσης παντού την ίδια variance $σ^{2}$ (που, όπως μόλις είδαμε, η WSS ούτως ή άλλως την απαιτεί σταθερή). Το μόνο που μεταβάλλεται είναι το σχήμα της κατανομής μίας στιγμής. Τσέκαρε τώρα πάνω της τις δύο WSS-συνθήκες:

Ο μέσος μένει $0$ παντού → WSS-συνθήκη #1 ✓.
Οι τιμές διαφορετικών στιγμών είναι ασυσχέτιστες με σταθερή variance $σ^{2}$ — εδώ ο έλεγχος των δύο στιγμών που υποσχεθήκαμε στο Βήμα 2: η $R_{X} (t_{i}, t_{j})$ βγαίνει $σ^{2}$ στο $τ = 0$ και $0$ για $τ \neq = 0$ , άρα εξαρτάται μόνο από τη διαφορά $τ$ → WSS-συνθήκη #2 ✓ (πλήρης — και για $τ \neq = 0$ ).
Όμως η κατανομή μίας στιγμής άλλαξε σχήμα στον χρόνο (skewness $0 \to$ θετική) → σπάει ήδη η 1ης τάξης στασιμότητα: $f_{X (t_{1})} (a) \neq = f_{X (t_{1} + τ)} (a)$ . Κι αφού οι τάξεις είναι σκάλα (§2α), αν πέσει το κατώτερο σκαλί πέφτουν όλα τα ανώτερα μαζί → όχι SSS (δεν χρειάστηκε καν να κοιτάξουμε joint PDF δύο στιγμών).

Αποτέλεσμα: WSS ✓ αλλά SSS ✗. Γενικά, η WSS κλειδώνει μόνο τις ροπές 1ης και 2ης τάξης (μέσο, variance/αυτοσυσχέτιση) — τα δύο «κλειδωμένα» πλαίσια στο διαδραστικό· οι ροπές 3ης (skewness) και 4ης (kurtosis — πόσο «βαριές» οι ουρές και πόσο αιχμηρή η κορυφή) τάξης μένουν ελεύθερες να αλλάζουν, όπως δείχνουν τα δύο «ελεύθερα» πλαίσια. Η SSS τις απαιτεί όλες αμετάβλητες· η WSS σταματάει στη 2η.

Πού κάθεται η WSS στη «σκάλα των τάξεων» (§2α)

Επειδή η WSS ζητάει μόνο μέσο και $R_{X}$ — ποσότητες που διαβάζονται από την κατανομή το πολύ 2ης τάξης — δεν χρειάζεσαι ολόκληρη την SSS: ακόμη και 2ης τάξης στασιμότητα από μόνη της αρκεί για WSS — το είδαμε ευθέως στο §3 (ίδια μορφή μετατόπισης, απλώς για τη 2η ροπή αντί για όλη την PDF). (Η πλήρης SSS φυσικά κι αυτή ⇒ WSS· η 2ης τάξης είναι απλώς το ελάχιστο που χρειάζεται.)

Κι αντίστροφα, η WSS είναι τόσο χαλαρή που το παράδειγμα πιο πάνω δεν είναι ούτε 1ης τάξης στάσιμο — η ίδια η PDF μίας στιγμής στραβώνει στον χρόνο, με τον μέσο και τη variance όμως καρφωμένα.

2ης τ \overset{α}{ˊ} ξης SSS \Rightarrow WSS, αλλ \overset{α}{ˊ} WSS \neq \Rightarrow ο \overset{υ}{ˊ} τε 1ης τ \overset{α}{ˊ} ξης SSS .

Με μια φράση: η WSS είναι η «μόνο-ροπές» σκιά της 2ης-τάξης στασιμότητας — κρατάει δύο αριθμούς (μέσο, $R_{X}$ ) αντί για ολόκληρη την κατανομή ζεύγους.

3γ. Για Gaussian ΤΔ: SSS ⇔ WSS

Υπάρχει μία τεράστιας σημασίας εξαίρεση στο «WSS δεν σημαίνει SSS»: όταν η ΤΔ είναι Gaussian, οι δύο έννοιες ταυτίζονται. Κι επειδή σχεδόν όλος ο θόρυβος που μελετάμε είναι Gaussian, αυτό είναι το σενάριο που θα συναντάς ξανά και ξανά.

Τι σημαίνει «Gaussian»; — γρήγορο recap. Μια Gaussian (ή κανονική) τυχαία μεταβλητή $N (μ, σ^{2})$ έχει την κλασική καμπάνα (Random variables §5β):

f_{X} (x) = \frac{1}{σ 2 π} e^{- (x - μ)^{2} / (2 σ^{2})} .

Το κρίσιμο σημείο: η καμπάνα καθορίζεται πλήρως από δύο μόνο αριθμούς — τον μέσο $μ$ (πού είναι το κέντρο) και τη variance $σ^{2}$ (πόσο φαρδιά είναι). Δώσε αυτούς τους δύο, και ξέρεις ολόκληρη την κατανομή· δεν περισσεύει τίποτα άλλο να καθοριστεί. Σύρε τα $μ$ και $σ$ και δες το σχήμα να αντιδρά (διάλεξε το tab Gaussian):

Κύριες κατανομές — PDF, μέσος, διασπορά

μ (mean) = 0.0

σ (std dev) = 1.00

E[X]

0.000

Var(X)

1.000

68% της μάζας μέσα σε ±σ από τον μέσο, 95% σε ±2σ, 99.7% σε ±3σ. Πανταχού παρούσα: ο θερμικός θόρυβος είναι Gaussian (Central Limit Theorem — άθροισμα πολλών μικρών ανεξάρτητων διεγέρσεων).

Από μία ΤΜ σε μία ΤΔ. Μια ΤΔ $X (t)$ λέγεται Gaussian αν κάθε πεπερασμένη συλλογή δειγμάτων $(X (t_{1}), \dots, X (t_{n}))$ έχει από κοινού Gaussian κατανομή (multivariate normal — η πολυδιάστατη καμπάνα). Κι ακριβώς όπως η μονοδιάστατη καμπάνα, η πολυδιάστατη καθορίζεται πλήρως από:

το διάνυσμα των μέσων $(m_{X} (t_{1}), \dots, m_{X} (t_{n}))$ , και
τις συνδιακυμάνσεις (covariance) $C_{X} (t_{i}, t_{j})$ μεταξύ των στιγμών — που χτίζονται κατευθείαν από την αυτοσυσχέτιση $R_{X}$ (Random processes §7). Πρόσεξε τη διαγώνιο: όταν $t_{i} = t_{j}$ , η $C_{X} (t, t) = σ_{X}^{2}$ είναι ακριβώς η variance της κάθε στιγμής — το ίδιο $σ^{2}$ της καμπάνας πιο πάνω (από §3β)· εκτός διαγωνίου ( $t_{i} \neq = t_{j}$ ) μετράει το πόσο συν-κινούνται δύο διαφορετικές στιγμές. Δηλαδή τα ίδια συστατικά με τη μονοδιάστατη καμπάνα — κέντρο ( $μ$ ) και πλάτος ( $σ^{2}$ ) — απλώς ένα ανά στιγμή, συν τους σταυρωτούς όρους μεταξύ στιγμών.

Με άλλα λόγια: μια Gaussian ΤΔ δεν έχει ανεξάρτητη skewness ή kurtosis να «ξεφύγουν» — όλες οι ροπές κάθε τάξης κλειδώνονται από τον μέσο και την covariance.

Να γιατί WSS ⇒ SSS εδώ. Αν η ΤΔ είναι WSS, ο μέσος είναι σταθερός και η $R_{X}$ (άρα κι η covariance) εξαρτάται μόνο από τη διαφορά χρόνων. Αλλά αυτά τα δύο είναι όλα όσα χρειάζεται η Gaussian για να οριστεί — οπότε αν είναι αμετάβλητα σε χρονική μετατόπιση, τότε ολόκληρη η joint PDF είναι αμετάβλητη. Δηλαδή WSS ⇒ SSS. (Και SSS ⇒ WSS πάντα, από §3β.) Άρα οι δύο έννοιες συμπίπτουν:

Gaussian ΤΔ : WSS ⟺ SSS

Πρακτικά — γιατί θα το χρησιμοποιείς συνέχεια: ο θερμικός θόρυβος είναι Gaussian (από το Central Limit Theorem — άθροισμα πολλών μικρών ανεξάρτητων διεγέρσεων, Random variables §5β). Άρα μόλις δείξεις ότι ένας Gaussian θόρυβος είναι WSS, είναι αυτομάτως και SSS — για AWGN δεν χρειάζεται ποτέ να ξεχωρίσεις τις δύο έννοιες.

4. Οι ΤΔ της Άσκησης 1 δεν είναι WSS — slide 23

Τώρα εφαρμόζουμε την WSS συνθήκη, ανατρέχοντας στην Άσκηση 1 που λύσαμε στην Random processes §9. Εκεί υπολογίσαμε τους μέσους των δύο ΤΔ:

E [X (t)] = - \frac{2 A}{π} sin (2 π f_{1} t), E [Y (t)] = cos (2 π f_{2} t) .

Διάβασε: οι μέσοι εξαρτώνται από τον $t$ — σπάει η πρώτη WSS-συνθήκη. Αρκεί να σπάσει μία· δεν είμαστε WSS. Δεν χρειάζεται καν να εξετάσουμε την $R_{X}$ — η ΤΔ έχει ήδη απορριφθεί.

Why this matters — μία συνθήκη που σπάει = γκρεμίζει όλο το WSS

Παρατήρησε τη λογική: για να είναι WSS, και οι δύο συνθήκες πρέπει να ισχύουν. Αν μία σπάσει, η ΤΔ δεν είναι WSS — έχουμε και τα δύο, είτε καθόλου.

Συγκεκριμένα για την Άσκηση 1:

Συνθήκη	Έλεγχος	Αποτέλεσμα
$m_{X} =$ const;	$- (2 A / π) sin (2 π f_{1} t)$ — εξαρτάται από $t$	✗ Σπάει.
$R_{X} = R_{X} (τ)$ ;	$(A^{2} /2) cos (2 π f_{1} (t_{1} - t_{2}))$ — μόνο διαφορά	✓ (αλλά δεν αρκεί)

Αυτό είναι μάθημα-της-εξέτασης: για να δείξεις «δεν είναι WSS», αρκεί να βρεις έναν counterexample στις δύο συνθήκες· για να δείξεις «είναι WSS», πρέπει να ελέγξεις και τις δύο.

4α. Slides 24-25 — τα sample functions της Άσκησης 1

Οι slides 24-25 σχεδιάζουν τέσσερα δείγματα κάθε ΤΔ της Άσκησης 1:

Slide 24: Τέσσερα δείγματα της $X (t) = A cos (2 π f_{1} t + ϕ)$ με $ϕ \in {0, π /4, π /2, 3 π /4}$ — δηλαδή δειγματοληψία 4 σημείων από το support $[0, π]$ της Άσκησης 1.
Slide 25: Τέσσερα δείγματα της $Y (t) = α cos (2 π f_{2} t)$ με $α \in {0.25, 0.5, 1, 1.5}$ — δειγματοληψία από $[0, 2]$ .

Παρατήρηση των διαφανειών: σε κάθε σταθερό $t$ , οι τιμές των τεσσάρων δειγμάτων (μία κάθετη τομή) είναι διαφορετικές ανάλογα με το $t$ — γι' αυτό ο μέσος εξαρτάται από $t$ . Αυτή είναι η οπτική του «δεν είναι WSS».

Αν θέλεις να δεις τα ίδια realizations (της Άσκησης 1) interactively — και να τα συγκρίνεις με τη WSS-edition του §10:

X(t) = A cos(2π f₁ t + φ) — το support της φ κρίνει αν ο μέσος είναι σταθερός

Διάλεξε το support της τυχαίας φάσης φ. Η κόκκινη καμπύλη είναι ο μέσος του ensemble m_X(t)· σύρε την time-slice και δες, κάτω, αν η κατανομή των τιμών είναι συμμετρική γύρω από το 0 (μέσος 0) ή όχι.

Time-slice t = 0.25 s

Half period (ασύμμετρο support): η κατανομή γέρνει, άρα m_X(t) = −(2A/π) sin(2π f₁ t) αλλάζει με τον χρόνο — δεν είναι σταθερός, άρα δεν είναι WSS (η κόκκινη καμπύλη κυματίζει).

Ξεκινάει στο half-period $ϕ \sim U [0, π]$ — ακριβώς η ΤΔ της Άσκησης 1 (§9 των Random processes): σε κάθε κάθετη τομή η κατανομή των τιμών είναι ασύμμετρη, οπότε ο μέσος $m_{X} (t)$ κυματίζει με τον χρόνο → δεν είναι WSS (η κόκκινη καμπύλη κυματίζει). Πάτησε τώρα full-period $ϕ \sim U [0, 2 π)$ — αυτή είναι η ξεχωριστή WSS-edition του §10: η κατανομή γίνεται συμμετρική γύρω από το 0 σε κάθε τομή, ο μέσος μηδενίζεται σταθερά → περνάει τη συνθήκη μέσου του WSS.

5. Ιδιότητες της $R_{X} (τ)$ για WSS process

Όταν μια ΤΔ είναι WSS, η αυτοσυσχέτιση κατέχει τέσσερις εύχρηστες ιδιότητες που εφαρμόζονται παντού στην ανάλυση θορύβου:

Ιδιότητα	Τύπος	Διαισθητικά τι λέει
Άρτια	$R_{X} (- τ) = R_{X} (τ)$	«Συσχέτιση δύο σημείων» δεν αλλάζει αν αντιστραφεί ο χρόνος
Maximum στο 0	$∣ R_{X} (τ)∣ \leq R_{X} (0)$	Κανένα ζευγάρι σημείων δεν είναι πιο συσχετισμένο από ένα σημείο με τον εαυτό του
Ισχύς στο 0	$R_{X} (0) = E [X^{2} (t)] = P_{X}$	Η μέση τετραγωνική τιμή = μέση ισχύς
Σχέση με $C_{X}$	$C_{X} (τ) = R_{X} (τ) - m_{X}^{2}$	DC κομμάτι $m_{X}^{2}$ ξεχωρίζει από zero-mean κομμάτι

Γιατί είναι άρτια; Η $R_{X} (τ)$ μετράει πόσο σχετίζονται δύο στιγμές που απέχουν $τ$ — κι αυτό εξαρτάται μόνο από την απόσταση, όχι από την κατεύθυνση: « $τ$ μπροστά» και « $τ$ πίσω» είναι το ίδιο ζευγάρι σημείων, απλώς αλλάζεις ποιο λες «πρώτο». Και η συσχέτιση δεν νοιάζεται για τη σειρά, αφού το γινόμενο μετατίθεται: $E [X (t) X (t + τ)] = E [X (t + τ) X (t)]$ . Τυπικά, $R_{X} (- τ) = E [X (t) X (t - τ)]$ , που με WSS εξαρτάται μόνο από την απόσταση $τ$ — άρα ισούται με $R_{X} (τ)$ . Γι' αυτό η καμπύλη της $R_{X}$ βγαίνει συμμετρική γύρω από το $τ = 0$ .

Η ισχύς σπάει σε δύο κομμάτια — και γι' αυτό μένει σταθερή. Βάζοντας $τ = 0$ στις δύο τελευταίες ιδιότητες μαζί, η μέση ισχύς γράφεται:

P_{X} = R_{X} (0) = E [X^{2} (t)] = DC / μ \overset{ε}{ˊ} σος m_{X}^{2} + variance / AC σ_{X}^{2} .

Δηλαδή «μέση τετραγωνική τιμή = μέσος-στο-τετράγωνο συν διασπορά». Αφού η WSS κρατά σταθερά και τα δύο ( $m_{X}$ από τη συνθήκη #1, $σ_{X}^{2}$ όπως δείξαμε στο §3), η ισχύς $E [X^{2} (t)]$ είναι κι αυτή σταθερή σε κάθε $t$ . Αυτή ακριβώς η «σταθερή ισχύς σε όλους τους χρόνους» είναι που, ολοκληρωμένη σε άπειρο χρόνο, δίνει άπειρη ενέργεια και μας αναγκάζει να περάσουμε από ESD σε PSD — δες /randomness/psd.

Επιπλέον (μη-αρνητικά ορισμένη): η $R_{X} (τ)$ είναι Fourier-μετασχηματίσιμη σε μη αρνητική συνάρτηση (την PSD). Δεν την αποδεικνύουμε εδώ — είναι το αντικείμενο του Wiener-Khinchin theorem στο /randomness/psd.

Αυτοσυσχέτιση R_X(τ) και PSD S_X(f) — Wiener-Khinchin

Autocorrelation

R_X(τ) = (A²/2)·cos(2π f₀ τ)

PSD (Wiener-Khinchin)

S_X(f) = (A²/4)·[δ(f-f₀) + δ(f+f₀)]

Διάβασε τα 4 presets:

Λευκός θόρυβος: $R_{X} (τ) = (N_{0} /2) δ (τ)$ — όλη η ισχύς συγκεντρωμένη στο $τ = 0$ , καμία συσχέτιση μεταξύ διαφορετικών στιγμών. Η ΤΔ «ξεχνά» μέσα σε άπειρα μικρό χρόνο.
Cosine: $R_{X} (τ) = (A^{2} /2) cos (2 π f_{0} τ)$ — ταλαντώνεται με τη φέρουσα. Η ΤΔ έχει «μνήμη που επαναλαμβάνεται περιοδικά».
Lowpass: $R_{X} (τ) = N_{0} B sinc (2 B τ)$ — η συσχέτιση εκτείνεται για $τ \sim 1/ B$ . Πιο αργή η ΤΔ, πιο πλατιά η $R_{X}$ .
Bandpass: $R_{X} (τ) = 2 N_{0} B sinc (2 B τ) cos (2 π f_{c} τ)$ — η lowpass-shape πολλαπλασιάζεται με την κεντρική συχνότητα. Συμμετρική γύρω από $f_{c}$ στη συχνότητα.

Τι σημαίνει «μνήμη» — και γιατί πλάτος της R_X = μνήμη

Θυμήσου τι μετράει η $R_{X} (τ)$ : πόσο «συμφωνεί» η τιμή τώρα, $X (t)$ , με την τιμή $τ$ αργότερα, $X (t + τ)$ . Το $E [X (t) X (t + τ)]$ βγαίνει μεγάλο όταν οι δύο τιμές τείνουν να κινούνται μαζί, και $\approx 0$ όταν είναι άσχετες. Από εκεί βγαίνει όλη η κουβέντα για «μνήμη»:

Μεγάλη $R_{X} (τ)$ ⇒ ξέροντας την τιμή τώρα, μπορείς να προβλέψεις αρκετά καλά την τιμή $τ$ αργότερα. Αυτή ακριβώς η προβλεψιμότητα είναι η «μνήμη».
Άρα πλατιά $R_{X}$ (μένει μεγάλη ακόμη και για μεγάλα $τ$ ) = το σήμα προβλέψιμο πολλή ώρα μπροστά = μεγάλη μνήμη = αργό, ομαλό σήμα. Στενή $R_{X}$ (πέφτει στο $0$ αμέσως μετά το $τ = 0$ ) = η τιμή τώρα δεν λέει τίποτα ούτε για λίγο αργότερα = καμία μνήμη = γρήγορο, νευρικό σήμα.

Καθημερινό παράδειγμα: η θερμοκρασία έχει μνήμη (αν κάνει ζέστη τώρα, μάλλον θα κάνει και σε μία ώρα → πλατιά $R_{X}$ )· ένα ζάρι που ρίχνεις κάθε δευτερόλεπτο δεν έχει καμία (η τωρινή ζαριά δεν λέει τίποτα για την επόμενη → $R_{X}$ σαν ακίδα στο $0$ — αυτός είναι ο «λευκός θόρυβος»).

Πόσο γρήγορα vs. αν ξεχνάει καθόλου. Το « $R_{X} (τ) \to 0$ καθώς $∣ τ ∣ \to \infty$ » λέει μόνο ότι η ΤΔ κάποτε ξεχνάει (πεπερασμένη μνήμη) — ισχύει και για αργές ΤΔ. Το «γρήγορη» είναι το πόσο σύντομα πέφτει η $R_{X}$ (στενό πλάτος), όχι απλώς ότι πέφτει. Η εξαίρεση που «δεν ξεχνάει ποτέ» είναι ο cosine: η $R_{X}$ του ταλαντώνεται για πάντα και δεν πάει ποτέ στο $0$ .

Στο όριο $R_{X} \to δ (τ)$ : μηδενική μνήμη, λευκός θόρυβος. Κι αυτή η διαφορά «αργό ↔ γρήγορο» στον χρόνο γίνεται «χαμηλές ↔ υψηλές συχνότητες» μόλις περάσεις στην PSD — η σύνδεση «στενότητα R_X ⟷ ευρύτητα PSD» είναι το Wiener-Khinchin theorem σε δυο λέξεις (η FT αντιστρέφει το πλάτος).

6. Άσκηση 2 (slide 26) — η canonical WSS-απόδειξη

Διάβασε την εκφώνηση πρώτα: το support είναι $θ \sim U [0, 2 π]$ — ολόκληρη περίοδος του cosine. Αυτό το ξεχωρίζει από την Άσκηση 1 (Random processes, slide 14) που είχε $ϕ \sim U [0, π]$ — μισή περίοδος.

Την έχουμε ήδη δει. Αυτή ακριβώς η ΤΔ (full-period random-phase cosine) λύθηκε ως η «WSS-edition» στο §10 των Random processes — εκεί βγάλαμε $m_{X} = 0$ και $R_{X} (τ) = (A^{2} /2) cos (2 π f τ)$ . Εδώ είναι η ίδια απόδειξη, τώρα όμως ως επίσημος έλεγχος των δύο WSS-συνθηκών (η WSS ορίστηκε στο §3) — γι' αυτό λέγεται «canonical». Αν τη θυμάσαι από το §10, η λύση από κάτω είναι υπενθύμιση· αλλιώς, να την αναλυτικά.

(α) Συνθήκη 1 — σταθερός μέσος.

Εφαρμόζουμε LOTUS με $θ$ ομοιόμορφη σε $[0, 2 π]$ (PDF $f_{θ} (θ) = 1/ (2 π)$ ):

m_{Z} (t) = E [A cos (2 π f t + θ)] = A \int_{0}^{2 π} cos (2 π f t + θ) \cdot \frac{1}{2 π} d θ

Με αλλαγή μεταβλητής $u = 2 π f t + θ$ (όπου το $t$ είναι σταθερά μέσα στο ολοκλήρωμα), $d u = d θ$ , $u \in [2 π f t, 2 π f t + 2 π]$ :

m_{Z} (t) = \frac{A}{2 π} \int_{2 π f t}^{2 π f t + 2 π} cos u d u

Το ολοκλήρωμα cosine πάνω σε οποιαδήποτε πλήρη περίοδο είναι πάντα 0, ανεξάρτητα από το offset $2 π f t$ :

m_{Z} (t) = 0, \forall t

Σταθερός μέσος (= 0) → πρώτη WSS-συνθήκη ✓

(β) Συνθήκη 2 — αυτοσυσχέτιση μόνο της διαφοράς.

R_{Z} (t_{1}, t_{2}) = E [A cos (2 π f t_{1} + θ) A cos (2 π f t_{2} + θ)] = A^{2} E [cos (α_{1}) cos (α_{2})]

όπου $α_{1} = 2 π f t_{1} + θ$ , $α_{2} = 2 π f t_{2} + θ$ . Product-to-sum (τυπολόγιο):

cos α_{1} cos α_{2} = \frac{1}{2} [cos (α_{1} - α_{2}) + cos (α_{1} + α_{2})]

Παρατήρησε:

$α_{1} - α_{2} = 2 π f (t_{1} - t_{2})$ — το $θ$ αυτο-ακυρώνεται. Αυτός ο όρος δεν περιέχει τυχαιότητα, βγαίνει έξω.
$α_{1} + α_{2} = 2 π f (t_{1} + t_{2}) + 2 θ$ — περιέχει $2 θ$ , με $θ \in [0, 2 π]$ → $2 θ \in [0, 4 π]$ → δύο πλήρεις περίοδοι του cosine.

Άρα:

R_{Z} (t_{1}, t_{2}) = \frac{A ^{2}}{2} (cos (2 π f (t_{1} - t_{2})) + = 0 (πλ \overset{η}{ˊ} ρης περ \overset{ι}{ˊ} οδος) E [cos (2 π f (t_{1} + t_{2}) + 2 θ)])

R_{Z} (t_{1}, t_{2}) = \frac{A ^{2}}{2} cos (2 π f (t_{1} - t_{2})) = \frac{A ^{2}}{2} cos (2 π f τ), τ = t_{1} - t_{2}

Εξαρτάται μόνο από τη διαφορά → δεύτερη WSS-συνθήκη ✓

Συμπέρασμα: $m_{Z} = 0$ (σταθερός) και $R_{Z} (t_{1}, t_{2}) = R_{Z} (τ)$ — και οι δύο WSS-συνθήκες ικανοποιούνται.

Z (t) = A cos (2 π f t + θ), θ \sim U [0, 2 π] ⟹ WSS

Take-away: αυτό είναι το canonical WSS παράδειγμα που εμφανίζεται σε όλη την ανάλυση τηλεπικοινωνιών:

Το AM-φέρον $A_{c} cos (2 π f_{c} t + θ)$ με τυχαία φάση είναι WSS με $R_{X} (τ) = (A_{c}^{2} /2) cos (2 π f_{c} τ)$ .
Η ισχύς του είναι $R_{Z} (0) = A^{2} /2$ — η γνωστή ισχύς cosine πλάτους $A$ .
Η μνήμη του ταλαντώνεται περιοδικά (όχι «λευκός»).

7. Άσκηση 3 (slide 26-27) — η m_X² decomposition

Σημαντική άσκηση — δείχνει πού «μπαίνει» ο μη-μηδενικός μέσος μέσα στην αυτοσυσχέτιση. Αν η ΤΔ έχει DC κομμάτι, η $R_{X}$ θα δείξει αυτό το DC κομμάτι ως σταθερά που δεν εξαρτάται από $τ$ .

Ο γρήγορος τρόπος — μία γραμμή. Ο μέσος ενός γινομένου σπάει πάντα σε «γινόμενο των μέσων συν covariance»: $E [U V] = E [U] E [V] + Cov (U, V)$ (ο ορισμός του covariance, Random variables §6γ). Βάλε $U = X (t)$ , $V = X (t + τ)$ — με WSS και οι δύο μέσοι είναι $m_{X}$ :

R_{X} (τ) = E [X (t) X (t + τ)] = m_{X}^{2} m_{X} \cdot m_{X} + C_{X} (τ) Cov (X (t), X (t + τ)) = m_{X}^{2} + C_{X} (τ) .

Νά ο σταθερός όρος $m_{X}^{2}$ — δεν εξαρτάται καθόλου από $τ$ . (Είναι κυριολεκτικά ο ορισμός της αυτοσυνδιακύμανσης $C_{X} (τ) = R_{X} (τ) - m_{X}^{2}$ του §3α, λυμένος ως προς $R_{X}$ .) Παρακάτω η ίδια ταυτότητα αλλά αναλυτικά, σπάζοντας την $X$ σε DC + zero-mean κομμάτι — έτσι την κάνει η διαφάνεια (και βγάζει $C_{X} (τ) = R_{N} (τ)$ , την αυτοσυσχέτιση του zero-mean κομματιού):

Strategy: σπάμε την $X (t)$ σε DC + zero-mean κομμάτι.

Έστω $N (t) = X (t) - m_{X}$ . Τότε $E [N (t)] = E [X (t)] - m_{X} = m_{X} - m_{X} = 0$ — η $N (t)$ είναι zero-mean ΤΔ.

Αναδιατάσσοντας: $X (t) = m_{X} + N (t)$ . Αντικαθιστώντας στην αυτοσυσχέτιση:

R_{X} (τ) = E [X (t) X (t + τ)] = E [(m_{X} + N (t)) (m_{X} + N (t + τ))]

Αναπτύσσοντας το γινόμενο μέσα στο $E [\cdot]$ :

R_{X} (τ) = E [m_{X}^{2} + m_{X} N (t) + m_{X} N (t + τ) + N (t) N (t + τ)]

Από linearity του expectation (Random variables §4γ):

R_{X} (τ) = m_{X}^{2} + m_{X} = 0 E [N (t)] + m_{X} = 0 E [N (t + τ)] + = R_{N} (τ) E [N (t) N (t + τ)]

Οι δύο μέσοι όροι μηδενίζονται γιατί η $N$ είναι zero-mean. Άρα:

R_{X} (τ) = m_{X}^{2} + R_{N} (τ)

Διάβασε: η $R_{X} (τ)$ έχει δύο κομμάτια:

Σταθερός όρος $m_{X}^{2}$ — από το DC κομμάτι. Δεν εξαρτάται από $τ$ καθόλου.
$R_{N} (τ)$ — η αυτοσυσχέτιση του zero-mean κομματιού. Εδώ μένει η «πραγματική» δυναμική της ΤΔ.

7α. Asymptotic συμπεριφορά — το $m_{X}^{2}$ ανακαλύπτεται από το «τέλος»

Αν η zero-mean ΤΔ $N (t)$ «ξεχνά» γρήγορα τις παλιές της τιμές (δηλαδή $R_{N} (τ) \to 0$ όταν $∣ τ ∣ \to \infty$ — συνήθης περίπτωση για φυσικό θόρυβο), τότε:

R_{X} (τ) ∣ τ ∣ \to \infty m_{X}^{2}

Δηλαδή ο μέσος ανακτάται από την ασύμπτωτη της αυτοσυσχέτισης για μεγάλα $τ$ :

m_{X} = \pm ∣ τ ∣ \to \infty lim R_{X} (τ)

(Το $\pm$ από τη ρίζα: η $R_{X}$ μας λέει το τετράγωνο του μέσου· η πραγματική του τιμή απαιτεί άλλη πληροφορία.)

8. Joint stationarity — όταν εξετάζουμε δύο ΤΔ μαζί

Δύο ΤΔ $X (t)$ και $Y (t)$ λέγονται jointly WSS αν:

Καθεμία ξεχωριστά είναι WSS: σταθεροί μέσοι $m_{X}, m_{Y}$ και $R_{X} (τ), R_{Y} (τ)$ μόνο της διαφοράς.
Το cross-correlation εξαρτάται μόνο από τη διαφορά: $R_{X, Y} (t_{1}, t_{2}) = R_{X, Y} (τ)$ .

Παράδειγμα: ο θόρυβος εισόδου $N_{1} (t)$ και ο θόρυβος του δέκτη $N_{2} (t)$ είναι από διαφορετικές, ανεξάρτητες πηγές → uncorrelated, joint WSS. Όταν προστίθενται, η συνολική $R$ είναι το άθροισμα.

Counterexample: οι $X (t), Y (t)$ της Άσκησης 1 (Random processes §9) είναι όχι joint WSS — οι μέσοι τους εξαρτώνται από $t$ , άρα κανένα από τα ατομικά WSS-conditions δεν ισχύει.

9. Χρονική μέση τιμή και ΣΑΣ — slide 28

Μέχρι τώρα όλες οι μέσες τιμές μας ήταν ensemble averages — μέσοι πάνω σε όλα τα δείγματα $x_{i} (t)$ της ΤΔ. Αλλά στο εργαστήριο/δέκτη μετράμε μία μόνο realization. Πώς να εκτιμήσουμε τις στατιστικές από αυτή τη μία μέτρηση;

Παίρνουμε χρονικούς μέσους όρους — μέσοι πάνω σε όλο τον χρόνο μιας συγκεκριμένης realization.

Για κάθε κυματομορφή-δείγμα $x_{i} (t)$ της ΤΔ $X (t)$ ορίζονται δύο χρονικές ποσότητες. Η χρονική μέση τιμή:

E [x_{i} (t)] ≜ T \to + \infty lim \frac{1}{T} \int_{- T /2}^{T /2} x_{i} (t) d t

και η χρονική αυτοσυσχέτιση (ΣΑΣ):

R_{x_{i}} (τ) ≜ T \to + \infty lim \frac{1}{T} \int_{- T /2}^{T /2} x_{i} (t) x_{i} (t + τ) d t .

Διάβασε αργά: ο συμβολισμός $E [x_{i} (t)]$ στις διαφάνειες σημαίνει τον χρονικό μέσο της $i$ -th realization — όχι το ensemble mean. Είναι κατά παράδοση μπερδεμένος συμβολισμός· μερικά βιβλία χρησιμοποιούν $⟨ x_{i} (t)⟩$ ή $\overline{x_{i}}$ για διάκριση. Σε αυτή τη σελίδα κρατάμε το $E [x_{i} (t)]$ των διαφανειών αλλά πάντα διευκρινίζουμε ότι είναι time-average.

Σημείωση συμβολισμού — slide-28 χρησιμοποιεί $T$ ως όριο ολοκλήρωσης. Σε άλλα βιβλία θα δεις $2 T$ (με όρια $[- T, T]$ ). Το αποτέλεσμα είναι ίδιο στο όριο. Εδώ ακολουθούμε αυστηρά τον συμβολισμό των διαφανειών.

10. Εργοδικότητα ως προς τη μέση τιμή — slide 29

Πότε ο time-average μιας realization ταυτίζεται με το ensemble mean της ΤΔ;

Μια στάσιμη ΤΔ $X (t)$ ονομάζεται εργοδική ως προς τη μέση τιμή αν οι χρονικές μέσες τιμές όλων των κυματομορφών-δειγμάτων της είναι ίσες μεταξύ τους και ίσες με το ensemble mean:

E [x_{i} (t)] = E [X (t)] \forall i .

Μπορεί το $E [X (t)]$ να αλλάζει με το $t$ ; Σε μια οποιαδήποτε ΤΔ, ναι — ο ensemble μέσος μπορεί κάλλιστα να εξαρτάται από τη στιγμή $t$ . Εδώ όμως η $X (t)$ είναι στάσιμη (γι' αυτό κι ο ορισμός πιο πάνω ξεκινά «στάσιμη ΤΔ»), οπότε $E [X (t)] = m_{X}$ — σταθερός, ίδιος σε κάθε $t$ . Έτσι η ισότητα είναι «αριθμός = αριθμός», χωρίς ελεύθερο $t$ σε κανένα μέλος: το αριστερό $E [x_{i} (t)]$ είναι χρονικός μέσος πάνω σε όλο τον χρόνο (το $t$ «εξαφανίζεται» στο ολοκλήρωμα → ένας αριθμός ανά realization), και το δεξί είναι η σταθερά $m_{X}$ . Η εργοδικότητα ζητάει αυτές οι δύο σταθερές να είναι ίσες, για κάθε $i$ .

Πρόσεξε ακόμη: η εργοδικότητα θέλει δύο πράγματα μαζί — όχι μόνο κάθε χρονικός μέσος να ισούται με το $m_{X}$ , αλλά και όλες οι realizations να δίνουν τον ίδιο χρονικό μέσο μεταξύ τους (ανεξάρτητα από το ποια θα μετρήσεις). (Ορισμοί: ο χρονικός μέσος $E [x_{i} (t)]$ στο §9 ακριβώς από πάνω· το ensemble mean $E [X (t)]$ στη Random processes §5.)

Χρειάζεται στασιμότητα η εργοδικότητα; — ναι, κι είναι ισχυρότερη

Η εργοδικότητα ορίζεται για στάσιμες ΤΔ — την προϋποθέτει: για να ισούται ο χρονικός μέσος μιας realization με «τον» ensemble μέσο, αυτός πρέπει να είναι μία σταθερά (ίδια σε κάθε $t$ ) — δηλαδή η ΤΔ πρέπει να είναι στάσιμη ως προς τον μέσο. Άρα εργοδική ⟹ στάσιμη.

Το αντίστροφο όχι: στάσιμη ΤΔ μπορεί κάλλιστα να μην είναι εργοδική. Το βλέπεις αμέσως πιο κάτω στο preset $X (t) = A$ , $A \sim N (0, 1)$ : είναι στάσιμο (σταθερός μέσος 0, $R_{X}$ σταθερή), αλλά κάθε realization «κολλάει» στη δική της σταθερά $A_{i}$ — ο χρονικός της μέσος είναι $A_{i}$ , όχι το ensemble $m_{X} = 0$ . Στάσιμο ✓, εργοδικό ✗.

Δηλαδή η εργοδικότητα είναι πιο δυνατή απαίτηση από τη στασιμότητα. Στα ΣΕ θεωρούμε τις ΤΔ και WSS και εργοδικές — η εργοδικότητα είναι το επιπλέον «μπόνους» που μας αφήνει να εκτιμάμε στατιστικές από μία καταγραφή.

Όταν αυτό ισχύει, μπορούμε να ηχογραφήσουμε μία ηχογράφηση και να εκτιμήσουμε το $m_{X}$ απευθείας — δεν χρειάζονται χίλιες realizations.

Ergodicity — time-average vs ensemble-average

✓ Ergodic στον μέσο — ο time-average (μπλε) και ο ensemble-average (μωβ) τείνουν στην ίδια τιμή. Άρα μπορούμε να εκτιμήσουμε τον μέσο του process από μία αρκετά μακροχρόνια καταγραφή.

Δες τα presets:

Λευκός θόρυβος (ergodic): ο time-average (μπλε) σε μία realization και ο ensemble-average (μωβ) σε σταθερό $t$ συγκλίνουν στην ίδια τιμή ( $\approx 0$ ). Ergodic ✓
$cos (ω t + Θ)$ (ergodic): ίδιο. Και οι δύο τείνουν στο 0. Ergodic ✓
$X (t) = A$ , $A \sim N (0, 1)$ (μη ergodic): κάθε realization είναι μια σταθερά $A_{i}$ που δειγματίζεται μία φορά. Time-average της realization $i$ = $A_{i}$ — η συγκεκριμένη του τιμή, όχι το ensemble $m_{X} = E [A] = 0$ . Διαφορετική realization → διαφορετικός time-average → όχι ergodic.

11. Εργοδικότητα ως προς την ΣΑΣ — slide 30

Παρόμοιος ορισμός για την αυτοσυσχέτιση:

Μια στάσιμη ΤΔ $X (t)$ ονομάζεται εργοδική ως προς την αυτοσυσχέτιση αν οι χρονικές αυτοσυσχετίσεις όλων των κυματομορφών-δειγμάτων της είναι ίσες μεταξύ τους και ίσες με τη στατιστική (ensemble) ΣΑΣ:

R_{x_{i}} (τ) = R_{X} (τ) \forall i .

Διάβασε: $R_{x_{i}} (τ)$ είναι η χρονική αυτοσυσχέτιση μιας συγκεκριμένης realization (slide-28). Η συνθήκη απαιτεί αυτή να ισούται με την ensemble $R_{X} (τ)$ — και να είναι ίδια για κάθε δείγμα.

Η operational ταυτότητα του K21 — η σιωπηρή παραδοχή κάθε άσκησης θορύβου

Στα Συστήματα Επικοινωνιών, οι ΤΔ υπό μελέτη θεωρούνται (συνήθως) εργοδικές ως προς τη ΣΑΣ. Αυτό είναι πολύ σημαντικό: παρατηρώντας μία κυματομορφή-δείγμα $x_{i} (t)$ αντλούμε πληροφορία για ολόκληρη την ΤΔ $X (t)$ .

Πρακτικά: όλος ο θόρυβος που θα συναντήσεις στις ασκήσεις/εξετάσεις είναι ergodic, εκτός αν αναφέρεται ρητά το αντίθετο. Αυτή είναι η default υπόθεση από εδώ και κάτω — μπορείς να μετράς time-averages αντί για ensemble-averages.

11α. Πότε δεν ισχύει — το «memory που μένει για πάντα»

Δύο σενάρια όπου η εργοδικότητα σπάει:

Random DC offset. Όπως είδαμε στο ErgodicityViz: $X (t) = A$ με $A$ ΤΜ. Κάθε realization είναι ολόκληρη μια σταθερά. Time-average → αυτή η σταθερά. Ensemble → μέσος όλων των σταθερών. Διαφορετικά.
Switched processes. $X (t) = A_{1}$ για $t < 0$ , $X (t) = A_{2}$ για $t \geq 0$ με $A_{1}, A_{2}$ ανεξάρτητες ΤΜ. Καμία πληροφορία της παρελθούσας πλευράς δεν δείχνει την μέλλουσα.

Διαισθητικός κανόνας: όταν υπάρχει τυχαία επιλογή που γίνεται μία φορά και παραμένει για πάντα, η ΤΔ δεν είναι ergodic — η μία realization δεν επαρκεί για να δούμε την κατανομή.

Όταν αντίθετα η ΤΔ «ξεχνά» γρήγορα ( $R_{X} (τ) \to 0$ καθώς $∣ τ ∣ \to \infty$ ), συνήθως είναι ergodic — γιατί η μία realization καλύπτει στατιστικά «όλη την κατανομή» στον χρόνο.

12. Άσκηση 5 (slides 32-35) — η canonical ergodicity απόδειξη

Όπως η Άσκηση 2 (§6 πιο πάνω σε αυτή τη σελίδα) είναι το canonical WSS παράδειγμα, η Άσκηση 5 είναι το canonical ergodicity παράδειγμα — και εξετάζει την ίδια ακριβώς ΤΔ.

Δηλαδή: η ΤΔ που μόλις δείξαμε ότι είναι WSS (§6 παραπάνω) — είναι και ergodic; Δείξε και ως προς τον μέσο και ως προς την αυτοσυσχέτιση.

Strategy: μία realization $z_{i} (t)$ είναι $z_{i} (t) = A cos (2 π f t + θ_{i})$ — ντετερμινιστική, για συγκεκριμένο $θ_{i}$ . Υπολογίζουμε τους χρονικούς μέσους και ελέγχουμε αν ταυτίζονται με τα ensemble averages του §6.

Μέρος 1 — Ergodic ως προς τη μέση τιμή (slide 33).

Αρκεί να δείξουμε $E [z_{i} (t)] = E [Z (t)] = m_{Z} = 0 \forall i$ .

E [z_{i} (t)] = T \to + \infty lim \frac{1}{T} \int_{- T /2}^{T /2} z_{i} (t) d t = A T \to + \infty lim \frac{1}{T} \int_{- T /2}^{T /2} cos (2 π f t + θ_{i}) d t

Παρατηρώντας ότι $\frac{d}{d t} sin (2 π f t + θ_{i}) = 2 π f cos (2 π f t + θ_{i})$ , βγάζουμε αντι-παράγωγο:

E [z_{i} (t)] = \frac{A}{2 π f} T \to + \infty lim \frac{1}{T} [sin (2 π f (T /2) + θ_{i}) - sin (2 π f (- T /2) + θ_{i})]

Παρατήρηση: ο όρος μέσα στις αγκύλες είναι φραγμένος ( $∣ sin ∣ \leq 1$ για κάθε $T$ ), ενώ διαιρούμε με το $T \to \infty$ . Άρα:

E [z_{i} (t)] = 0 \forall i

Ταυτίζεται με το ensemble mean $m_{Z} = 0$ από §6. Ergodic ως προς τον μέσο ✓.

Μέρος 2 — Ergodic ως προς την αυτοσυσχέτιση (slides 34-35).

Αρκεί να δείξουμε $R_{z_{i}} (τ) = R_{Z} (τ) = (A^{2} /2) cos (2 π f τ) \forall i$ .

R_{z_{i}} (τ) = T \to + \infty lim \frac{1}{T} \int_{- T /2}^{T /2} z_{i} (t) z_{i} (t + τ) d t = A^{2} lim \frac{1}{T} \int_{- T /2}^{T /2} cos (2 π f t + θ_{i}) cos (2 π f (t + τ) + θ_{i}) d t

Product-to-sum (τυπολόγιο): $cos α cos β = \frac{1}{2} [cos (α - β) + cos (α + β)]$ με:

$α - β = - 2 π f τ$ → $cos (α - β) = cos (2 π f τ)$ (cosine είναι άρτια)
$α + β = 2 π f (2 t + τ) + 2 θ_{i}$

R_{z_{i}} (τ) = \frac{A ^{2}}{2} cos (2 π f τ) lim \frac{1}{T} \int_{- T /2}^{T /2} 1 d t + \frac{A ^{2}}{2} lim \frac{1}{T} \int_{- T /2}^{T /2} cos (2 π f (2 t + τ) + 2 θ_{i}) d t

Πρώτος όρος: $(1/ T) \int_{- T /2}^{T /2} 1 d t = 1$ — μένει $\frac{A ^{2}}{2} cos (2 π f τ)$ .

Δεύτερος όρος: ίδιο τρικ με Μέρος 1. Παράγωγος-τρικ:

lim \frac{1}{T} \int cos (2 π f (2 t + τ) + 2 θ_{i}) d t = \frac{1}{4 π f} lim \frac{1}{T} [sin (2 π f (T + τ) + 2 θ_{i}) - sin (2 π f (- T + τ) + 2 θ_{i})]

Πάλι: αριθμητής φραγμένος, παρονομαστής $\to \infty$ → 0.

Άρα:

R_{z_{i}} (τ) = \frac{A ^{2}}{2} cos (2 π f τ) \forall i

Ταυτίζεται με την ensemble $R_{Z} (τ) = (A^{2} /2) cos (2 π f τ)$ από §6. Ergodic ως προς την αυτοσυσχέτιση ✓.

Συμπέρασμα:

Z (t) = A cos (2 π f t + θ), θ \sim U [0, 2 π] ⟹ WSS και ergodic

Take-away — γιατί αυτή η άσκηση είναι όλο το κεφάλαιο:

Η Άσκηση 2 (§6) έδειξε WSS με ensemble averages.
Η Άσκηση 5 (§12) δείχνει ergodic με time averages — υπολογίζοντας τις ίδιες ποσότητες ( $m, R$ ) από διαφορετικό δρόμο (χρονικό αντί ensemble).
Όταν οι δύο δρόμοι καταλήγουν στην ίδια απάντηση, η ΤΔ είναι ergodic — μπορούμε να εκτιμήσουμε στατιστικά από μία realization.

Συχνός σχολιασμός εξέτασης: «Δείξτε ότι ο μέσος και η αυτοσυσχέτιση μπορούν να εκτιμηθούν από μία ηχογράφηση.» — αυτή ακριβώς είναι η διατύπωση εργοδικότητας. Δεν είναι ξεχωριστή έννοια· είναι «time-avg = ensemble-avg για όλες τις realizations».

13. Σύνοψη — όλα μαζί

Έννοια	Τύπος
SSS (slide 20)	Όλες οι joint distributions αμετάβλητες σε time shift
WSS (slides 21-22)	$m_{X} (t) = m_{X}$ const και $R_{X} (t_{1}, t_{2}) = R_{X} (τ)$
$C_{X} (τ)$ για WSS (slide 22)	$C_{X} (τ) = R_{X} (τ) - m_{X}^{2}$
R_X(τ) — άρτια	$R_{X} (- τ) = R_{X} (τ)$
R_X(τ) — max	$∣ R_{X} (τ)∣ \leq R_{X} (0)$
R_X(τ) — ισχύς	$R_{X} (0) = E [X^{2} (t)] = P_{X}$
Decomposition (Άσκηση 3)	Αν $m_{X} \neq = 0$ : $R_{X} (τ) = m_{X}^{2} + R_{N} (τ)$
Asymptotic mean	$m_{X} = \pm lim_{∣ τ ∣ \to \infty} R_{X} (τ)$
Time average (slide 28)	$E [x_{i} (t)] = lim_{T} (1/ T) \int x_{i} (t) d t$
Time autocorrelation	$R_{x_{i}} (τ) = lim_{T} (1/ T) \int x_{i} (t) x_{i} (t + τ) d t$
Ergodic στον μέσο (slide 29)	$E [x_{i} (t)] = m_{X} \forall i$
Ergodic στην R_X (slide 30)	$R_{x_{i}} (τ) = R_{X} (τ) \forall i$
Hierarchy	SSS ⇒ WSS, Ergodic ⇒ WSS. Για Gaussian: SSS ⇔ WSS. Inverse generally false.
K21 convention	Όλες οι ΤΔ στις εξετάσεις είναι WSS και ergodic εκτός αν αναφέρεται ρητά αντίθετο

14. Εξάσκηση

0 / 8 λυμένα

Οκτώ ασκήσεις — οι τρεις πρώτες είναι οι πλήρεις Ασκήσεις 2, 3, 5 από τις διαφάνειες ως guided exercises· οι υπόλοιπες πέντε είναι μικρότερες ερωτήσεις πάνω στις WSS συνθήκες, στις properties της $R_{X}$ , και στη διάκριση SSS/WSS/ergodic.

15. Ανακάλεσε — drills

Βάλε τα βήματα στη σωστή σειρά

Βάλε στη σωστή σειρά τα 5 βήματα για να ελέγξεις αν μια ΤΔ είναι WSS:

Σύρε τις γραμμές για αναδιάταξη — ή χρησιμοποίησε τα βελάκια .

1.
Υπολογίζω τον μέσο m_X(t) — με LOTUS αν υπάρχει τυχαία παράμετρος, ή με linearity αν εμφανίζεται γραμμικά.
2.
Υπολογίζω την αυτοσυσχέτιση R_X(t_1, t_2) — product-to-sum για γινόμενα cosines, ή ορισμός για άλλες μορφές.
3.
Αν και οι δύο συνθήκες ισχύουν → είναι WSS. Γράφω R_X(τ) και ισχύ P_X = R_X(0).
4.
Ελέγχω αν ο m_X(t) εξαρτάται από t. Αν ναι → ΟΧΙ WSS (σπάει η συνθήκη 1) — τέλος.
5.
Ελέγχω αν η R_X(t_1, t_2) εξαρτάται μόνο από τη διαφορά τ = t_1 − t_2. Αν όχι → ΟΧΙ WSS.

Συμπλήρωσε τα κενά

Συμπλήρωσε τα κενά στις βασικές WSS-properties:

Για WSS ΤΔ: m_X(t) = (σταθερό), και R_X(t_1, t_2) = R_X(). Η R_X είναι **άρτια**: R_X(-τ) = . Η ισχύς δίνεται από R_X() = E[X²(t)] = P_X. Αν m_X ≠ 0, η R_X έχει σταθερό όρο . Μια ΤΔ είναι **ergodic στον μέσο** όταν ο χρονικός μέσος μιας realization ισούται με για κάθε realization.

Ανακάλεσε από μνήμη

Από μνήμη: για την ΤΔ Z(t) = A cos(2π f t + θ) με θ ~ U[0, 2π], γράψε χωρίς να κοιτάς: (α) το m_Z(t), (β) την R_Z(τ), (γ) τις χρονικές μέσες τιμές E[z_i(t)] και R_{z_i}(τ) μιας realization, (δ) είναι WSS; ergodic;

16. Αναγνώρισε — όταν δεις αυτές τις φράσεις στην εξέταση

Πώς θα το αναγνωρίσεις

Αν δεις στην εκφώνηση

«δείξε ότι X(t) είναι WSS»
«εξετάστε αν η ΤΔ είναι WSS»
«εξετάστε ως προς την εργοδικότητα»
«σταθερή μέση τιμή m_X ≠ 0»
«τυχαία φάση θ ~ U[0, 2π]»
«μπορούμε να εκτιμήσουμε το m από μία μέτρηση»
«R_X(τ) — δείξε ότι είναι άρτια / έχει max στο 0»

«δείξε ότι X(t) είναι WSS» → πάντα δύο βήματα: (1) $m_{X}$ σταθερό; (2) $R_{X}$ μόνο διαφορά; Πρόσεξε το support αν είναι uniform — $U [0, 2 π]$ → WSS πιθανώς· $U [0, π]$ → όχι.
«εξετάστε αν η ΤΔ είναι WSS» → αν θες να αποκλείσεις WSS, βρες πρώτα το μέσο — αν εξαρτάται από $t$ , τέλος (δεν χρειάζεται R_X).
«εξετάστε ως προς την εργοδικότητα» → υπολόγισε τους χρονικούς μέσους $E [z_{i} (t)], R_{z_{i}} (τ)$ και σύγκρινε με ensemble. Trick: «φραγμένο / T → 0» — εμφανίζεται πάντα.
«σταθερή μέση τιμή $m_{X} \neq = 0$ » → χρησιμοποίησε την Άσκηση 3 decomposition: $R_{X} (τ) = m_{X}^{2} + R_{N} (τ)$ . Σπάσε σε DC + zero-mean κομμάτι.
«τυχαία φάση $θ \sim U [0, 2 π]$ » → είναι το canonical WSS παράδειγμα. Αυτόματα ξέρεις: $m = 0$ , $R (τ) = (A^{2} /2) cos (2 π f τ)$ , WSS, ergodic.
«μπορούμε να εκτιμήσουμε το $m$ από μία μέτρηση» → η εκφώνηση ζητάει εργοδικότητα. Δείξε $E [x_{i}] = m_{X} \forall i$ .
« $R_{X} (τ)$ — δείξε ότι είναι άρτια / έχει max στο 0» → properties από WSS. Συμμετρία από αλλαγή μεταβλητής, max από Cauchy-Schwarz. Standard derivations.

Πού η WSS-machine εμφανίζεται στα παλιά θέματα

17. Πού θα χρειαστείς αυτές τις έννοιες αργότερα

/randomness/psd (αμέσως επόμενη) — Wiener-Khinchin: $S_{X} (f) = F {R_{X} (τ)}$ . Όλη η FT γίνεται πάνω σε ένα-όρισμα συνάρτηση — μόνο επειδή ο θόρυβος είναι WSS. Χωρίς WSS, το $R_{X} (t_{1}, t_{2})$ έχει δύο μεταβλητές και η FT δεν ορίζεται καθαρά.
/noise/sources — ο θερμικός θόρυβος ορίζεται ως WSS Gaussian ΤΔ. Όλη η ανάλυση SNR του δέκτη υποθέτει αυτό σιωπηλά.
/noise/white-noise — λευκός θόρυβος είναι WSS με $R_{X} (τ) = (N_{0} /2) δ (τ)$ — extreme case του «στενότητας R_X = ευρύτητας PSD» που είδαμε στο AutocorrelationViz.
/noise/through-filters — $R_{Y} (τ) = R_{X} (τ) * h (τ) * h (- τ)$ — η formula υποθέτει WSS-input για WSS-output. Όλος ο τύπος είναι σε μία γραμμή μόνο επειδή τα δύο σήματα είναι WSS.
/noise/bandpass — bandpass θόρυβος → I/Q ΤΔ· οι $n_{I}, n_{Q}$ είναι joint WSS (§8). Χωρίς joint WSS, δεν θα ξεχωρίζονταν τόσο καθαρά.
/am/modulator-demodulator & /fm/in-noise — όλος ο τύπος SNR_out / SNR_in χρησιμοποιεί ισχύς θορύβου $R_{N} (0)$ — που είναι σταθερά μόνο όταν ο θόρυβος είναι WSS.
Άσκηση 3 decomposition (§7) — όπου εμφανίζεται μη-μηδενικός μέσος (AM carrier + message, DC offset σε δέκτη), η $R_{X} = m_{X}^{2} + R_{N}$ ξεχωρίζει DC από zero-mean κομμάτι. Φυσική σύνδεση με τον carrier-power-όρο της AM ανάλυσης.

18. Συμπύκνωσε — όλο το κεφάλαιο

Συμπύκνωσε όλο το κεφάλαιο

Λέξεις-κλειδιά

WSS: m_X = const & R_X = R_X(τ)
SSS ⇒ WSS (αντίστροφο δεν ισχύει)
Gaussian: SSS ⇔ WSS
C_X(τ) = R_X(τ) − m_X²
R_X(0) = power, άρτια, max στο 0
m_X ≠ 0 → R_X = m_X² + R_N
Ergodic: time-avg = ensemble-avg
Canonical WSS+erg: A cos(2πft + θ), θ ~ U[0,2π]
K21: όλα τα signals WSS+ergodic by default

Βήματα

WSS-check: (1) m_X(t) σταθερό; (2) R_X μόνο διαφορά; — και τα δύο.
Αν m_X(t) εξαρτάται από t → απορρίπτω WSS αμέσως (δεν χρειάζεται R_X).
Random-phase cosine με full-period θ → αυτόματα WSS+ergodic (Άσκηση 2 + 5).
Με μη-μηδενικό μέσο → Άσκηση 3 decomposition: R_X = m_X² + R_N.
Ergodicity-proof trick: χρονικά ολοκληρώματα με sin/cos φραγμένα → φραγμένο/T → 0.
R_X properties: άρτια, max στο 0, ισχύς στο 0.

Η συχνότερη παγίδα

Τρεις παγίδες: (α) Το support της uniform παραμέτρου καθορίζει αν παίρνεις WSS — $U[0, 2\pi]$ ✓, $U[0, \pi]$ ✗. (β) «Ergodic» δεν είναι ίδιο με «WSS» — ergodic ⇒ WSS αλλά αντίστροφο δεν ισχύει (το random-DC counterexample). (γ) «SSS» δεν συνεπάγεται «WSS μόνο» — μην απλοποιείς. Για Gaussian τα δύο ταυτίζονται· γενικά όχι.

Τι μάθαμε

WSS = δύο συνθήκες: $m_{X} =$ const και $R_{X} = R_{X} (τ)$ . Είναι η operational έννοια stationarity που θα χρησιμοποιήσουμε από εδώ και κάτω.
SSS = αυστηρότερη έννοια (όλες οι joint PDFs αμετάβλητες). SSS ⇒ WSS, αλλά αντίστροφο δεν ισχύει — εκτός για Gaussian ΤΔ όπου ταυτίζονται.
Slide 23 το λέει ρητά: οι ΤΔ της Άσκησης 1 (Random processes §9, $ϕ \sim U [0, π]$ ) δεν είναι WSS — οι μέσοι εξαρτώνται από $t$ .
Άσκηση 2 (§6) έδειξε το canonical WSS παράδειγμα: $Z = A cos (2 π f t + θ)$ με $θ \sim U [0, 2 π]$ → $m = 0$ , $R (τ) = (A^{2} /2) cos (2 π f τ)$ .
Άσκηση 3 (§7) έδειξε την $R_{X} = m_{X}^{2} + R_{N}$ decomposition για μη-μηδενικό μέσο — DC + zero-mean κομμάτι, με ασύμπτωτη $R_{X} (τ) \to m_{X}^{2}$ .
Εργοδικότητα (§§10-12) σου επιτρέπει να μετράς ensemble statistics από μία μακροχρόνια ηχογράφηση. Στα ΣΕ θεωρούμε εργοδικότητα παντού (slide 30 verbatim).
Άσκηση 5 (§12) είναι η canonical ergodicity-proof: ίδια ΤΔ με την Άσκηση 2 — και μέσος και $R$ προκύπτουν από time averages = ensemble averages.
Επόμενη σελίδα: PSD — αν η ΤΔ είναι WSS, ορίζεται η Wiener-Khinchin: $S_{X} (f) = F {R_{X} (τ)}$ .

Επόμενο

Power spectral density

Τελείωσες αυτή τη σελίδα;

Φόρτωση σχολίων…