8 Yakınsama ve Merkezi Limit Teoremi
Örneklem ve İstatistikler bölümünde örneklem ortalamasının beklenen değerinin kitle ortalamasına, varyansının da \(\sigma^2/n\)’ye eşit olduğunu gördük. Örneklem büyüdükçe bu varyans sıfıra iner. Bu bölümde bunun iki önemli sonucunu inceliyoruz. Birincisi, örneklem ortalaması kitle ortalamasına yaklaşır: büyük sayılar yasası. İkincisi, kitlenin dağılımı ne olursa olsun örneklem ortalamasının dağılımı normal dağılıma benzemeye başlar: merkezi limit teoremi.
Bu iki sonucu kesin biçimde söyleyebilmek için önce “bir rastgele değişken dizisi yakınsar” sözünün ne anlama geldiğini belirlememiz gerekiyor. Sayı dizilerinde tek bir yakınsama kavramı vardır; rastgele değişken dizilerinde ise birkaç farklı kavram vardır. Bölüm boyunca \(X_1, X_2, \ldots\) rastgele değişkenleri için
\[ \bar X_n = \frac{1}{n} \sum_{i=1}^{n} X_i \]
ilk \(n\) değişkenin ortalamasıdır.
8.1 Olasılıkta Yakınsama
Bir rastgele değişken, deneyin sonucuna bağlı bir fonksiyondur. İki rastgele değişkenin birbirine “yakın” olmasını en doğal biçimde şöyle okuyabiliriz: aralarındaki farkın büyük olma olasılığı küçüktür.
Tanım 8.1 (Olasılıkta Yakınsama) \((\Omega, \mathcal{U}, P)\) bir olasılık uzayı, \((X_n)\) bu uzayda tanımlı rastgele değişkenlerin bir dizisi ve \(X\) aynı uzayda bir rastgele değişken olsun. Her \(\varepsilon > 0\) için
\[ \lim_{n \to \infty} P\big(\{ w : |X_n(w) - X(w)| \ge \varepsilon \}\big) = 0 \]
oluyorsa \((X_n)\) dizisi \(X\) rastgele değişkenine olasılıkta (olasılık ölçüsünde) yakınsar denir ve
\[ X_n \xrightarrow[n \to \infty]{P} X \]
yazılır. Koşul kısaca \(\lim_{n \to \infty} P(|X_n - X| \ge \varepsilon) = 0\) diye yazılır. Tümleyen olaya geçilirse aynı koşul \(\lim_{n \to \infty} P(|X_n - X| < \varepsilon) = 1\) biçimini alır.
Yani \(n\) büyüdükçe \(X_n\)’in \(X\)’ten \(\varepsilon\) ya da daha fazla uzaklaşma olasılığı sıfıra iner, \(\varepsilon\) ne kadar küçük seçilirse seçilsin. Bu yakınsama olasılıklar için söylenmiştir, tek tek sonuçlar için değil. Her \(n\) için \(X_n\)’in \(X\)’ten uzak düştüğü bazı sonuçlar bulunabilir. Önemli olan, bu sonuçların olasılığının küçülmesidir. Limit çoğu zaman bir sabittir. \(X\) her sonuçta \(c\) değerini alıyorsa \(X_n \xrightarrow{P} c\) yazarız.
Örnek 8.1 (Olasılıkta Sıfıra Giden Ama Beklenen Değeri Bir Kalan Dizi) Her \(n \ge 1\) için \(X_n\) rastgele değişkeninin olasılık fonksiyonu
\[ P(X_n = n) = \frac{1}{n}, \qquad P(X_n = 0) = 1 - \frac{1}{n} \]
olsun. \((X_n)\) dizisinin olasılıkta \(0\)’a yakınsadığını, buna karşın \(E(X_n)\) dizisinin \(0\)’a gitmediğini gösterin.
Çözüm
\(\varepsilon > 0\) verilsin. \(X_n\) yalnız \(0\) ve \(n\) değerlerini alır. \(n \ge \varepsilon\) olduğunda \(|X_n| \ge \varepsilon\) olayı tam olarak \(X_n = n\) olayıdır. Bu yüzden \(n \ge \varepsilon\) için
\[ P(|X_n - 0| \ge \varepsilon) = P(X_n = n) = \frac{1}{n} \]
olur. \(n < \varepsilon\) olan sonlu sayıdaki terim limiti etkilemez ve \(\frac{1}{n} \to 0\) olduğundan \(X_n \xrightarrow{P} 0\) bulunur.
Öte yandan her \(n\) için
\[ E(X_n) = n \cdot \frac{1}{n} + 0 \cdot \Big(1 - \frac{1}{n}\Big) = 1 \]
olur. Yani \(X_n\) büyük olasılıkla \(0\)’dır. Ama küçük bir olasılıkla aldığı çok büyük \(n\) değeri beklenen değeri \(1\)’de tutar. Demek ki olasılıkta yakınsama, beklenen değerlerin yakınsamasını gerektirmez.
\(\blacksquare\)
Örnek 8.2 (Düzgün Örneklemin En Küçük Değeri) \(U_1, U_2, \ldots\) bağımsız ve her biri \(U(0,1)\) dağılımlı olsun (sürekli düzgün dağılım). \(M_n = \min\{U_1, \ldots, U_n\}\) için \(M_n \xrightarrow{P} 0\) olduğunu gösterin.
Çözüm
\(M_n \ge 0\) olduğundan \(|M_n - 0| = M_n\)’dir. \(\varepsilon \ge 1\) ise \(P(M_n \ge \varepsilon) = 0\) olur ve gösterilecek bir şey kalmaz.
\(0 < \varepsilon < 1\) olsun. En küçük değerin \(\varepsilon\)’dan küçük olmaması, \(U_i\)’lerin hiçbirinin \(\varepsilon\)’dan küçük olmaması demektir:
\[ \{M_n \ge \varepsilon\} = \{U_1 \ge \varepsilon\} \cap \cdots \cap \{U_n \ge \varepsilon\}. \]
\(U_i\)’ler bağımsız ve \(P(U_i \ge \varepsilon) = 1 - \varepsilon\) olduğundan
\[ P(M_n \ge \varepsilon) = P(U_1 \ge \varepsilon) \cdots P(U_n \ge \varepsilon) = (1 - \varepsilon)^n \]
bulunur. \(0 < 1 - \varepsilon < 1\) olduğundan \((1 - \varepsilon)^n \to 0\)’dır. Böylece \(M_n \xrightarrow{P} 0\).
Sayısal bir fikir vermek için \(\varepsilon = 0{,}01\) ve \(n = 500\) alalım:
\[ P(M_{500} \ge 0{,}01) = 0{,}99^{500} \approx 0{,}0066. \]
Yani 500 gözlemin hepsinin \(0{,}01\)’in üstünde kalması neredeyse imkânsızdır.
\(\blacksquare\)
8.2 Zayıf Büyük Sayılar Yasası
Olasılıkta yakınsamanın istatistikteki en önemli örneği, örneklem ortalamasının kitle ortalamasına yakınsamasıdır. \(X_1, \ldots, X_n\) bağımsız, her biri \(\mu\) ortalamalı ve \(\sigma^2\) varyanslı ise beklenen değerin doğrusallığından ve bağımsız değişkenlerde varyansın toplanmasından
\[ \begin{aligned} E(\bar X_n) &= \frac{1}{n} \sum_{i=1}^{n} E(X_i) = \frac{n\mu}{n} = \mu, \\[1mm] \operatorname{Var}(\bar X_n) &= \frac{1}{n^2} \sum_{i=1}^{n} \operatorname{Var}(X_i) = \frac{n\sigma^2}{n^2} = \frac{\sigma^2}{n} \end{aligned} \]
olduğunu biliyoruz. \(\bar X_n\)’in merkezi yerinde durur, yayılımı ise sıfıra iner. Aşağıdaki teorem bu gözlemi olasılıkta yakınsama diliyle söyler.
Teorem 8.1 (Zayıf Büyük Sayılar Yasası) \(X_1, X_2, \ldots\) bağımsız, aynı \(\mu\) ortalamasına ve aynı \(\sigma^2 < \infty\) varyansına sahip rastgele değişkenler olsun. O zaman
\[ \bar X_n = \frac{1}{n} \sum_{i=1}^{n} X_i \xrightarrow[n \to \infty]{P} \mu \]
olur.
İspat
\(\varepsilon > 0\) verilsin. Chebyshev eşitsizliği (Olasılık Teorisi’ndeki ispatı) varyansı sonlu her \(Y\) ve her \(c > 0\) için
\[ P\big(|Y - E(Y)| \ge c\big) \le \frac{\operatorname{Var}(Y)}{c^2} \]
der. Bunu \(Y = \bar X_n\) ve \(c = \varepsilon\) ile uygulayalım. \(E(\bar X_n) = \mu\) ve \(\operatorname{Var}(\bar X_n) = \sigma^2/n\) olduğundan
\[ 0 \le P\big(|\bar X_n - \mu| \ge \varepsilon\big) \le \frac{\sigma^2}{n\varepsilon^2} \]
bulunur. \(\sigma^2\) ve \(\varepsilon\) sabit olduğundan sağ taraf \(n \to \infty\) iken \(0\)’a gider. Ortadaki olasılık iki sıfıra giden dizi arasında sıkıştığından o da \(0\)’a gider. Bu, \(\bar X_n \xrightarrow{P} \mu\) demektir.
\(\blacksquare\)
Yani örneklem hacmi büyüdükçe örneklem ortalaması, istediğimiz kadar yüksek bir olasılıkla, kitle ortalamasına istediğimiz kadar yakın olur. İspat bize bir de sayısal bir sınır verdi:
\[ P\big(|\bar X_n - \mu| \ge \varepsilon\big) \le \frac{\sigma^2}{n\varepsilon^2}. \]
Bu sınır yasayı somut hesaplara çevirmemizi sağlar. Aşağıdaki örneklerde onu kullanacağız.
Örnek 8.3 (Zar Atışlarının Ortalaması) Düzgün bir tavla zarı arka arkaya atılıyor. \(X_i\), \(i\)’inci atışta gelen sayı olsun; atışlar bağımsızdır. \(\bar X_n\) hangi sayıya olasılıkta yakınsar?
Çözüm
Her \(X_i\), \(\{1, 2, \ldots, 6\}\) üzerinde kesikli düzgün dağılımlıdır. Momentleri şöyle hesaplanır:
\[ \begin{aligned} \mu &= E(X_i) = \frac{1 + 2 + \cdots + 6}{6} = \frac{21}{6} = \frac{7}{2} = 3{,}5, \\[1mm] E(X_i^2) &= \frac{1 + 4 + 9 + 16 + 25 + 36}{6} = \frac{91}{6}, \\[1mm] \sigma^2 &= \frac{91}{6} - \Big(\frac{7}{2}\Big)^2 = \frac{182 - 147}{12} = \frac{35}{12}. \end{aligned} \]
Atışlar bağımsız, aynı dağılımlı ve varyans sonludur. Teorem 8.1 gereği
\[ \bar X_n = \frac{1}{n} \sum_{i=1}^{n} X_i \xrightarrow[n \to \infty]{P} \mu = 3{,}5 \]
olur. Yani zar atıldıkça gelen sayıların ortalaması \(3{,}5\)’e yaklaşır. Hiçbir atışta \(3{,}5\) gelmediği hâlde ortalama bu sayıya yerleşir.
\(\blacksquare\)
En yalın özel durum, iki sonuçlu bir deneyin tekrarıdır. Yasa bu durumda olasılığın göreli sıklık yorumunu verir.
Sonuç 8.1 (Bernoulli Büyük Sayılar Yasası) Başarı olasılığı \(p\) olan bağımsız denemeler yapılsın. \(X_i\), \(i\)’inci denemede başarı olursa \(1\), olmazsa \(0\) olsun. Yani \(X_i \sim \operatorname{Bernoulli}(p)\)’dir (Olasılık Teorisi’ndeki tanım). \(n\) denemedeki başarı sayısı \(S_n = X_1 + \cdots + X_n\) ise
\[ \frac{S_n}{n} \xrightarrow[n \to \infty]{P} p \]
olur. Özel olarak düzgün bir para arka arkaya atıldığında ilk \(n\) atıştaki tura oranı için
\[ \bar X_n = \frac{n \text{ atışta gelen tura sayısı}}{n} \xrightarrow[n \to \infty]{P} \frac{1}{2} \]
yani her \(\varepsilon > 0\) için \(\lim_{n \to \infty} P\big(|\bar X_n - \tfrac{1}{2}| < \varepsilon\big) = 1\)’dir. Aşağıdaki şekil bu yakınsamayı üç ayrı deneyde gösteriyor.
İspat
Bernoulli dağılımında \(E(X_i) = p\) ve \(\operatorname{Var}(X_i) = p(1-p)\)’dir (ispatı). \(p(1-p) \le \frac{1}{4}\) olduğundan varyans sonludur. \(X_i\)’ler bağımsız ve aynı dağılımlıdır, \(\frac{S_n}{n} = \bar X_n\)’dir. Teorem 8.1’yi \(\mu = p\) ile uygularsak \(\frac{S_n}{n} \xrightarrow{P} p\) bulunur. Düzgün para için \(X_i \sim \operatorname{Bernoulli}\big(\frac{1}{2}\big)\), yani \(p = \frac{1}{2}\)’dir.
\(\blacksquare\)
Yani “düzgün bir para atıldıkça tura oranı \(1/2\)’ye yakınsar.” Bir olayın olasılığı, deney çok kez tekrarlandığında o olayın gerçekleşme oranının yaklaştığı sayıdır. Zayıf büyük sayılar yasasının bu özel hâli Bernoulli büyük sayılar yasası olarak bilinir.
Örnek 8.4 (Bin Atışta Tura Oranı İçin Bir Üst Sınır) Düzgün bir para 1000 kez atılıyor. Tura oranının \(1/2\)’den en az \(0{,}05\) sapması olasılığı için bir üst sınır bulun.
Çözüm
\(X_i \sim \operatorname{Bernoulli}\big(\frac{1}{2}\big)\) olduğundan \(\sigma^2 = \frac{1}{2} \cdot \frac{1}{2} = \frac{1}{4}\)’tür. Zayıf büyük sayılar yasasının ispatındaki sınırı \(n = 1000\) ve \(\varepsilon = 0{,}05\) ile kullanalım:
\[ P\Big(\big|\bar X_{1000} - \tfrac{1}{2}\big| \ge 0{,}05\Big) \le \frac{\sigma^2}{n\varepsilon^2} = \frac{0{,}25}{1000 \cdot 0{,}0025} = \frac{0{,}25}{2{,}5} = 0{,}1. \]
Sapma olasılığı en çok \(0{,}1\)’dir. Tümleyen olaya geçersek \(P\big(0{,}45 < \bar X_{1000} < 0{,}55\big) \ge 0{,}9\) bulunur. Yani bin atışta tura oranı en az \(0{,}9\) olasılıkla \(0{,}45\) ile \(0{,}55\) arasındadır.
\(\blacksquare\)
Örnek 8.5 (Chebyshev Sınırıyla Gereken Atış Sayısı) Tura oranının \(1/2\)’den \(0{,}05\)’ten az sapması olasılığının en az \(0{,}95\) olması isteniyor. Chebyshev sınırına göre düzgün bir para en az kaç kez atılmalıdır?
Çözüm
\(\sigma^2 = \frac{1}{4}\) ve \(\varepsilon = 0{,}05\) ile
\[ P\Big(\big|\bar X_n - \tfrac{1}{2}\big| \ge 0{,}05\Big) \le \frac{0{,}25}{n \cdot 0{,}0025} = \frac{100}{n} \]
olur. Tümleyene geçersek
\[ P\Big(\big|\bar X_n - \tfrac{1}{2}\big| < 0{,}05\Big) \ge 1 - \frac{100}{n}. \]
Sağ tarafın en az \(0{,}95\) olması için \(\frac{100}{n} \le 0{,}05\), yani \(n \ge \frac{100}{0{,}05} = 2000\) gerekir. Chebyshev sınırı \(2000\) atışın yeteceğini garanti eder. Merkezi limit teoremiyle aynı soruyu yeniden ele alacağız (Örnek 8.19) ve çok daha küçük bir sayı bulacağız.
\(\blacksquare\)
8.3 Hemen Hemen Her Yerde Yakınsama
Olasılıkta yakınsama her \(n\) için ayrı ayrı bir olasılığa bakar. Daha güçlü bir istek şudur: deneyin her sonucu \(w\) için \(X_n(w)\) sayı dizisi \(X(w)\)’ye yakınsasın. Bunun bütün sonuçlarda olması gerekmez; yakınsamanın olmadığı sonuçların olasılığının sıfır olması yeter.
Tanım 8.2 (Hemen Hemen Her Yerde Yakınsama) \((X_n)\) dizisi ve \(X\) aynı \((\Omega, \mathcal{U}, P)\) olasılık uzayında tanımlı olsun.
\[ P\Big(\Big\{ w : \lim_{n \to \infty} X_n(w) = X(w) \Big\}\Big) = 1 \]
ise \((X_n)\) dizisi \(X\) rastgele değişkenine hemen hemen her yerde (h.h.h.) yakınsar denir ve
\[ X_n \xrightarrow[n \to \infty]{\text{h.h.h.}} X \]
yazılır. Denk olarak her \(\varepsilon > 0\) için
\[ P\bigg( \bigcup_{N=1}^{\infty} \bigcap_{n=N}^{\infty} \big\{ w : |X_n(w) - X(w)| < \varepsilon \big\} \bigg) = 1 \]
olmalıdır.
Yani olasılıkta yakınsamada limit olasılığın dışındadır: önce \(P(|X_n - X| \ge \varepsilon)\) sayıları hesaplanır, sonra bu sayı dizisinin limiti alınır. Hemen hemen her yerde yakınsamada ise limit olasılığın içindedir: her \(w\) için \(X_n(w)\) sayı dizisine bakılır ve yakınsamanın olmadığı sonuçların kümesinin olasılığı \(0\) olmalıdır.
Tanımdaki ikinci koşulun içindeki küme, “bir \(N\)’den sonraki bütün \(n\)’lerde \(|X_n(w) - X(w)| < \varepsilon\)” olan sonuçlardan oluşur. \(X_n(w) \to X(w)\) olması, bunun her \(\varepsilon\) için sağlanması demektir. \(\varepsilon = 1, \frac{1}{2}, \frac{1}{3}, \ldots\) değerleri yeterlidir. Bu yüzden yakınsama kümesi, \(\varepsilon = \frac{1}{k}\) için yazılan bu kümelerin \(k = 1, 2, \ldots\) üzerinden kesişimidir. İkinci koşul sağlanıyorsa olasılığı \(1\) olan sayılabilir çoklukta olayın kesişiminin olasılığı da \(1\) olduğundan birinci koşul da sağlanır. Tersine, yakınsama kümesi her \(\varepsilon\) için bu kümenin içinde kaldığından birinci koşul ikinciyi verir. Demek ki iki koşul denktir.
Teorem 8.2 (Güçlü Büyük Sayılar Yasası) \(X_1, X_2, \ldots\) bağımsız, aynı dağılımlı, beklenen değeri \(\mu\) ve varyansı \(\sigma^2 < \infty\) olan rastgele değişkenler olsun. O zaman
\[ \bar X_n \xrightarrow[n \to \infty]{\text{h.h.h.}} \mu \]
olur.
Yani örneklem ortalaması hemen hemen her yerde kitle ortalamasına yakınsar. Gözlemler birer birer eklendikçe hesaplanan ortalamalar dizisi, olasılığı \(1\) olan bir olay üzerinde \(\mu\)’ye yakınsar. Sonuç 8.1’deki şekil tam bunu gösterir: her yol, yani her \(w\) için çizilen \(\bar X_n(w)\) dizisi, ayrı ayrı \(1/2\)’ye gider. Bu yakınsama güçlü büyük sayılar yasası olarak bilinir. İspatı Borel–Cantelli lemması gibi bu dersin kapsamı dışındaki ölçü kuramı araçlarını gerektirir. Teorem, varyans sonsuz olsa bile \(E|X_1| < \infty\) olduğu sürece geçerlidir.
8.4 Dağılımda Yakınsama
Üçüncü yakınsama türü rastgele değişkenlerin değerlerine değil, yalnız dağılım fonksiyonlarına bakar. Bu yüzden \(X_n\)’lerin ve \(X\)’in aynı olasılık uzayında tanımlı olması bile gerekmez.
Tanım 8.3 (Dağılımda Yakınsama) \((X_n)\), dağılım fonksiyonları \(F_n\) olan rastgele değişkenlerin bir dizisi, \(X\) de dağılım fonksiyonu \(F\) olan bir rastgele değişken olsun. \(F\)’nin sürekli olduğu her \(x\) noktasında
\[ \lim_{n \to \infty} F_n(x) = F(x) \]
oluyorsa \((X_n)\) dizisi \(X\) rastgele değişkenine dağılımda yakınsar denir ve \(X_n \xrightarrow{D} X\) yazılır.
Yani \(n\) büyükken \(X_n\) ile ilgili olasılıklar \(X\)’in olasılıklarıyla yaklaşık olarak hesaplanabilir. \(F\)’nin sürekli olduğu \(a < b\) noktaları için
\[ P(a < X_n \le b) = F_n(b) - F_n(a) \longrightarrow F(b) - F(a) = P(a < X \le b) \]
olur. Limit dağılım normal dağılım gibi sürekliyse koşul her \(x\) için geçerlidir. Tanımın \(F\)’nin sıçrama noktalarını neden dışarıda bıraktığını aşağıdaki ikinci örnek gösteriyor. Dağılımda yakınsamanın en önemli örneği ise bölümün sonundaki merkezi limit teoremidir.
Örnek 8.6 (Kesikli Düzgünden Sürekli Düzgüne) \(X_n\), \(\big\{\frac{1}{n}, \frac{2}{n}, \ldots, \frac{n}{n}\big\}\) kümesi üzerinde kesikli düzgün dağılımlı olsun. \(X_n \xrightarrow{D} X\) olduğunu gösterin; burada \(X \sim U(0,1)\)’dir.
Çözüm
\(U(0,1)\) dağılımının dağılım fonksiyonu \(x < 0\) için \(F(x) = 0\), \(0 \le x < 1\) için \(F(x) = x\), \(x \ge 1\) için \(F(x) = 1\)’dir. Bu fonksiyon her yerde süreklidir, bu yüzden yakınsamayı her \(x\) için göstermeliyiz.
\(X_n\) her \(\frac{k}{n}\) değerini \(\frac{1}{n}\) olasılıkla alır. \(x\)’ten küçük ya da ona eşit olan \(\frac{k}{n}\) değerlerinin sayısı, \(k \le nx\) koşulunu sağlayan \(k \ge 1\) tam sayılarının sayısıdır. Buna göre:
- \(x < 0\) ise \(F_n(x) = 0 = F(x)\).
- \(x \ge 1\) ise bütün değerler \(x\)’in solundadır ve \(F_n(x) = 1 = F(x)\).
- \(0 \le x < 1\) ise \(F_n(x) = \dfrac{\lfloor nx \rfloor}{n}\)’dir. Burada \(\lfloor nx \rfloor\), \(nx\)’i aşmayan en büyük tam sayıdır.
Son durumda \(nx - 1 < \lfloor nx \rfloor \le nx\) eşitsizliğini \(n\)’ye bölersek
\[ x - \frac{1}{n} < F_n(x) \le x \]
elde ederiz. Sıkıştırma ile \(F_n(x) \to x = F(x)\) bulunur. Demek ki her \(x\) için \(F_n(x) \to F(x)\) ve \(X_n \xrightarrow{D} X\).
Örnek şunu gösteriyor: her biri kesikli olan dağılımlar sürekli bir dağılıma yakınsayabilir. Basamaklar \(\frac{1}{n}\) yüksekliğinde olduğundan \(n\) büyüdükçe basamaklı fonksiyon doğrudan ayırt edilemez hâle gelir.
\(\blacksquare\)
Örnek 8.7 (Sıçrama Noktasında Yakınsamayan Dağılım Fonksiyonları) Her \(n\) için \(X_n = \frac{1}{n}\) sabit rastgele değişken, \(X = 0\) olsun. \(F_n(0)\) dizisinin \(F(0)\)’a yakınsamadığını, buna karşın \(X_n \xrightarrow{D} X\) olduğunu gösterin.
Çözüm
Sabit değişkenlerin dağılım fonksiyonları tek bir sıçramadan oluşur:
\[ F_n(x) = \begin{cases} 0, & x < \frac{1}{n}, \\ 1, & x \ge \frac{1}{n}, \end{cases} \qquad F(x) = \begin{cases} 0, & x < 0, \\ 1, & x \ge 0. \end{cases} \]
- \(x < 0\) ise her \(n\) için \(x < \frac{1}{n}\)’dir ve \(F_n(x) = 0 = F(x)\).
- \(x > 0\) ise \(n > \frac{1}{x}\) için \(\frac{1}{n} < x\) olur ve \(F_n(x) = 1 = F(x)\). Yani dizi bir yerden sonra sabit olarak \(F(x)\)’e eşittir.
- \(x = 0\) için her \(n\)’de \(F_n(0) = 0\)’dır ama \(F(0) = 1\)’dir. Bu noktada yakınsama yoktur.
\(F\)’nin süreksiz olduğu tek nokta \(0\)’dır. Tanım bu noktayı dışarıda bıraktığı için \(X_n \xrightarrow{D} 0\) olur.
Sayılar olarak \(\frac{1}{n} \to 0\) olduğundan bu sonucu beklemeliyiz. Yakınsamayı her noktada isteseydik, \(\frac{1}{n}\) gibi en basit dizi bile dağılımda yakınsamazdı. Tanım, \(F\)’nin sıçrama noktalarını bu yüzden dışarıda bırakır.
\(\blacksquare\)
8.5 Yakınsama Türleri Arasındaki İlişkiler
Üç yakınsama türü birbirinden bağımsız değildir. Biri diğerini gerektirir ve aralarında kesin bir sıralama vardır.
Teorem 8.3 (Yakınsama Türleri Arasındaki İlişkiler) \((X_n)\) dizisi ve \(X\) aynı olasılık uzayında tanımlı olsun.
(i) \(X_n \xrightarrow{\text{h.h.h.}} X\) ise \(X_n \xrightarrow{P} X\) olur.
(ii) \(X_n \xrightarrow{P} X\) ise \(X_n \xrightarrow{D} X\) olur.
İspat
(i) \(\varepsilon > 0\) verilsin ve her \(N\) için
\[ A_N = \bigcap_{n=N}^{\infty} \{ |X_n - X| < \varepsilon \} \]
olsun. \(A_{N+1}\), \(A_N\)’deki koşulların birini daha az içerir; bu yüzden \(A_N \subseteq A_{N+1}\) olur ve \((A_N)\) artan bir dizidir. Tanımın denk biçimine göre \(\bigcup_N A_N\) birleşiminin olasılığı \(1\)’dir. Olasılığın sürekliliği gereği \(P(A_N) \to 1\) olur. Öte yandan \(A_N \subseteq \{|X_N - X| < \varepsilon\}\)’dir. Buradan
\[ 1 \ge P(|X_N - X| < \varepsilon) \ge P(A_N) \xrightarrow[N \to \infty]{} 1 \]
elde edilir. Demek ki \(\lim_{N \to \infty} P(|X_N - X| < \varepsilon) = 1\), yani \(X_n \xrightarrow{P} X\).
(ii) \(x\), \(F\)’nin sürekli olduğu bir nokta olsun ve \(\varepsilon > 0\) verilsin. \(X_n \le x\) iken \(X > x + \varepsilon\) ise \(X - X_n > \varepsilon\) olur. Bu yüzden
\[ \{X_n \le x\} \subseteq \{X \le x + \varepsilon\} \cup \{|X_n - X| \ge \varepsilon\} \]
olur. Benzer biçimde \(X \le x - \varepsilon\) iken \(X_n > x\) ise \(X_n - X > \varepsilon\) olur:
\[ \{X \le x - \varepsilon\} \subseteq \{X_n \le x\} \cup \{|X_n - X| \ge \varepsilon\}. \]
Birleşimin olasılığı olasılıkların toplamını aşmaz. \(p_n = P(|X_n - X| \ge \varepsilon)\) dersek iki kapsamadan
\[ F(x - \varepsilon) - p_n \le F_n(x) \le F(x + \varepsilon) + p_n \]
bulunur. Varsayım gereği \(p_n \to 0\)’dır. \(n \to \infty\) iken alt ve üst limitlere geçersek
\[ F(x - \varepsilon) \le \liminf_{n \to \infty} F_n(x) \le \limsup_{n \to \infty} F_n(x) \le F(x + \varepsilon) \]
olur. Bu her \(\varepsilon > 0\) için doğrudur. \(F\), \(x\)’te sürekli olduğundan \(\varepsilon \to 0\) iken iki uç da \(F(x)\)’e gider. Demek ki alt ve üst limit \(F(x)\)’e eşittir ve \(F_n(x) \to F(x)\) olur.
\(\blacksquare\)
Yani en güçlü yakınsama hemen hemen her yerde yakınsamadır, en zayıfı dağılımda yakınsamadır:
\[ X_n \xrightarrow{\text{h.h.h.}} X \;\Longrightarrow\; X_n \xrightarrow{P} X \;\Longrightarrow\; X_n \xrightarrow{D} X. \]
Özel olarak güçlü büyük sayılar yasası zayıf olanı içerir. İki gerektirmenin tersi doğru değildir. Aşağıdaki iki örnek bunu gösteriyor.
Örnek 8.8 (Dağılımda Yakınsayan Ama Olasılıkta Yakınsamayan Dizi) \(X \sim N(0,1)\) ve her \(n\) için \(X_n = -X\) olsun. \(X_n \xrightarrow{D} X\) olduğunu, ama \((X_n)\)’in olasılıkta \(X\)’e yakınsamadığını gösterin.
Çözüm
Standart normal eğri \(0\) etrafında simetrik olduğundan \(-X\) de \(N(0,1)\) dağılımlıdır (Bağımsız Normallerin Doğrusal Birleşimi, tek terim ve \(a_1 = -1\) ile). Bu yüzden her \(n\) için \(F_n = F\) olur ve \(X_n \xrightarrow{D} X\) kendiliğinden sağlanır.
Öte yandan \(|X_n - X| = |-X - X| = 2|X|\)’tir. \(\varepsilon = 1\) alalım. Standart normal tablosundan \(P(0 \le Z \le 0{,}5) = 0{,}1915\) okunur ve her \(n\) için
\[ \begin{aligned} P(|X_n - X| \ge 1) &= P\big(|X| \ge \tfrac{1}{2}\big) = 1 - 2P(0 \le X \le 0{,}5) \\[1mm] &= 1 - 2 \cdot 0{,}1915 = 0{,}6170 \end{aligned} \]
bulunur. Bu olasılık \(n\)’ye bağlı değildir ve \(0\)’a gitmez. Demek ki \(X_n\) olasılıkta \(X\)’e yakınsamaz.
Dağılımda yakınsama yalnız dağılımların birbirine yaklaştığını söyler. Değişkenlerin kendileri birbirinden uzak kalabilir. Burada \(X_n\) ile \(X\) aynı dağılıma sahiptir ama her zaman ters işaretlidir.
\(\blacksquare\)
Örnek 8.9 (Olasılıkta Yakınsayan Ama Hemen Hemen Her Yerde Yakınsamayan Dizi) \(\Omega = [0,1]\) olsun ve bir alt aralığın olasılığı uzunluğu olsun (yani \(w\), \([0,1]\)’den düzgün seçiliyor). Her \(n \ge 1\) tam sayısı tek bir biçimde \(n = 2^k + j\) olarak yazılır; burada \(k \ge 0\) ve \(0 \le j < 2^k\)’dir. Buna göre
\[ I_n = \Big[ \frac{j}{2^k}, \frac{j+1}{2^k} \Big], \qquad X_n(w) = \begin{cases} 1, & w \in I_n, \\ 0, & w \notin I_n \end{cases} \]
tanımlansın. \(X_n \xrightarrow{P} 0\) olduğunu, ama \(X_n(w)\) dizisinin hiçbir \(w\) için yakınsamadığını gösterin.
Çözüm
Önce diziyi tanıyalım. \(n = 1\) için \(I_1 = [0,1]\) olur. \(n = 2, 3\) için \(I_n\) sırayla \([0, \frac{1}{2}]\) ve \([\frac{1}{2}, 1]\) olur. \(n = 4, \ldots, 7\) için \([0,1]\)’in dört çeyreğini sırayla tarar, ve böyle devam eder. Her “tur” \([0,1]\)’i baştan sona, her seferinde yarı boyda bloklarla tarar.
Olasılıkta yakınsama. \(0 < \varepsilon \le 1\) ise \(|X_n| \ge \varepsilon\) olayı \(w \in I_n\) olayıdır ve
\[ P(|X_n - 0| \ge \varepsilon) = P(I_n) = \frac{1}{2^k} \]
olur. \(\varepsilon > 1\) ise bu olasılık \(0\)’dır. \(2^k \le n < 2^{k+1}\) olduğundan \(n \to \infty\) iken \(k \to \infty\) ve \(\frac{1}{2^k} \to 0\) olur. Demek ki \(X_n \xrightarrow{P} 0\).
Hemen hemen her yerde yakınsamama. \(w \in [0,1]\) sabit olsun. Her \(k\) turunda \(2^k\) blok \([0,1]\)’i örter. Bu yüzden \(w\) bu bloklardan en az birindedir ve o turda en az bir \(n\) için \(X_n(w) = 1\) olur. \(k \ge 2\) iken bir turda en az dört blok vardır ve \(w\) bunlardan en çok ikisine (iki komşu bloğun ortak ucuysa) düşer. Bu yüzden aynı turda en az bir \(n\) için \(X_n(w) = 0\) olur. Demek ki \(X_n(w)\) dizisi sonsuz kez \(1\), sonsuz kez \(0\) değerini alır ve yakınsamaz.
Bu her \(w\) için doğru olduğundan yakınsamanın olduğu küme boştur ve olasılığı \(0\)’dır, \(1\) değildir. Olasılıkta yakınsamada bloklar küçüldüğü için “şanssız” sonuçların olasılığı azalır. Ama bloklar her turda yeniden başa döndüğü için her sonuç sonsuz kez şanssız olur.
\(\blacksquare\)
8.6 Merkezi Limit Teoremi
Büyük sayılar yasası \(\bar X_n\)’in \(\mu\)’ye yaklaştığını söyler. Ama \(\mu\) çevresinde nasıl dağıldığını söylemez. \(\operatorname{Var}(\bar X_n) = \sigma^2/n\) sıfıra gittiği için dağılımın biçimini görmek istiyorsak \(\bar X_n\)’i standartlaştırmalıyız:
\[ Z_n = \frac{\bar X_n - E(\bar X_n)}{\sqrt{\operatorname{Var}(\bar X_n)}} = \frac{\bar X_n - \mu}{\sigma / \sqrt{n}}. \]
Her \(n\) için \(E(Z_n) = 0\) ve \(\operatorname{Var}(Z_n) = 1\)’dir. Merkezi limit teoremi, kitlenin dağılımı ne olursa olsun \(Z_n\)’in dağılımının standart normal dağılıma yaklaştığını söyler. Önce \(E(\bar X_n)\) ve \(\operatorname{Var}(\bar X_n)\) hesabını somut bir kitlede görelim.
Örnek 8.10 (Binom Kitleden Alınan Örneklemlerin Ortalaması) Kitle \(X \sim \operatorname{Binom}\big(30, \frac{2}{5}\big)\) dağılımlıdır. Bu kitleden alınan 5 ve 12 hacimli rastgele örneklemlerin ortalamalarının beklenen değerlerini ve varyanslarını karşılaştırın.
Çözüm
Binom dağılımının momentlerinden
\[ \mu = E(X) = 30 \cdot \frac{2}{5} = 12, \qquad \sigma^2 = \operatorname{Var}(X) = 30 \cdot \frac{2}{5} \cdot \frac{3}{5} = \frac{36}{5} \]
bulunur. \(E(\bar X_n) = \mu\) ve \(\operatorname{Var}(\bar X_n) = \sigma^2/n\) olduğundan
\[ \begin{aligned} n = 5: \quad & E(\bar X_5) = 12, \quad \operatorname{Var}(\bar X_5) = \frac{36/5}{5} = \frac{36}{25} = 1{,}44, \\[1mm] n = 12: \quad & E(\bar X_{12}) = 12, \quad \operatorname{Var}(\bar X_{12}) = \frac{36/5}{12} = \frac{36}{60} = \frac{3}{5} = 0{,}6 \end{aligned} \]
olur. İki ortalamanın merkezi aynıdır: kitle ortalaması \(12\). Örneklem büyüdükçe varyans küçülür: \(1{,}44\)’ten \(0{,}6\)’ya iner. Standartlaştırılmış
\[ Z_n = \frac{\bar X_n - 12}{\sqrt{36/(5n)}} \]
değişkeni ise her iki \(n\) için de \(0\) ortalamalı ve \(1\) varyanslıdır. Merkezi limit teoremi bu \(Z_n\)’in dağılımıyla ilgilidir.
\(\blacksquare\)
İspatta moment üreten fonksiyonları kullanacağız. Teklik teoremine göre moment üreten fonksiyon dağılımı belirler. Aşağıdaki teorem bunun limit hâlidir: moment üreten fonksiyonlar yakınsıyorsa dağılımlar da yakınsar. İspatı karakteristik fonksiyonlar için süreklilik teoremine dayanır ve bu dersin kapsamı dışındadır. Burada teoremi kullanacağız.
Teorem 8.4 (Moment Üreten Fonksiyonlar İçin Süreklilik Teoremi) \(Z_1, Z_2, \ldots\) ve \(Z\) rastgele değişkenlerinin moment üreten fonksiyonları ortak bir \((-h, h)\) aralığında var olsun. Her \(t \in (-h, h)\) için
\[ \lim_{n \to \infty} M_{Z_n}(t) = M_Z(t) \]
ise \(Z_n \xrightarrow{D} Z\) olur.
Teorem 8.5 (Merkezi Limit Teoremi) \(X_1, X_2, \ldots\) bağımsız, aynı dağılımlı, beklenen değeri \(\mu\) ve varyansı \(0 < \sigma^2 < \infty\) olan rastgele değişkenler olsun. Moment üreten fonksiyonları \(0\)’ın bir komşuluğunda var olsun. O zaman \(n \to \infty\) iken
\[ Z_n = \frac{\bar X_n - E(\bar X_n)}{\sqrt{\operatorname{Var}(\bar X_n)}} = \frac{\bar X_n - \mu}{\sigma / \sqrt{n}} \xrightarrow{D} N(0,1) \]
olur. \(N(0,1)\)’in dağılım fonksiyonu \(\Phi\) her yerde sürekli olduğundan bu, her \(z\) için \(\lim_{n \to \infty} P(Z_n \le z) = \Phi(z)\) demektir.
Aşağıdaki şekilde \(X_i\)’ler çok çarpık bir dağılıma, \(\operatorname{Üstel}(1)\) dağılımına sahiptir. \(Z_n\)’in gerçek yoğunluğu \(n\) büyüdükçe yine de standart normal yoğunluğa yaklaşır.
İspat
Standartlaştırma. \(Y_i = \dfrac{X_i - \mu}{\sigma}\) diyelim. \(Y_i\)’ler bağımsız ve aynı dağılımlıdır, \(E(Y_i) = 0\) ve \(E(Y_i^2) = \operatorname{Var}(Y_i) = 1\)’dir. \(M_X\) fonksiyonu \((-h, h)\) aralığında varsa
\[ M_Y(s) = E\big(e^{s(X - \mu)/\sigma}\big) = e^{-\mu s/\sigma} M_X\Big(\frac{s}{\sigma}\Big) \]
fonksiyonu \(|s| < \sigma h\) için vardır. \(h' = \sigma h\) diyelim. Ayrıca
\[ \bar X_n - \mu = \frac{1}{n} \sum_{i=1}^{n} (X_i - \mu) = \frac{\sigma}{n} \sum_{i=1}^{n} Y_i \]
olduğundan \(Z_n = \dfrac{1}{\sqrt{n}} \displaystyle\sum_{i=1}^{n} Y_i\) olur.
\(Z_n\)’in moment üreten fonksiyonu. \(Y_i\)’ler bağımsız olduğundan \(e^{tY_i/\sqrt{n}}\) çarpanları da bağımsızdır. Bağımsız değişkenlerin çarpımının beklenen değeri beklenen değerlerin çarpımıdır. Buradan \(|t| < h'\sqrt{n}\) için
\[ M_{Z_n}(t) = E\Big( \prod_{i=1}^{n} e^{tY_i/\sqrt{n}} \Big) = \prod_{i=1}^{n} M_Y\Big(\frac{t}{\sqrt{n}}\Big) = \Big[ M_Y\Big(\frac{t}{\sqrt{n}}\Big) \Big]^n \]
bulunur. Özel olarak her \(M_{Z_n}\) ortak \((-h', h')\) aralığında vardır.
Taylor açılımı. Moment üreten fonksiyondan momentler teoremine göre \(|s| < h'\) için \(M_Y\) kuvvet serisine açılır:
\[ M_Y(s) = 1 + E(Y)\,s + \frac{E(Y^2)}{2}\,s^2 + \sum_{k=3}^{\infty} \frac{E(Y^k)}{k!}\,s^k = 1 + \frac{s^2}{2} + r(s). \]
Burada \(r(s)\) son toplamdır. \(\dfrac{r(s)}{s^2} = \displaystyle\sum_{k=3}^{\infty} \frac{E(Y^k)}{k!}\,s^{k-2}\) de yakınsak bir kuvvet serisidir ve \(s = 0\)’da değeri \(0\)’dır. Kuvvet serileri sürekli olduğundan \(s \to 0\) iken \(\dfrac{r(s)}{s^2} \to 0\) olur.
Limit. \(t \in (-h', h')\) sabit olsun. \(t = 0\) ise \(M_{Z_n}(0) = 1 = e^0\) olur ve söylenecek bir şey yoktur. \(t \ne 0\) olsun ve
\[ a_n = \frac{t^2}{2n} + r\Big(\frac{t}{\sqrt{n}}\Big) \]
diyelim. Böylece \(M_{Z_n}(t) = (1 + a_n)^n\) olur. \(\frac{t}{\sqrt{n}} \to 0\) olduğundan
\[ n a_n = \frac{t^2}{2} + t^2 \cdot \frac{r(t/\sqrt{n})}{(t/\sqrt{n})^2} \xrightarrow[n \to \infty]{} \frac{t^2}{2} \]
bulunur. Buradan \(a_n \to 0\) olur. \(g(a) = \frac{\ln(1+a)}{a}\) (\(a \ne 0\)) ve \(g(0) = 1\) fonksiyonu \(0\)’da süreklidir. \(n\) yeterince büyükken \(1 + a_n > 0\) olduğundan
\[ \ln M_{Z_n}(t) = n \ln(1 + a_n) = n a_n \cdot g(a_n) \xrightarrow[n \to \infty]{} \frac{t^2}{2} \cdot 1 = \frac{t^2}{2} \]
olur. Üstel fonksiyon sürekli olduğundan \(M_{Z_n}(t) \to e^{t^2/2}\) elde edilir.
Sonuç. \(e^{t^2/2}\), her \(t\) için var olan \(N(0,1)\) dağılımının moment üreten fonksiyonudur. \((-h', h')\) aralığındaki her \(t\) için \(M_{Z_n}(t) \to M_Z(t)\) gösterdik; burada \(Z \sim N(0,1)\)’dir. Teorem 8.4 gereği \(Z_n \xrightarrow{D} Z\) olur.
\(\blacksquare\)
Yani \(X_1, X_2, \ldots\) rastgele değişkenlerinin dağılımı ne olursa olsun (kesikli ya da sürekli, simetrik ya da çarpık), örneklem hacmi büyüdükçe örneklem ortalamasının dağılımı beklenen değeri \(\mu\), varyansı \(\sigma^2/n\) olan normal dağılıma yaklaşır:
\[ \bar X_n \approx N\Big(\mu, \frac{\sigma^2}{n}\Big) \qquad (n \text{ büyük}). \]
Uygulamada genel olarak \(n \ge 30\) yeterli sayılır. Kitle simetrikse daha küçük \(n\) de iyi sonuç verir, çok çarpıksa daha büyük \(n\) gerekir. Kitle zaten normalse “yaklaşık” sözcüğü kalkar: \(\bar X_n\) her \(n\) için tam olarak \(N(\mu, \sigma^2/n)\) dağılımlıdır (Bağımsız Normallerin Doğrusal Birleşimi). Moment üreten fonksiyon varsayımı yalnız bizim ispatımız içindir. Teorem, karakteristik fonksiyonlarla verilen bir ispatla, \(\sigma^2 < \infty\) olduğu sürece geçerlidir.
Teoremi toplamlar için de yazabiliriz. Bu biçim, toplam süre, toplam ağırlık ya da toplam puan gibi sorularda doğrudan kullanılır.
Sonuç 8.2 (Merkezi Limit Teoreminin Toplam Biçimi) Teorem 8.5’nin varsayımları altında \(S_n = X_1 + \cdots + X_n\) olsun. O zaman
\[ \frac{S_n - E(S_n)}{\sqrt{\operatorname{Var}(S_n)}} = \frac{S_n - n\mu}{\sigma\sqrt{n}} \xrightarrow{D} N(0,1) \]
olur. Yani büyük \(n\) için \(S_n \approx N(n\mu, n\sigma^2)\)’dir. Aşağıdaki şekilde \(X_i\)’ler zar atışlarıdır. Tek zarın düz dağılımı, birkaç zar toplandığında bile çan eğrisine dönüşür.
İspat
Beklenen değerin doğrusallığından \(E(S_n) = n\mu\), bağımsızlıktan \(\operatorname{Var}(S_n) = n\sigma^2\) olur. Pay ve paydayı \(n\)’ye bölersek
\[ \frac{S_n - n\mu}{\sigma\sqrt{n}} = \frac{\frac{1}{n}\big(S_n - n\mu\big)}{\frac{1}{n}\,\sigma\sqrt{n}} = \frac{\bar X_n - \mu}{\sigma/\sqrt{n}} = Z_n \]
bulunur. Sol taraf, Teorem 8.5’deki \(Z_n\) ile aynı rastgele değişkendir. Bu yüzden onunla aynı limite, \(N(0,1)\)’e dağılımda yakınsar.
\(\blacksquare\)
Binom dağılımı bağımsız Bernoulli değişkenlerinin toplamı olduğundan toplam biçiminin ilk ve en eski uygulaması binoma normal yaklaşımdır. Normal Dağılım bölümünde ispatsız kullandığımız teorem şimdi kolayca elde edilir.
Sonuç 8.3 (Binoma Normal Yaklaşım: De Moivre-Laplace Teoremi) \(0 < p < 1\), \(q = 1 - p\) ve her \(n\) için \(X_n \sim \operatorname{Binom}(n, p)\) olsun. O zaman
\[ \frac{X_n - np}{\sqrt{npq}} \xrightarrow{D} N(0,1) \]
olur. Yani De Moivre-Laplace teoremi doğrudur: her \(a < b\) için
\[ P\Big(a \le \frac{X_n - np}{\sqrt{npq}} \le b\Big) \longrightarrow P(a \le Z \le b). \]
İspat
\(Y_1, Y_2, \ldots\) bağımsız ve her biri \(\operatorname{Bernoulli}(p)\) dağılımlı olsun, \(S_n = Y_1 + \cdots + Y_n\) diyelim. \(n\) bağımsız denemedeki başarı sayısı binom dağılımlı olduğundan \(S_n \sim \operatorname{Binom}(n, p)\)’dir. Olasılıklar yalnız dağılıma bağlı olduğundan \(X_n\) yerine \(S_n\) ile çalışabiliriz.
\(Y_i\)’lerin beklenen değeri \(\mu = p\), varyansı \(\sigma^2 = pq\)’dur ve \(0 < p < 1\) olduğundan \(0 < \sigma^2 < \infty\)’dur. Moment üreten fonksiyonları \(M_Y(t) = q + pe^t\) her \(t\) için vardır. Sonuç 8.2’ın bütün varsayımları sağlanır ve
\[ \frac{S_n - np}{\sqrt{npq}} = \frac{S_n - n\mu}{\sigma\sqrt{n}} \xrightarrow{D} N(0,1) \]
bulunur. Limit dağılım fonksiyonu \(\Phi\) her yerde sürekli olduğundan her \(a < b\) için
\[ P\Big(a < \frac{S_n - np}{\sqrt{npq}} \le b\Big) \to \Phi(b) - \Phi(a) \]
olur. Standartlaştırılmış \(S_n\)’in \(a\) noktasındaki olasılığı da sıfıra gider: \(\varepsilon > 0\) için bu olasılık, \((a - \varepsilon, a]\) aralığının olasılığını aşmaz ve o da \(\Phi(a) - \Phi(a - \varepsilon)\)’a yakınsar. \(\varepsilon\) istendiği kadar küçük seçilebildiğinden sol ucun \(\le\) ya da \(<\) olması limiti değiştirmez. Sonuç olarak limit \(P(a \le Z \le b)\) olur.
\(\blacksquare\)
8.7 Merkezi Limit Teoremiyle Olasılık Hesabı
Teoremin uygulamadaki değeri, kitlenin dağılımını bilmeden örneklem ortalaması ya da toplamı hakkında olasılık hesaplayabilmemizdir. Hesap her seferinde aynı şemayı izler.
- Kitlenin \(\mu\) ortalamasını ve \(\sigma^2\) varyansını bulun.
- Soru ortalama hakkındaysa \(\bar X_n \approx N(\mu, \sigma^2/n)\), toplam hakkındaysa \(S_n \approx N(n\mu, n\sigma^2)\) alın.
- Olayın sınırlarını standartlaştırın: \(z = \dfrac{\bar x - \mu}{\sigma/\sqrt{n}}\) ya da \(z = \dfrac{s - n\mu}{\sigma\sqrt{n}}\).
- Olasılığı standart normal tablosundan okuyun. Değişken tam sayı değerliyse ve tek bir değerin olasılığı soruluyorsa süreklilik düzeltmesi yapın.
İlk dört örnek aynı deneyle ilgilidir: düzgün bir tavla zarı 100 kez atılıyor. Örnek 8.3’de bulduğumuz gibi tek atışta \(\mu = 3{,}5\) ve \(\sigma^2 = 35/12\)’dir. Zar ortalamasının \(3{,}5\)’e yakınsadığını büyük sayılar yasasından biliyoruz. Şimdi bu yakınsamanın hızını soruyoruz.
Örnek 8.11 (Yüz Atışın Ortalamasının 3,5’e Yakınlığı) Düzgün bir zar 100 kez atılıyor (\(\mu = 3{,}5\), \(\sigma^2 = 35/12\)). Gelen sayıların ortalaması \(\bar X_{100}\) için \(P\big(|\bar X_{100} - 3{,}5| \le 0{,}1\big)\) olasılığı nedir?
Çözüm
Önce \(\bar X_{100}\)’ün beklenen değerini ve varyansını bulalım:
\[ \begin{aligned} E(\bar X_{100}) &= \frac{1}{100} \sum_{i=1}^{100} E(X_i) = \frac{100 \cdot 3{,}5}{100} = 3{,}5, \\[1mm] \operatorname{Var}(\bar X_{100}) &= \frac{1}{100^2} \sum_{i=1}^{100} \operatorname{Var}(X_i) = \frac{100 \cdot \frac{35}{12}}{100 \cdot 100} = \frac{35}{1200}. \end{aligned} \]
Olayın iki yanını standart sapmaya bölelim:
\[ P\big(|\bar X_{100} - 3{,}5| \le 0{,}1\big) = P\left( \frac{|\bar X_{100} - 3{,}5|}{\sqrt{35/1200}} \le \frac{0{,}1}{\sqrt{35/1200}} \right). \]
Sağdaki sınır
\[ \frac{0{,}1}{\sqrt{35/1200}} = \sqrt{\frac{0{,}01 \cdot 1200}{35}} = \sqrt{\frac{12}{35}} \approx 0{,}5855 \approx 0{,}59 \]
olur. Merkezi limit teoremine göre soldaki standartlaştırılmış değişken yaklaşık olarak \(Z \sim N(0,1)\) dağılımlıdır. Standart normal tablosundan \(P(0 \le Z \le 0{,}59) = 0{,}2224\) okunur:
\[ P\big(|\bar X_{100} - 3{,}5| \le 0{,}1\big) \approx P(-0{,}59 \le Z \le 0{,}59) = 2 \cdot 0{,}2224 = 0{,}4448. \]
Yani 100 atıştan sonra bile ortalamanın \(3{,}5\)’e \(0{,}1\)’den yakın olma olasılığı yarıdan azdır. Büyük sayılar yasası sonunda işler, ama yavaş işler.
\(\blacksquare\)
Örnek 8.12 (On Bin Atışın Ortalamasının 3,5’e Yakınlığı) Düzgün bir zar 10000 kez atılıyor (\(\mu = 3{,}5\), \(\sigma^2 = 35/12\)). \(P\big(|\bar X_{10000} - 3{,}5| \le 0{,}1\big)\) olasılığını hesaplayın.
Çözüm
\(E(\bar X_{10000}) = 3{,}5\) ve
\[ \operatorname{Var}(\bar X_{10000}) = \frac{35/12}{10000} = \frac{35}{120000} \]
olur. Standartlaştırılmış sınır
\[ \frac{0{,}1}{\sqrt{35/120000}} = \sqrt{\frac{0{,}01 \cdot 120000}{35}} = \sqrt{\frac{1200}{35}} = 10\sqrt{\frac{12}{35}} \approx 5{,}86 \]
bulunur. Merkezi limit teoremiyle
\[ P\big(|\bar X_{10000} - 3{,}5| \le 0{,}1\big) \approx P(|Z| \le 5{,}86) = 2P(0 \le Z \le 5{,}86). \]
Standart normal tablosu \(3{,}9\)’dan sonra dört ondalıkla \(0{,}5000\) verir. Yani olasılık dört ondalıkla \(1\)’dir. Daha duyarlı bir hesap \(2P(0 \le Z \le 5{,}86) \approx 0{,}999999995\) verir.
Hacim 100 kat artınca standart sapma 10 kat küçüldü. Aynı \(\pm 0{,}1\)’lik bant, \(\pm 0{,}59\) standart sapmalık bir banttan \(\pm 5{,}86\) standart sapmalık bir banda dönüştü. Chebyshev sınırı bile burada güçlü bir sonuç verir:
\[ P\big(|\bar X_{10000} - 3{,}5| \le 0{,}1\big) \ge 1 - \frac{35/120000}{0{,}01} = 1 - \frac{35}{1200} \approx 0{,}9708. \]
\(\blacksquare\)
Örnek 8.13 (Yüz Atışın Toplamının Bir Aralıkta Olması) Düzgün bir zar 100 kez atılıyor (\(\mu = 3{,}5\), \(\sigma^2 = 35/12\)). Gelen sayıların toplamı \(T = X_1 + \cdots + X_{100}\)’ün \([340, 360]\) aralığında olması olasılığı nedir?
Çözüm
Birinci yol: ortalamaya çevirme. Toplamı \(100\)’e bölersek
\[ 340 \le T \le 360 \iff 3{,}4 \le \frac{T}{100} \le 3{,}6 \iff |\bar X_{100} - 3{,}5| \le 0{,}1 \]
olur. Bu, Örnek 8.11’daki olayın ta kendisidir. Olasılık yine yaklaşık \(0{,}4448\)’dir.
İkinci yol: toplam biçimi. Sonuç 8.2’a göre \(T\) yaklaşık normaldir ve
\[ E(T) = 100 \cdot 3{,}5 = 350, \qquad \operatorname{Var}(T) = 100 \cdot \frac{35}{12} = \frac{875}{3} \approx 291{,}67 \]
olur. \(\sqrt{\operatorname{Var}(T)} \approx 17{,}08\)’dir. Sınırları standartlaştıralım:
\[ \frac{360 - 350}{\sqrt{875/3}} = \frac{10}{17{,}08} \approx 0{,}59, \qquad \frac{340 - 350}{\sqrt{875/3}} \approx -0{,}59. \]
Buradan yine
\[ P(340 \le T \le 360) \approx P(-0{,}59 \le Z \le 0{,}59) = 2 \cdot 0{,}2224 = 0{,}4448 \]
bulunur. İki yol aynı sonucu verir, çünkü toplamı ve ortalamayı standartlaştırmak aynı \(Z_n\)’i verir.
Süreklilik düzeltmesiyle. \(T\) yalnız tam sayı değerleri alır. Süreklilik düzeltmesi yapılırsa aralık \([339{,}5;\ 360{,}5]\) olur. Sınırlar \(\pm \frac{10{,}5}{17{,}08} \approx \pm 0{,}61\) olur ve
\[ P(339{,}5 \le T \le 360{,}5) \approx 2 \cdot P(0 \le Z \le 0{,}61) = 2 \cdot 0{,}2291 = 0{,}4582 \]
bulunur. \(T\)’nin gerçek dağılımından bilgisayarla hesaplanan değer \(0{,}4608\)’dir. Düzeltmeli yaklaşım gerçek değere daha yakındır.
\(\blacksquare\)
Örnek 8.14 (Yüz Atışın Toplamının Tam 350 Olması) Düzgün bir zar 100 kez atılıyor (\(\mu = 3{,}5\), \(\sigma^2 = 35/12\)). Gelen sayıların toplamı \(T\)’nin tam olarak \(350\) olması olasılığı nedir?
Çözüm
Sürekli bir dağılımda tek bir noktanın olasılığı \(0\)’dır. Bu yüzden \(T\)’yi doğrudan normal değişkenle değiştirmek anlamsız bir \(0\) verir. \(T\) tam sayı değerli olduğundan süreklilik düzeltmesi yaparız. Düzeltme binom için tanımlandı, ama aynı gerekçeyle tam sayı değerli her değişkene uygulanır: her \(P(T = t)\) olasılığı, \(t - \frac{1}{2}\) ile \(t + \frac{1}{2}\) arasında duran genişliği \(1\) olan bir dikdörtgenin alanıdır. Buna göre \(T = 350\) olayı yerine \(349{,}5 \le T \le 350{,}5\) aralığını kullanırız.
Örnek 8.13’deki gibi \(E(T) = 350\) ve \(\sqrt{\operatorname{Var}(T)} = \sqrt{875/3} \approx 17{,}08\)’dir. Sınırlar
\[ \frac{350{,}5 - 350}{17{,}08} \approx 0{,}0293 \approx 0{,}03, \qquad \frac{349{,}5 - 350}{17{,}08} \approx -0{,}03 \]
olur. Standart normal tablosundan \(P(0 \le Z \le 0{,}03) = 0{,}0120\) okunur:
\[ P(T = 350) \approx P(-0{,}03 \le Z \le 0{,}03) = 2 \cdot 0{,}0120 = 0{,}0240. \]
Tablo kullanımı \(z\)’yi iki ondalığa yuvarlamayı gerektirir. \(z = 0{,}0293\) yuvarlanmadan hesaplanırsa sonuç \(0{,}0234\) çıkar. Gerçek değer ise \(0{,}0233\)’tür. Yani yaklaşım çok iyidir. Yaklaşık \(\%2{,}3\) olasılıkla toplam tam \(350\) olur.
\(\blacksquare\)
Örnek 8.15 (Yüz Parçanın Toplam Dayanma Süresi) Bir elektronik parçanın yıl cinsinden dayanma süresi \(X\)’in olasılık yoğunluk fonksiyonu
\[ f(x) = \begin{cases} e^{-x}, & x > 0, \\ 0, & \text{diğer durumlarda} \end{cases} \]
ile veriliyor. Böyle 100 parçanın dayanma süreleri bağımsızdır. Toplam dayanma süresinin en az 110 yıl olması olasılığı nedir?
Çözüm
\(X\), \(\operatorname{Üstel}(1)\) dağılımlıdır (üstel dağılım). Beklenen değeri ve varyansı \(\mu = 1\) ve \(\sigma^2 = 1\)’dir. Bunu doğrudan da görebiliriz. Kısmi integrasyonla
\[ E(X) = \int_0^\infty x e^{-x}\,dx = 1, \qquad E(X^2) = \int_0^\infty x^2 e^{-x}\,dx = 2 \]
bulunur, böylece \(\sigma^2 = 2 - 1^2 = 1\) olur.
Toplam süre \(T = X_1 + \cdots + X_{100}\) olsun. \(n = 100\) büyük olduğundan Sonuç 8.2’a göre \(T \approx N(n\mu, n\sigma^2)\) ve
\[ E(T) = 100 \cdot 1 = 100, \qquad \operatorname{Var}(T) = 100 \cdot 1 = 100, \qquad \sqrt{\operatorname{Var}(T)} = 10 \]
olur. \(T\) sürekli olduğundan süreklilik düzeltmesi gerekmez:
\[ P(T \ge 110) = P\Big( \frac{T - 100}{10} \ge \frac{110 - 100}{10} \Big) \approx P(Z \ge 1). \]
Standart normal tablosundan \(P(0 \le Z \le 1) = 0{,}3413\) okunur:
\[ P(T \ge 110) \approx 0{,}5 - 0{,}3413 = 0{,}1587. \]
Bu örnekte \(T\)’nin gerçek dağılımını da biliyoruz: bağımsız üstel değişkenlerin toplamı \(\operatorname{Gamma}(100, 1)\) dağılımlıdır. Bu dağılımla hesaplanan gerçek değer \(0{,}1583\)’tür. Merkezi limit teoremi, gamma tablosuna hiç gerek duymadan çok yakın bir sonuç verdi.
\(\blacksquare\)
Örnek 8.16 (Ortalama Dinleme Süresinin Sapması) Belli bir grubun bir radyo istasyonunun müzik programlarını dinleme süresi, ortalaması 4 saat ve standart sapması 1 saat olan normal dağılıma sahiptir. Bu gruptan 16 kişilik bir rastgele örneklem seçiliyor. Örneklemin ortalama dinleme süresi ile grup ortalaması arasındaki farkın \(\frac{1}{2}\) saatten fazla olma olasılığı nedir?
Çözüm
\(X \sim N(4, 1)\) ve \(n = 16\)’dır. Kitle normal olduğundan \(\bar X_{16}\) tam olarak normal dağılımlıdır (Bağımsız Normallerin Doğrusal Birleşimi); burada merkezi limit teoremine bile gerek yoktur:
\[ E(\bar X_{16}) = 4, \qquad \operatorname{Var}(\bar X_{16}) = \frac{\operatorname{Var}(X)}{16} = \frac{1}{16}, \qquad \sqrt{\operatorname{Var}(\bar X_{16})} = \frac{1}{4}. \]
İstenen olasılık
\[ P\Big(|\bar X_{16} - 4| > \frac{1}{2}\Big) = P\bigg( \frac{|\bar X_{16} - 4|}{1/4} > \frac{1/2}{1/4} \bigg) = P(|Z| > 2) \]
olur. Standart normal tablosundan \(P(0 \le Z \le 2) = 0{,}4772\) okunur. İki kuyruk eşit olduğundan
\[ P(|Z| > 2) = 2\big(0{,}5 - 0{,}4772\big) = 2 \cdot 0{,}0228 = 0{,}0456 \]
bulunur.
Yani 16 kişilik bir örneklemin ortalaması, grup ortalamasından yalnız yaklaşık \(\%4{,}6\) olasılıkla yarım saatten fazla sapar. Tek bir kişinin dinleme süresi için aynı olasılık
\[ P(|Z| > 0{,}5) = 2(0{,}5 - 0{,}1915) = 0{,}6170 \]
olurdu.
\(\blacksquare\)
Son iki örnek aynı soruya iki farklı araçla bakar. Chebyshev eşitsizliği dağılım hakkında hiçbir şey varsaymadan kesin bir sınır verir. Merkezi limit teoremi ise yaklaşık ama çok daha keskin bir değer verir.
Örnek 8.17 (Boy Ortalaması İçin Chebyshev Alt Sınırı) Bir okuldaki erkek öğrencilerin boylarının varyansı \(12\ \text{cm}^2\)’dir. Bu okuldan 30 kişilik bir rastgele örneklem seçiliyor. Örneklem ortalaması ile kitle ortalaması arasındaki farkın 1 cm’den küçük olma olasılığı için bir alt sınır bulun.
Çözüm
Boyların dağılımı bilinmiyor. Bu yüzden Chebyshev eşitsizliğini kullanırız. Kitle ortalaması \(\mu\) olsun. \(\sigma^2 = 12\) ve \(n = 30\) ile
\[ E(\bar X_{30}) = \mu, \qquad \operatorname{Var}(\bar X_{30}) = \frac{12}{30} = 0{,}4 \]
olur. Chebyshev eşitsizliğini \(c = 1\) ile uygularsak
\[ P\big(|\bar X_{30} - \mu| \ge 1\big) \le \frac{\operatorname{Var}(\bar X_{30})}{1^2} = 0{,}4 \]
bulunur. Tümleyen olaya geçersek
\[ P\big(|\bar X_{30} - \mu| < 1\big) \ge 1 - 0{,}4 = 0{,}6 \]
olur. Aynı sonuç eşitsizliğin \(k\)’li biçiminden de çıkar. \(\sigma_{\bar X} = \sqrt{12/30}\) olduğundan \(k\sigma_{\bar X} = 1\) koşulu \(k = \sqrt{30/12}\) verir. Buradan
\[ P\big(|\bar X_{30} - \mu| < k\sigma_{\bar X}\big) \ge 1 - \frac{1}{k^2} = 1 - \frac{12}{30} = \frac{18}{30} = 0{,}6 \]
bulunur. Yani farkın 1 cm’den küçük olma olasılığı en az \(0{,}6\)’dır. Tümleyen olay için bu bir üst sınır verir: farkın en az 1 cm olma olasılığı en çok \(0{,}4\)’tür.
\(\blacksquare\)
Örnek 8.18 (Boy Ortalamasında Merkezi Limit Teoremiyle Karşılaştırma) Bir okuldaki erkek öğrencilerin boylarının varyansı \(12\ \text{cm}^2\)’dir ve 30 kişilik bir rastgele örneklem seçiliyor. \(P\big(|\bar X_{30} - \mu| < 1\big)\) olasılığını merkezi limit teoremiyle yaklaşık olarak hesaplayın ve Örnek 8.17’deki \(0{,}6\) alt sınırıyla tutarlı olduğunu gösterin.
Çözüm
\(n = 30\) olduğundan merkezi limit teoremini kullanabiliriz: \(\bar X_{30} \approx N(\mu, 0{,}4)\). Standartlaştırırsak
\[ P\big(|\bar X_{30} - \mu| < 1\big) = P\bigg( \frac{|\bar X_{30} - \mu|}{\sqrt{0{,}4}} < \frac{1}{\sqrt{0{,}4}} \bigg) \approx P\Big(|Z| < \sqrt{\tfrac{30}{12}}\Big) \]
olur. \(\sqrt{30/12} = \sqrt{2{,}5} \approx 1{,}58\)’dir. Standart normal tablosundan \(P(0 \le Z \le 1{,}58) = 0{,}4429\) okunur:
\[ P\big(|\bar X_{30} - \mu| < 1\big) \approx P(-1{,}58 < Z < 1{,}58) = 0{,}4429 + 0{,}4429 = 0{,}8858. \]
\(0{,}8858 \ge 0{,}6\) olduğundan yaklaşık değer Chebyshev alt sınırıyla tutarlıdır. Chebyshev sınırı çok daha temkinlidir, çünkü her dağılım için geçerli olmak zorundadır. Merkezi limit teoremi ise ortalamanın dağılımının normale yakın olduğunu kullanarak gerçek değere çok daha yakın bir sonuç verir.
\(\blacksquare\)
Örnek 8.19 (Merkezi Limit Teoremiyle Gereken Atış Sayısı) Düzgün bir para \(n\) kez atılıyor. Tura oranının \(1/2\)’den \(0{,}05\)’ten az sapması olasılığının en az \(0{,}95\) olması için, merkezi limit teoremine göre, \(n\) en az kaç olmalıdır?
Çözüm
\(X_i \sim \operatorname{Bernoulli}\big(\frac{1}{2}\big)\) olduğundan \(\mu = \frac{1}{2}\) ve \(\sigma^2 = \frac{1}{4}\)’tür. Merkezi limit teoremine göre
\[ \bar X_n \approx N\Big(\frac{1}{2}, \frac{1}{4n}\Big), \qquad \sqrt{\operatorname{Var}(\bar X_n)} = \frac{1}{2\sqrt{n}} \]
olur. Standartlaştırırsak
\[ P\Big(\big|\bar X_n - \tfrac{1}{2}\big| < 0{,}05\Big) \approx P\big(|Z| < 0{,}05 \cdot 2\sqrt{n}\big) = P\big(|Z| < 0{,}1\sqrt{n}\big) \]
bulunur. Bu olasılığın en az \(0{,}95\) olması, \(P(0 \le Z \le 0{,}1\sqrt{n}) \ge 0{,}475\) demektir. Standart normal tablosunda \(0{,}4750\) değeri \(z = 1{,}96\)’ya karşılık gelir; yani \(z_{0{,}975} = 1{,}96\)’dır. Buradan
\[ 0{,}1\sqrt{n} \ge 1{,}96 \iff \sqrt{n} \ge 19{,}6 \iff n \ge 384{,}16 \]
olur. \(n\) tam sayı olduğundan en az \(385\) atış gerekir.
Örnek 8.5’de Chebyshev sınırı \(2000\) atış istemişti. Merkezi limit teoremi aynı güvenceyi yaklaşık beşte bir atışla verir. Aradaki fark, Chebyshev eşitsizliğinin hiçbir dağılım bilgisi kullanmamasından gelir.
\(\blacksquare\)
Bu bölümde örneklem ortalamasının büyük örneklemlerdeki davranışını tamamladık. Büyük sayılar yasası örneklem ortalamasının kitle ortalamasına yakınsadığını, merkezi limit teoremi de bu yakınsamanın çevresinde dağılımın normal biçim aldığını söyler. Aynı düşünce örneklem momentlerinin kitle momentlerine yakınsaması için de geçerlidir. Bir sonraki bölüm tam da buna dayanır: Momentler Yöntemi kitle parametrelerini, kitle momentlerini örneklem momentlerine eşitleyerek tahmin eder.