3 Характеристические функции и суммы случайных величин
Аннотация
В этой главе мы научимся находить распределение суммы независимых случайных величин. Прямой путь приводит к свёртке плотностей. Преобразование Фурье заменяет свёртку произведением и вводит характеристическую функцию. На нескольких знакомых распределениях мы разберём, как она работает, извлечём из неё моменты и кумулянты и подойдём к центральной предельной теореме.
3.1 Распределение суммы независимых случайных величин
Пусть \(X\) и \(Y\) — независимые случайные величины с плотностями \(f_X(x)\) и \(f_Y(y)\). Нас интересует сумма
\[ S=X+Y. \tag{3.1}\]
Такая задача постоянно возникает в эксперименте. Полное энерговыделение складывается из энерговыделений отдельных частиц, заряд на выходе детектора — из зарядов отдельных фотоэлектронов, а результат измерения — из сигнала и шума.
Значение \(S=s\) можно получить из любой пары \((x,y)\), для которой \(x+y=s\). После выбора \(x\) второе слагаемое равно \(s-x\). Независимость позволяет перемножить плотности, а интегрирование собирает вклады от всех возможных \(x\):
\[ f_S(s)= \int_{-\infty}^{+\infty} f_X(x)f_Y(s-x)\,dx. \tag{3.2}\]
Интеграл в формуле 3.2 называется свёрткой. Для него используется короткая запись
\[ f_S=f_X*f_Y. \tag{3.3}\]
Звёздочка здесь обозначает операцию свёртки. Условие независимости существенно: для зависимых величин произведение \(f_X(x)f_Y(s-x)\) нужно заменить совместной плотностью \(f_{X,Y}(x,s-x)\).
3.1.1 Сумма нескольких величин
Для суммы
\[ S_n=X_1+X_2+\dots+X_n \tag{3.4}\]
получается последовательная свёртка:
\[ f_{S_n}=f_{X_1}*f_{X_2}*\cdots*f_{X_n}. \tag{3.5}\]
В развёрнутом виде это \((n-1)\)-кратный интеграл:
\[ \begin{aligned} f_{S_n}(s) ={}&\int_{-\infty}^{+\infty}\!\cdots \int_{-\infty}^{+\infty} f_{X_1}(x_1)\cdots f_{X_{n-1}}(x_{n-1})\\ &\times f_{X_n}(s-x_1-\cdots-x_{n-1}) \,dx_1\cdots dx_{n-1}. \end{aligned} \tag{3.6}\]
Каждое новое слагаемое добавляет ещё одно интегрирование. Формула верна и полезна, но с ростом размерности интеграла вычислять его непосредственно хочется всё меньше.
3.2 Пример: распределение Коши
Распределение Коши с параметром положения \(x_0\) и масштабом \(\gamma>0\) имеет плотность
\[ f_X(x;x_0,\gamma)= \frac{1}{ \pi\gamma\left[1+\left(\dfrac{x-x_0}{\gamma}\right)^2\right]}. \tag{3.7}\]
Та же форма известна как распределение Лоренца. В физике частиц она связана с нерелятивистской формой линии Брейта—Вигнера, а в спектроскопии описывает лоренцев профиль линии. Релятивистская форма Брейта—Вигнера записывается иначе, поэтому считать эти названия полными синонимами не следует.
При \(x_0=0\) и \(\gamma=1\) получаем стандартное распределение Коши:
\[ f_X(x)=\frac{1}{\pi(1+x^2)}. \tag{3.8}\]
Французский математик и инженер. Коши внёс определяющий вклад в математический анализ, дифференциальные уравнения и математическую физику. Распределение Коши служит важным примером тяжёлых хвостов: его математическое ожидание и дисперсия не существуют.
Возьмём две независимые величины
\[ X,Y\sim\operatorname{Cauchy}(0,1). \tag{3.9}\]
Для суммы \(S=X+Y\) формула свёртки даёт
\[ f_S(s)= \frac{1}{\pi^2} \int_{-\infty}^{+\infty} \frac{dx}{(1+x^2)\left[1+(s-x)^2\right]}. \tag{3.10}\]
В знаменателе стоит многочлен четвёртой степени по \(x\). Интеграл можно взять разложением на простые дроби или методом вычетов, после чего ответ ещё придётся упростить. Задача поставлена одной строкой, а вычисление уже разрослось. Для суммы многих величин этот путь становится совсем непрактичным.
3.3 Характеристическая функция
Вместо самой плотности рассмотрим её преобразование Фурье. Для случайной величины \(X\) характеристическая функция определяется как [1]
\[ \varphi_X(t)=\mathbb E\!\left[e^{itX}\right]. \tag{3.11}\]
Если \(X\) имеет плотность, математическое ожидание в формуле 3.11 записывается интегралом:
\[ \varphi_X(t)= \int_{-\infty}^{+\infty}e^{itx}f_X(x)\,dx. \tag{3.12}\]
Здесь \(x\) — переменная интегрирования, а \(t\) — аргумент характеристической функции. Само распределение вещественно, но его Фурье-образ в общем случае комплексный.
Характеристическая функция однозначно определяет распределение. Если плотность существует и выполнены обычные условия теоремы обращения Фурье, её можно восстановить по формуле
\[ f_X(x)= \frac{1}{2\pi} \int_{-\infty}^{+\infty} e^{-itx}\varphi_X(t)\,dt. \tag{3.13}\]
Преобразование Фурье переводит свёртку в произведение. Для независимых \(X\) и \(Y\) это видно непосредственно:
\[ \begin{aligned} \varphi_{X+Y}(t) &=\mathbb E\!\left[e^{it(X+Y)}\right]\\ &=\mathbb E\!\left[e^{itX}e^{itY}\right]\\ &=\mathbb E\!\left[e^{itX}\right] \mathbb E\!\left[e^{itY}\right]\\ &=\varphi_X(t)\varphi_Y(t). \end{aligned} \tag{3.14}\]
Третье равенство и есть место, где используется независимость.
3.4 Сумма двух величин Коши через характеристические функции
Характеристическая функция стандартного распределения Коши равна
\[ \varphi_X(t)=e^{-|t|}. \tag{3.15}\]
Её можно получить из формулы 3.8 методом вычетов. Для двух независимых стандартных величин Коши формула 3.14 сразу даёт
\[ \varphi_{X+Y}(t) =e^{-|t|}e^{-|t|} =e^{-2|t|}. \tag{3.16}\]
Последнее выражение является характеристической функцией распределения Коши с масштабом \(\gamma=2\). Поэтому
\[ S=X+Y\sim\operatorname{Cauchy}(0,2), \qquad f_S(s)=\frac{2}{\pi(s^2+4)}. \tag{3.17}\]
Мы получили ответ, не вычисляя интеграл 3.10.
Стандартное распределение Коши и распределение суммы двух независимых стандартных величин Коши.
У суммы максимум ниже, а распределение шире: параметр \(\gamma\) увеличился с \(1\) до \(2\).
3.4.1 Вычисление распределения суммы через Фурье
Весь метод состоит из трёх операций.
Найти характеристические функции
\[ \varphi_X(t)=\int e^{itx}f_X(x)\,dx, \qquad \varphi_Y(t)=\int e^{ity}f_Y(y)\,dy. \tag{3.18}\]
Для независимой суммы использовать
\[ \varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t). \tag{3.19}\]
Выполнить обратное преобразование
\[ f_{X+Y}(s)= \frac{1}{2\pi}\int e^{-its}\varphi_{X+Y}(t)\,dt. \tag{3.20}\]
Для десяти слагаемых вместо девятикратной свёртки получается произведение десяти функций и одно обратное преобразование.
Тот же приём используется при восстановлении сигнала на фоне независимого шума. Если \(D=S+N\), то \(\varphi_D=\varphi_S\varphi_N\). Измерив шум отдельно, можно найти \(\varphi_S\) делением. На практике это деление усиливает высокочастотные флуктуации и требует регуляризации. Преобразование Фурье упрощает алгебру, но не улучшает качество данных.
3.5 Свойства характеристической функции
3.5.1 Дискретный случай
Если \(X\) принимает значения \(x_k\) с вероятностями \(p_k\), интеграл заменяется суммой:
\[ \varphi_X(t)=\sum_k p_k e^{itx_k}. \tag{3.21}\]
Это то же распределение, записанное в форме, удобной для сложения случайных величин.
3.5.2 Почему характеристическая функция всегда существует
Модуль комплексной экспоненты равен единице. Поэтому
\[ \left|\varphi_X(t)\right| =\left|\mathbb E[e^{itX}]\right| \leq \mathbb E[|e^{itX}|] =1. \tag{3.22}\]
В отличие от математического ожидания \(\mathbb E[X]\) или дисперсии, интеграл в определении характеристической функции не страдает от тяжёлых хвостов: подынтегральная функция по модулю ограничена единицей. Характеристическая функция существует у любого распределения.
3.5.3 Базовые свойства
Для любой случайной величины выполняются соотношения
\[ \varphi_X(0)=1, \qquad |\varphi_X(t)|\leq1, \qquad \varphi_X(-t)=\varphi_X^*(t). \tag{3.23}\]
Первое равенство выражает нормировку вероятности: \(\varphi_X(0)=\mathbb E[1]=1\). Третье следует из комплексного сопряжения экспоненты. Для распределения, симметричного относительно нуля, характеристическая функция вещественна и чётна.
3.5.4 Сдвиг и масштаб
Пусть \(Y=aX+b\). Тогда
\[ \begin{aligned} \varphi_Y(t) &=\mathbb E[e^{it(aX+b)}]\\ &=e^{itb}\mathbb E[e^{i(at)X}]\\ &=e^{itb}\varphi_X(at). \end{aligned} \tag{3.24}\]
Сдвиг случайной величины даёт фазовый множитель, а изменение масштаба меняет аргумент характеристической функции.
3.6 Суммы многих независимых величин
Последовательно применяя формулу 3.14 к \(S_n=X_1+\dots+X_n\), получаем
\[ \varphi_{S_n}(t)= \prod_{k=1}^{n}\varphi_{X_k}(t). \tag{3.25}\]
Если все слагаемые имеют одно распределение,
\[ \varphi_{S_n}(t)=\left[\varphi_X(t)\right]^n. \tag{3.26}\]
Ради этих двух формул характеристические функции и вводят в задачах о суммах.
3.7 Примеры характеристических функций
3.7.1 Распределение Бернулли
Величина Бернулли принимает значение \(1\) с вероятностью \(p\) и значение \(0\) с вероятностью \(1-p\). По формуле 3.21
\[ \varphi_X(t) =(1-p)e^{it\cdot0}+pe^{it\cdot1} =(1-p)+pe^{it}. \tag{3.27}\]
Сумма \(S_n=X_1+\dots+X_n\) считает число единиц в \(n\) независимых испытаниях. Её характеристическая функция равна
\[ \begin{aligned} \varphi_{S_n}(t) &=\left[(1-p)+pe^{it}\right]^n\\ &=\sum_{k=0}^{n} \binom{n}{k}(1-p)^{n-k}p^k e^{itk}. \end{aligned} \tag{3.28}\]
Коэффициент при \(e^{itk}\) равен вероятности \(P(S_n=k)\). Мы снова получили биномиальное распределение:
\[ P(S_n=k)=\binom{n}{k}p^k(1-p)^{n-k}, \qquad S_n\sim\operatorname{Bin}(n,p). \tag{3.29}\]
Другого ответа и быть не могло: сумма нулей и единиц как раз считает число успехов. Характеристическая функция показывает это непосредственно в алгебраической форме.
3.7.2 Распределение Пуассона
Для \(N\sim\operatorname{Pois}(\lambda)\)
\[ \begin{aligned} \varphi_N(t) &=\sum_{k=0}^{\infty} e^{itk}e^{-\lambda}\frac{\lambda^k}{k!}\\ &=e^{-\lambda} \sum_{k=0}^{\infty}\frac{(\lambda e^{it})^k}{k!}\\ &=\exp\!\left[\lambda(e^{it}-1)\right]. \end{aligned} \tag{3.30}\]
Пусть независимые величины \(N_k\) имеют параметры \(\lambda_k\). Тогда
\[ \begin{aligned} \varphi_{\sum_k N_k}(t) &=\prod_k\exp\!\left[\lambda_k(e^{it}-1)\right]\\ &=\exp\!\left[ \left(\sum_k\lambda_k\right)(e^{it}-1) \right]. \end{aligned} \tag{3.31}\]
Получилась характеристическая функция Пуассона с параметром \(\sum_k\lambda_k\):
\[ \sum_k N_k \sim \operatorname{Pois}\!\left(\sum_k\lambda_k\right). \tag{3.32}\]
Это соответствует устройству опыта. Если несколько независимых источников дают в среднем \(\lambda_1,\lambda_2,\ldots\) событий за один интервал времени, общий счёт имеет среднее \(\lambda_1+\lambda_2+\cdots\).
3.7.3 Распределение Гаусса
Для \(X\sim\mathcal N(\mu,\sigma^2)\) характеристическая функция имеет вид
\[ \varphi_X(t)= \exp\!\left(i\mu t-\frac{\sigma^2t^2}{2}\right). \tag{3.33}\]
3.7.3.1 Вывод характеристической функции Гаусса
Сначала рассмотрим стандартную нормальную величину \(Z\sim\mathcal N(0,1)\):
\[ \varphi_Z(t)= \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{+\infty}e^{itz}e^{-z^2/2}\,dz. \tag{3.34}\]
Продифференцируем по \(t\) и проинтегрируем по частям, используя \(z e^{-z^2/2}=-d(e^{-z^2/2})/dz\):
\[ \begin{aligned} \varphi_Z'(t) &=\frac{i}{\sqrt{2\pi}} \int_{-\infty}^{+\infty}z e^{itz}e^{-z^2/2}\,dz\\ &=-t\varphi_Z(t). \end{aligned} \tag{3.35}\]
Условие \(\varphi_Z(0)=1\) выбирает решение
\[ \varphi_Z(t)=e^{-t^2/2}. \tag{3.36}\]
Поскольку \(X=\mu+\sigma Z\), правило сдвига и масштаба 3.24 даёт формулу 3.33.
Для независимых \(X_k\sim\mathcal N(\mu_k,\sigma_k^2)\) произведение характеристических функций равно
\[ \varphi_{\sum_k X_k}(t)= \exp\!\left[ it\sum_k\mu_k- \frac{t^2}{2}\sum_k\sigma_k^2 \right]. \tag{3.37}\]
Это снова гауссова характеристическая функция. Следовательно,
\[ \sum_k X_k \sim \mathcal N\!\left( \sum_k\mu_k, \sum_k\sigma_k^2 \right). \tag{3.38}\]
У независимых гауссовых величин складываются средние и дисперсии. Стандартные отклонения складывать нельзя.
3.7.4 Распределение Коши
Для независимых \(X_k\sim\operatorname{Cauchy}(0,1)\)
\[ \varphi_{S_n}(t) =\left(e^{-|t|}\right)^n =e^{-n|t|}, \qquad S_n=\sum_{k=1}^{n}X_k. \tag{3.39}\]
Поэтому \(S_n\sim\operatorname{Cauchy}(0,n)\). После деления суммы на \(n\) масштаб возвращается к единице:
\[ \frac{S_n}{n}\sim\operatorname{Cauchy}(0,1). \tag{3.40}\]
Среднее арифметическое имеет то же распределение, что и каждое слагаемое. Оно не сжимается с ростом \(n\). К этому примеру мы вернёмся при обсуждении условий центральной предельной теоремы.
3.8 Моменты из характеристической функции
Разложим комплексную экспоненту около \(t=0\):
\[ e^{itX}=\sum_{n=0}^{\infty}\frac{(itX)^n}{n!}. \tag{3.41}\]
Если соответствующие моменты существуют и разрешено переставить математическое ожидание и сумму, то
\[ \varphi_X(t) =\sum_{n=0}^{\infty} \frac{(it)^n}{n!}\mathbb E[X^n]. \tag{3.42}\]
Отсюда моменты извлекаются производными в нуле:
\[ \mathbb E[X^n] =\frac{1}{i^n}\varphi_X^{(n)}(0). \tag{3.43}\]
В частности,
\[ \mathbb E[X]=\frac{\varphi_X'(0)}{i}, \qquad \mathbb E[X^2]=-\varphi_X''(0). \tag{3.44}\]
Слово «если» перед формулой 3.42 нельзя выбрасывать. Сама характеристическая функция существует всегда, её производные нужного порядка — нет.
Для стандартного распределения Коши
\[ \varphi_X(t)=e^{-|t|}. \tag{3.45}\]
У этой функции нет производной при \(t=0\). Тот же факт виден в обычном пространстве: интеграл для \(\mathbb E[X]\) не сходится абсолютно. Односторонняя производная или главное значение интеграла не заменяют математического ожидания.
3.9 Кумулянты
Произведение характеристических функций удобно превратить в сумму. Для этого берётся логарифм:
\[ K_X(t)=\ln\varphi_X(t). \tag{3.46}\]
Поскольку \(\varphi_X(0)=1\) и \(\varphi_X\) непрерывна, в некоторой окрестности нуля она не обращается в нуль. Там можно выбрать непрерывную ветвь логарифма с \(K_X(0)=0\). Если нужные производные существуют, разложение имеет вид
\[ K_X(t)= \sum_{n=1}^{\infty} \kappa_n\frac{(it)^n}{n!}, \tag{3.47}\]
а коэффициенты \(\kappa_n\) называются кумулянтами:
\[ \kappa_n= \frac{1}{i^n} \left. \frac{d^n}{dt^n}\ln\varphi_X(t) \right|_{t=0}. \tag{3.48}\]
3.9.1 Первые четыре кумулянта
Для первой производной
\[ K_X'(0)= \frac{\varphi_X'(0)}{\varphi_X(0)} =i\mathbb E[X]. \tag{3.49}\]
Для второй
\[ \begin{aligned} K_X''(0) &=\varphi_X''(0)-\left[\varphi_X'(0)\right]^2\\ &=-\mathbb E[X^2]+\mathbb E[X]^2\\ &=-\operatorname{Var}(X). \end{aligned} \tag{3.50}\]
После деления на соответствующие степени \(i\) получаем
\[ \begin{aligned} \kappa_1&=\mu,\\ \kappa_2&=\sigma^2,\\ \kappa_3&=\mathbb E[(X-\mu)^3],\\ \kappa_4&=\mathbb E[(X-\mu)^4]-3\sigma^4. \end{aligned} \tag{3.51}\]
Первые два кумулянта — среднее и дисперсия. Третий равен третьему центральному моменту; после деления на \(\sigma^3\) он даёт коэффициент асимметрии. Четвёртый измеряет отклонение четвёртого центрального момента от гауссова значения \(3\sigma^4\); деление на \(\sigma^4\) даёт эксцесс.
3.9.2 Почему кумулянты удобны для сумм
Для независимых \(X\) и \(Y\)
\[ \begin{aligned} K_{X+Y}(t) &=\ln\!\left[\varphi_X(t)\varphi_Y(t)\right]\\ &=K_X(t)+K_Y(t). \end{aligned} \tag{3.52}\]
Значит, каждый существующий кумулянт суммы равен сумме кумулянтов:
\[ \kappa_n(X+Y)=\kappa_n(X)+\kappa_n(Y). \tag{3.53}\]
Для изменения масштаба действует правило
\[ \kappa_n(aX)=a^n\kappa_n(X). \tag{3.54}\]
У обычных моментов суммы появляются смешанные члены. Кумулянты независимых слагаемых складываются без таких членов, что особенно удобно для нормированных сумм.
3.10 Мост к центральной предельной теореме
Пусть \(X_1,\ldots,X_n\) независимы, имеют одно распределение и конечные среднее и дисперсию:
\[ \mathbb E[X_k]=\mu, \qquad \operatorname{Var}(X_k)=\sigma^2<\infty. \tag{3.55}\]
Рассмотрим центрированную и нормированную сумму
\[ Z_n= \frac{1}{\sigma\sqrt n} \sum_{k=1}^{n}(X_k-\mu). \tag{3.56}\]
Введём \(Y_k=(X_k-\mu)/\sigma\). Тогда \(\mathbb E[Y_k]=0\), \(\operatorname{Var}(Y_k)=1\) и
\[ \varphi_{Z_n}(t)= \left[ \varphi_Y\!\left(\frac{t}{\sqrt n}\right) \right]^n. \tag{3.57}\]
Конечность второго момента даёт при \(u\to0\) разложение
\[ \varphi_Y(u)=1-\frac{u^2}{2}+o(u^2). \tag{3.58}\]
Подставляя \(u=t/\sqrt n\), получаем
\[ \varphi_{Z_n}(t)= \left[ 1-\frac{t^2}{2n}+o\!\left(\frac1n\right) \right]^n. \tag{3.59}\]
При каждом фиксированном \(t\)
\[ \lim_{n\to\infty}\varphi_{Z_n}(t)=e^{-t^2/2}. \tag{3.60}\]
Справа стоит характеристическая функция \(\mathcal N(0,1)\). Теорема непрерывности Леви переводит сходимость характеристических функций в сходимость по распределению [1]. Полную формулировку центральной предельной теоремы и скорость приближения мы разберём в следующей главе.
Нормировка в формуле 3.56 обязательна. Сама сумма имеет среднее \(n\mu\) и дисперсию \(n\sigma^2\); её центр и ширина растут вместе с \(n\). Для среднего арифметического та же нормированная величина записывается как
\[ Z_n=\frac{\overline X_n-\mu}{\sigma/\sqrt n}. \tag{3.61}\]
Отсюда возникает знакомый масштаб статистической неопределённости среднего \(1/\sqrt n\).
3.10.1 Тот же предел через кумулянты
Если кумулянт порядка \(r\) существует, правила 3.53 и 3.54 дают
\[ \kappa_r(Z_n)= n^{1-r/2}\kappa_r(Y). \tag{3.62}\]
При \(r=2\) дисперсия остаётся равной единице. Третий кумулянт убывает как \(1/\sqrt n\), четвёртый — как \(1/n\), а каждый существующий кумулянт порядка \(r>2\) стремится к нулю. Если высшие кумулянты существуют, в разложении остаётся квадратичный член \(\ln\varphi(t)=-t^2/2\), соответствующий распределению Гаусса.
3.11 Интерактив: приближение к распределению Гаусса в пространстве Фурье
Возьмём независимые величины
\[ X_k\sim U(-\sqrt3,\sqrt3), \qquad \mathbb E[X_k]=0, \qquad \operatorname{Var}(X_k)=1. \tag{3.63}\]
На графике сравниваются характеристическая функция нормированной суммы и предельная функция \(e^{-t^2/2}\). Ползунок меняет число слагаемых \(n\).
3.12 Итоги главы
- Характеристическая функция является преобразованием Фурье распределения и существует для любой случайной величины.
- Для суммы независимых величин характеристические функции перемножаются. Это заменяет последовательные свёртки плотностей обычным произведением.
- Моменты связаны с производными \(\varphi_X(t)\) в нуле, а кумулянты — с производными \(\ln\varphi_X(t)\). Характеристическая функция существует всегда; нужных производных у неё может не быть.
- У нормированной суммы сохраняется дисперсия, а вклад высших существующих кумулянтов убывает с ростом числа слагаемых. Так характеристические функции приводят к гауссову пределу.
3.13 Задачи
Задача 1. Сумма двух равномерных величин
Пусть независимые случайные величины распределены равномерно: \[ X,Y\sim\mathrm{U}(0,1), \qquad f_X(x)=f_Y(x)=\theta(x)\theta(1-x). \]
Для суммы \(S=X+Y\):
- Вычислите плотность \(f_S(s)\) непосредственно как свёртку.
- Покажите, что произведение \(\theta\)-функций ограничивает область интегрирования условием \[ \max(0,s-1)\le x\le\min(1,s). \]
- Получите кусочно заданную треугольную плотность и проверьте её нормировку.
- Найдите характеристическую функцию \(\varphi_X(t)\).
- Используя \(\varphi_S(t)=\varphi_X(t)^2\), получите тот же ответ через обратное преобразование Фурье.
- Нарисуйте плотности \(f_X(x)\) и \(f_S(s)\) и объясните форму распределения суммы.
Задача 2. Распределение Бернулли
Пусть \[ P(X=1)=p,\qquad P(X=0)=1-p. \]
- Найдите \(\varphi_X(t)\).
- Найдите характеристическую функцию суммы \(n\) независимых величин Бернулли.
- Объясните, почему сумма имеет биномиальное распределение.
Задача 3. Сумма пуассоновских величин
Для независимых \[ N_1\sim\mathrm{Pois}(\lambda_1),\qquad N_2\sim\mathrm{Pois}(\lambda_2) \] покажите с помощью характеристических функций, что \[ N_1+N_2\sim\mathrm{Pois}(\lambda_1+\lambda_2). \]
Задача 4. Сумма гауссовых величин
Пусть независимые величины распределены как \[ X_k\sim\mathrm{N}(\mu_k,\sigma_k^2). \] Покажите, что \[ \sum_kX_k \sim \mathrm{N}\!\left(\sum_k\mu_k,\sum_k\sigma_k^2\right). \]
Задача 5. Моменты и производные
Для \[ \varphi_N(t)=\exp\!\left[\lambda(e^{it}-1)\right] \] найдите \(\mathbb{E}[N]\), \(\mathbb{E}[N^2]\) и \(\mathrm{Var}(N)\) через производные в нуле.
Задача 6. Распределение Коши
Для \[ \varphi_X(t)=e^{-|t|} \] объясните, почему \(\varphi_X'(0)\) не существует, и покажите, что \[ \frac{X_1+\dots+X_n}{n} \] имеет то же распределение Коши.
Задача 7. Распределение \(S_n=X_1+\dots+X_n\) в пределе \(n\to\infty\)
Пусть \(X_1,\dots,X_n\) — независимые одинаково распределённые случайные величины, \[ S_n=X_1+\dots+X_n, \qquad \langle X\rangle_n=\frac{S_n}{n}. \]
Среднее и вариация \(X_i\): \[ \mathbb{E}[X_i]=\mu, \qquad \mathrm{Var}(X_i)=\sigma^2<\infty. \] Рассмотрим нормированную сумму \[ Z_n= \frac{S_n-n\mu}{\sigma\sqrt n}. \]
Покажите, что характеристическая функция \(Z_n\) имеет вид \[ \varphi_{Z_n}(t) = \left[ e^{-it\mu/(\sigma\sqrt n)} \varphi_X\left(\frac{t}{\sigma\sqrt n}\right) \right]^n. \]
Для каждого из следующих распределений найдите характеристическую функцию и предел \[ \lim_{n\to\infty}\varphi_{Z_n}(t). \]
Симметричное распределение Бернулли: \[ P(X=1)=P(X=-1)=\frac12. \]
Равномерное распределение: \[ X\sim U(-\sqrt3,\sqrt3). \]
Экспоненциальное распределение: \[ X\sim \mathrm{Exp}(1). \]
Распределение Пуассона: \[ X\sim \mathrm{Pois}(\lambda). \]
Убедитесь, что во всех четырёх случаях получается один и тот же предел: \[ \varphi_{Z_n}(t)\to e^{-t^2/2}. \]