---
title: "Лекция 2. Случайные величины, распределения, моменты"
subtitle: "Статистический анализ данных"
author: "Дмитрий В. Наумов (ОИЯИ)"
format:
  revealjs:
    theme: black
    width: 1024
    height: 768
    slide-number: true
    preview-links: auto
    chalkboard:
      buttons: false
    logo: shared/figures/dvnlogo.png
    css: styles.css
    transition: fade
    center: true
---

## План лекции

- Откуда в физике случайность?
- Случайные величины и вероятность
- Моменты распределения, ковариация и корреляция
- Биномиальное, пуассоновское и гауссовое (нормальное) распределения


## Почему «случайно»?

::: incremental
- В классической физике флуктуации возникают из-за неполного знания начальных условий и большого числа степеней свободы.
- В квантовой физике вероятностная природа заложена в саму теорию.
- Эксперимент наблюдает не «идеальное ожидание», а конкретную реализацию со статистическими флуктуациями.
- Поэтому сравнение модели с данными всегда формулируется на языке вероятности.
:::


## Случайная величина и её распределение

::: incremental
- Случайная величина $X$  -- экспериментально измеряемая величина, которая не может быть предсказана до проведения эксперимента.
- Для дискретной $X$: функция вероятностей (PMF=probability mass function)
$$
p_k=P(X=x_k),\qquad \sum_k p_k=1.
$$
- Для непрерывной $X$: плотность вероятности (PDF=probability density function)
$$
P(x\le X<x+dx)=f(x)\,dx,\qquad \int_{-\infty}^{+\infty}f(x)\,dx=1.
$$
:::

## Кумулятивная функция распределения (CDF)
::: incremental
- Для непрерывной $X$:
$$
F(a) = P(X < a) = \int_{-\infty}^a f(x)\, dx
$$
- $F(a)$ монотонно возрастает от 0 до 1.

- $F'(a) = f(a)$ для непрерывных распределений.

- Вероятность попасть в интервал $[a,b)$: 
$$
P(a \le X < b) = F(b) - F(a).
$$
:::


## Моменты распределения
- Полезны моменты функции $f(x)$:
$$
\langle x^n\rangle = \mathbb{E}[X^n]=\int_{-\infty}^{+\infty} x^n f(x)\, dx.
$$
- Если известны все моменты $\langle x^n\rangle$, то можно восстановить $f(x)$ (не для любой функции!).

## Практически важные моменты

::: incremental

- Среднее:
$$
\mu = \langle x\rangle=\mathbb{E}[X] =\int_{-\infty}^{+\infty} x f(x)\, dx.
$$
- Средний квадрат:
$$
\langle x^2\rangle = \mathbb{E}[X^2]=\int_{-\infty}^{+\infty} x^2 f(x)\, dx.
$$
- Дисперсия:
$$
\sigma^2=\mathrm{Var}(X)=\mathbb{E}[(X-\mu)^2]=\mathbb{E}[X^2-2\mu X+\mu^2]=\langle x^2\rangle - \langle x \rangle^2.
$$
:::

## Моменты распределения произвольной функции $g(X)$ случайной величины

::: incremental
- Среднее значение функции $g(X)$:
$$
\langle g(x) \rangle = \mathbb{E}[g(X)] =  \int g(x)f(x)\,dx.
$$
- Вариация функции $g(X)$:
$$
\mathrm{Var}(g(X)) = \mathbb{E}[(g(X) - \langle g(X) \rangle)^2] = \int \left(g(x) - \langle g(x) \rangle\right)^2 f(x)\,dx.
$$
:::


## Три важных примера
- Биномиальное распределение
- Распределение Пуассона
- Нормальное (гауссово) распределение


## Биномиальное распределение

Если в $n$ независимых испытаниях вероятность успеха равна $p$, то
$$
P(K=k)=\binom{n}{k}p^k(1-p)^{n-k},\qquad k=0,\dots,n.
$$

где
$$
\binom{n}{k}=\frac{n!}{k!(n-k)!}
$$
это число способов выбрать $k$ успехов среди $n$ испытаний.

## Пример биномиального распределения

{{< embed notebooks/binomial_pmf_demo.qmd >}}

## Моменты биномиального распределения

::: incremental
- Математическое ожидание: $\mathbb{E}[K]=np$
- Дисперсия: $\mathrm{Var}(K)=np(1-p)$
- Пример: число распадов нужного канала при фиксированном числе родительских частиц.
:::


## Пошаговый вывод

## Вывод $\mathbb{E}[K]$
::: incremental 
- По определению:
$$
\mathbb{E}[K]
=\sum_{k=0}^n k\,P(K=k)
=\sum_{k=0}^n k\binom{n}{k}p^k(1-p)^{n-k}.
$$

- Используем тождество
$$
k\binom{n}{k}=k \frac{n!}{k!(n-k)!} = n\frac{(n-1)!}{(k-1)!(n-k)!} = n\binom{n-1}{k-1},
$$
- и получаем
$$
\mathbb{E}[K]
=np\sum_{k=1}^{n}\binom{n-1}{k-1}p^{k-1}(1-p)^{n-k}.
$$
:::

## Вывод $\mathbb{E}[K]$ 
::: incremental
- Положим $j=k-1$:
$$
\mathbb{E}[K]
=np\sum_{j=0}^{n-1}\binom{n-1}{j}p^j(1-p)^{(n-1)-j}.
$$

- По биному Ньютона
$$
\sum_{j=0}^{n-1}\binom{n-1}{j}p^j(1-p)^{(n-1)-j}
=(p+(1-p))^{n-1}=1.
$$

- Итог:
$$
\boxed{
\mathbb{E}[K]=np.}
$$
:::

## Вывод $\mathrm{Var}(K)$

::: incremental
- Начнём со второго факториального момента:
$$
\mathbb{E}[K(K-1)]
=\sum_{k=0}^{n}k(k-1)\binom{n}{k}p^k(1-p)^{n-k}.
$$

- Используем тождество

::: {.fragment}
$$
k(k-1)\binom{n}{k}=k(k-1)\frac{n!}{k!(n-k)!}
$$
:::

::: {.fragment}
$$
= n(n-1)\frac{(n-2)!}{(k-2)!(n-k)!}
$$
:::

::: {.fragment}
$$
= n(n-1)\binom{n-2}{k-2}.
$$
:::
:::

## Вывод $\mathrm{Var}(K)$
::: incremental
- Получаем тождество:
$$
k(k-1)\binom{n}{k}=n(n-1)\binom{n-2}{k-2}.
$$
- Теперь, используя его в формуле для $\mathbb{E}[K(K-1)]$, находим

::: {.fragment}
$$
\mathbb{E}[K(K-1)]
=\sum_{k=0}^{n}k(k-1)\binom{n}{k}p^k(1-p)^{n-k}.
$$
:::
::: {.fragment}

$$
=n(n-1)p^2\sum_{k=2}^{n}\binom{n-2}{k-2}p^{k-2}(1-p)^{n-k}
=n(n-1)p^2.
$$
:::
::: {.fragment}
$$
\boxed{\mathbb{E}[K(K-1)]=n(n-1)p^2.}
$$
:::
:::

## Вывод $\mathrm{Var}(K)$ 
::: incremental
- Используем очевидное тождество для $K^2$:
$$
K^2=K(K-1)+K,
$$
- поэтому
$$
\mathbb{E}[K^2]=\mathbb{E}[K(K-1)]+\mathbb{E}[K]
=n(n-1)p^2+np.
$$

- Теперь
$$
\mathrm{Var}(K)=\mathbb{E}[K^2]-\mathbb{E}[K]^2
=\big(n(n-1)p^2+np\big)-(np)^2
=np(1-p).
$$
:::




## Распределение Пуассона

::: incremental
- Распределение Пуассона моделирует число событий в фиксированном интервале времени или пространства при постоянной средней интенсивности $\lambda$ и независимых событиях.
- Пример: число распадов радиоактивного источника за 1 минуту.
- Вероятность наблюдения $N=k$ событий при среднем числе событий $\lambda$:
$$
P(N=k)=\frac{\lambda^k e^{-\lambda}}{k!},\qquad k=0,1,2,\dots
$$
:::


## Пример распределения Пуассона

{{< embed notebooks/poisson_pmf_demo.qmd >}}

## Моменты распределение Пуассона

::: incremental
- $\mathbb{E}[N]=\lambda$
- $\mathrm{Var}(N)=\lambda$
:::

## Пошаговый вывод

## Вывод $\mathbb{E}[N]$

::: {.fragment}
По определению:
$$
\mathbb{E}[N]=\sum_{k=0}^{\infty} k\,\frac{\lambda^k e^{-\lambda}}{k!}.
$$
:::

::: {.fragment}
Выносим множители за сумму:
$$
\mathbb{E}[N]=\lambda e^{-\lambda}\sum_{k=1}^{\infty}\frac{\lambda^{k-1}}{(k-1)!}.
$$
:::

::: {.fragment}
Сдвиг индекса $j=k-1$:
$$
\mathbb{E}[N]=\lambda e^{-\lambda}\sum_{j=0}^{\infty}\frac{\lambda^j}{j!}
=\lambda e^{-\lambda}e^{\lambda}
=\lambda.
$$
:::

::: {.fragment}
$$
\boxed{\mathbb{E}[N]=\lambda.}
$$
:::


## Вывод $\mathrm{Var}(N)$

::: {.fragment}
Сначала второй факториальный момент:
$$
\mathbb{E}[N(N-1)]
=\sum_{k=0}^{\infty}k(k-1)\frac{\lambda^k e^{-\lambda}}{k!}.
$$
:::

::: {.fragment}
Поскольку $\dfrac{k(k-1)}{k!}=\dfrac{1}{(k-2)!}$:
$$
\mathbb{E}[N(N-1)]
=\lambda^2 e^{-\lambda}\sum_{k=2}^{\infty}\frac{\lambda^{k-2}}{(k-2)!}
=\lambda^2 e^{-\lambda}\sum_{j=0}^{\infty}\frac{\lambda^j}{j!}
=\lambda^2.
$$
:::

::: {.fragment}
$$
\boxed{\mathbb{E}[N(N-1)]=\lambda^2.}
$$
:::


## Вывод $\mathrm{Var}(N)$

::: incremental
- Используем связь:
$$
N^2=N(N-1)+N.
$$
- Тогда
$$
\mathbb{E}[N^2]=\mathbb{E}[N(N-1)]+\mathbb{E}[N]=\lambda^2+\lambda.
$$
- И
$$
\mathrm{Var}(N)=\mathbb{E}[N^2]-\mathbb{E}[N]^2
=(\lambda^2+\lambda)-\lambda^2
=\lambda.
$$
:::


## Нормальное (гауссово) распределение

$$
f(x;\mu,\sigma)=\frac{1}{\sigma(2\pi)^{1/2}}
\exp\!\left[-\frac{(x-\mu)^2}{2\sigma^2}\right].
$$

- Непрерывная модель с центром $\mu$ и масштабом разброса $\sigma$.
- Часто возникает как сумма многих малых независимых вкладов.

> Много лет назад я назвал кривую Лапласа-Гаусса нормальной кривой. Это название, избегая международного спора о приоритете, имеет недостаток: оно заставляет думать, что все прочие распределения частот в том или ином смысле «ненормальны».
>
> К. Пирсон (1920)


## Пример нормального распределения

{{< embed notebooks/normal_density_demo.qmd >}}

## Моменты гауссова распределения

- $\mathbb{E}[X]=\mu$
- $\mathrm{Var}(X)=\sigma^2$

## Пошаговый вывод

## Вывод $\mathbb{E}[X]$

::: {.fragment}
По определению:
$$
\mathbb{E}[X]
=\int_{-\infty}^{+\infty}x\,
\frac{1}{\sigma(2\pi)^{1/2}}
\exp\!\left[-\frac{(x-\mu)^2}{2\sigma^2}\right]dx.
$$
:::

::: {.fragment}
Переход к стандартной нормали: $z=\dfrac{x-\mu}{\sigma}$, $x=\mu+\sigma z$, $dx=\sigma dz$.
$$
\mathbb{E}[X]
=\int_{-\infty}^{+\infty}(\mu+\sigma z)\,\varphi(z)\,dz,\qquad
\varphi(z)=\frac{1}{\sqrt{2\pi}}e^{-z^2/2}.
$$
:::

::: {.fragment}
$$
\mathbb{E}[X]
=\mu\int_{-\infty}^{+\infty}\varphi(z)\,dz
+\sigma\int_{-\infty}^{+\infty}z\varphi(z)\,dz
=\mu\cdot1+\sigma\cdot0=\mu,
$$
так как $z\varphi(z)$ нечётная функция.
:::

::: {.fragment}
$$
\boxed{\mathbb{E}[X]=\mu.}
$$
:::


## Вывод $\mathrm{Var}(X)$

::: {.fragment}
По определению:
$$
\mathrm{Var}(X)=\mathbb{E}[(X-\mu)^2]
=\int_{-\infty}^{+\infty}(x-\mu)^2 f(x)\,dx.
$$
:::

::: {.fragment}
При $z=\dfrac{x-\mu}{\sigma}$:
$$
\mathrm{Var}(X)=\sigma^2\int_{-\infty}^{+\infty}z^2\varphi(z)\,dz
=\sigma^2\,\mathbb{E}[Z^2],\qquad Z\sim\mathrm{N}(0,1).
$$
:::

::: {.fragment}
$$
\mathbb{E}[Z^2]
=\int_{-\infty}^{+\infty}z^2\varphi(z)\,dz
=\left[-z\varphi(z)\right]_{-\infty}^{+\infty}
+\int_{-\infty}^{+\infty}\varphi(z)\,dz
=1.
$$
:::

::: {.fragment}
$$
\boxed{\mathrm{Var}(X)=\sigma^2.}
$$
:::




## Резюме по распределениям

| Название | Среднее | Дисперсия | Условия применения |
|---|---:|---:|---|
| Биномиальное $K\sim\mathrm{Bin}(n,p)$ | $np$ | $np(1-p)$ | <small>Фиксированное $n$; независимые испытания; постоянное $p$. </small>|
| Пуассон $N\sim\mathrm{Pois}(\lambda)$ | $\lambda$ | $\lambda$ | <small>События в фиксированном интервале; постоянная интенсивность; независимость. </small>|
| Нормальное $X\sim\mathrm{N}(\mu,\sigma)$ | $\mu$ | $\sigma^2$ | <small>Непрерывные ошибки; сумма многих малых независимых вкладов. </small>|

## Что важно запомнить

::: incremental
- Данные в эксперименте флуктуируют, и эти флуктуации нужно описывать вероятностно.
- Выбор распределения определяется физикой задачи.
- Среднее и дисперсия — первые количественные характеристики распределения.
- Биномиальное, пуассоновское и нормальное распределения — базовый рабочий набор экспериментатора.
:::


## Домашние задачи

## 

::: {.taskbox}
### ✍️ <span class="tasknum">Задача 1.</span> Предел биномиального распределения

Покажите, что при
$$
n\to\infty,\qquad p\to 0,\qquad np=\lambda=\text{const}
$$
биномиальное распределение
$$
P(K=k)=\binom{n}{k}p^k(1-p)^{n-k}
$$
переходит в распределение Пуассона:
$$
P(K=k)\to \frac{\lambda^k e^{-\lambda}}{k!}.
$$

<div class="hint">
<strong>Подсказка.</strong> Положите $p=\lambda/n$ и рассмотрите отдельно три множителя:
$\binom{n}{k}$, $(\lambda/n)^k$ и $(1-\lambda/n)^{n-k}$ при фиксированном $k$.
</div>
:::

## 

::: {.taskbox}
### ✍️ <span class="tasknum">Задача 2.</span> Предел Пуассона к гауссову распределению

Покажите, что при больших $\lambda$ пуассоновское распределение
$$
P(N=n)=\frac{\lambda^n e^{-\lambda}}{n!}
$$
вблизи максимума аппроксимируется нормальным распределением
$$
P(N=n)\approx \frac{1}{\sqrt{2\pi\lambda}}
\exp\!\left[-\frac{(n-\lambda)^2}{2\lambda}\right].
$$

<div class="hint">
<strong>Подсказка.</strong>
Используйте формулу Стирлинга
$$
n!\approx \sqrt{2\pi n}\left(\frac{n}{e}\right)^n,
$$
а затем разложите $\ln P(N=n)$ около точки $n=\lambda$ до квадратичного члена.
</div>
:::

## 

::: {.taskbox}
### ✍️ <span class="tasknum">Задача 3.</span> Моменты равномерного распределения

Пусть
$$
X\sim U(-1,1).
$$

Найдите:

1. $\mathbb{E}[X]$  
2. $\mathbb{E}[X^2]$  
3. $\mathrm{Var}(X)$

<div class="hint">
<strong>Подсказка.</strong> Используйте плотность
$$
f(x)=\frac12,\qquad -1\le x\le 1.
$$
</div>
:::

## 

::: {.taskbox}
### ✍️ Задача 4. Когда моменты однозначно задают распределение

Пусть случайная величина $X$ имеет моменты
$$
\mathbb{E}[X^{2n}] = 1,\qquad
\mathbb{E}[X^{2n+1}] = 0,
\qquad n=0,1,2,\dots
$$

Покажите, что тогда $X$ принимает только два значения:
$$
X=\pm 1
$$
с вероятностями
$$
P(X=1)=P(X=-1)=\frac12.
$$

<div class="hint">
<strong>Подсказка.</strong>
Из условий
$\mathbb{E}[X^2]=1,\,\mathbb{E}[X^4]=1$ получите, что
$\mathbb{E}\big[(X^2-1)^2\big]=0$.
</div>
:::

## 

::: {.taskbox}
### ✍️ Задача 5. Распределение, определяемое своими моментами

Пусть случайная величина $X\ge 0$ имеет моменты
$$
\mathbb{E}[X^n]=n!,\qquad n=0,1,2,\dots
$$

Покажите, что её производящая функция моментов равна
$$
M_X(t)=\mathbb{E}[e^{tX}]=\frac{1}{1-t},\qquad t<1,
$$
и сделайте вывод, что $X$ имеет экспоненциальное распределение
$$
f(x)=e^{-x},\qquad x\ge 0.
$$

<div class="hint">
<strong>Подсказка.</strong>
Разложите $e^{tX}$ в ряд Тейлора и используйте заданные моменты.
</div>
:::

## 

::: {.taskbox}
### ✍️ Задача 6. Когда моментов недостаточно

Пусть
$$
Y=e^Z,\qquad Z\sim \mathrm{N}(\mu,\sigma).
$$

1. Покажите, что для логнормальной случайной величины
$$
\mathbb{E}[Y^n]=\exp\!\left(n\mu+\frac{n^2\sigma^2}{2}\right),\qquad n=0,1,2,\dots
$$

2. Узнайте, верно ли, что эти моменты однозначно определяют распределение $Y$.

3. Сформулируйте вывод: достаточно ли существования всех моментов для однозначного восстановления распределения?

<div class="hint">
<strong>Комментарий.</strong>
Логнормальное распределение — классический пример распределения, которое <em>не определяется однозначно</em> своими моментами.
</div>
:::

## 

::: {.taskbox}
### ✍️ Задача 7. Восстановление распределения на конечном носителе

Пусть случайная величина $X$ принимает значения
$$
-1,\quad 0,\quad 1
$$
с вероятностями
$$
p_{-1},\quad p_0,\quad p_{1}.
$$

Известно, что
$$
\mathbb{E}[X]=0,\qquad
\mathbb{E}[X^2]=\frac12.
$$

Найдите вероятности $p_{-1}, p_0, p_1$.

<div class="hint">
<strong>Подсказка.</strong>
Используйте также условие нормировки
$$
p_{-1}+p_0+p_1=1.
$$
</div>
:::

## 

::: {.taskbox}
### ✍️ Задача 8. Факториальные моменты распределения Пуассона

Пусть
$$
N\sim \mathrm{Pois}(\lambda).
$$

Покажите, что для любого натурального $r$
$$
\mathbb{E}[N(N-1)\cdots (N-r+1)] = \lambda^r.
$$

Проверьте отдельно случаи $r=1$ и $r=2$, а затем докажите общее утверждение.

<div class="hint">
<strong>Подсказка.</strong>
Подставьте
$$
P(N=k)=\frac{\lambda^k e^{-\lambda}}{k!}
$$
и сократите факториалы.
</div>
:::
