Задачи: статистические тесты
Статистический анализ данных
Задачи
Задача 1. Матрица решений
Для теста \(H_0\) против \(H_1\):
- Постройте таблицу возможных решений и истинных состояний.
- Определите ошибки I и II рода.
- Запишите размер и мощность теста.
- Объясните, почему неотклонение \(H_0\) не доказывает её истинность.
- Приведите физический пример, в котором ошибки I и II рода имеют разную цену.
Задача 2. Односторонний гауссов тест
Пусть \[ X_1,\ldots,X_N\sim\mathrm N(\mu,\sigma^2), \] где \(\sigma\) известна. Проверяется \[ H_0:\mu=\mu_0 \qquad\text{против}\qquad H_1:\mu>\mu_0. \]
- Постройте статистику \(Z\) со стандартным нормальным распределением при \(H_0\).
- Найдите критическую границу теста уровня \(\alpha\).
- Выведите функцию мощности \(\pi(\mu)\).
- Найдите необходимое \(N\) для заданных \(\alpha\), мощности и минимального размера эффекта.
- Проверьте результат псевдоэкспериментами.
Задача 3. Двусторонний тест
Для той же гауссовой модели проверяется \[ H_0:\mu=\mu_0 \qquad\text{против}\qquad H_1:\mu\ne\mu_0. \]
- Постройте критическую область уровня \(\alpha\).
- Объясните появление квантиля \(z_{1-\alpha/2}\).
- Выведите функцию мощности для истинного среднего \(\mu_1\).
- Сравните мощность одностороннего и двустороннего тестов при \(\mu_1>\mu_0\).
- Объясните, почему направление теста нельзя выбирать после просмотра данных.
Задача 4. \(p\)-value
Наблюдалось значение \(z_{\rm obs}=2.1\).
- Вычислите правосторонний \(p\)-value.
- Вычислите двусторонний \(p\)-value.
- Укажите, на каких уровнях \(\alpha\) гипотеза будет отвергнута.
- Объясните, почему \(p\)-value не является вероятностью \(H_0\).
- Сгенерируйте \(Z\sim\mathrm N(0,1)\) и проверьте, что корректный непрерывный \(p\)-value равномерен при \(H_0\).
Задача 5. Лемма Неймана — Пирсона
Проверяются простые гипотезы \[ H_0:X\sim\mathrm N(0,1), \qquad H_1:X\sim\mathrm N(\delta,1), \qquad \delta>0. \]
- Запишите отношение правдоподобия.
- Покажите, что оно монотонно по \(X\).
- Найдите наиболее мощный тест уровня \(\alpha\).
- Выведите его мощность.
- Постройте ROC-кривую для нескольких \(\delta\).
Задача 6. Точный биномиальный тест
Проверяется \[ H_0:p=0.5 \qquad\text{против}\qquad H_1:p>0.5 \] по числу успехов \(K\) в \(N=12\) испытаниях.
- Найдите критическую область уровня не более \(5\%\).
- Вычислите фактический размер теста.
- Найдите мощность при \(p=0.7\).
- Вычислите точный \(p\)-value при \(k_{\rm obs}=10\).
- Объясните, почему точный тест консервативен.
Задача 7. Пуассоновский поиск сигнала
Наблюдается \[ N\sim\operatorname{Pois}(s+b), \] где фон \(b\) известен.
Проверяется \[ H_0:s=0 \qquad\text{против}\qquad H_1:s>0. \]
- Обоснуйте выбор статистики теста \(T=N\).
- Постройте критическую область уровня не более \(\alpha\).
- Вычислите мощность как функцию \(s\).
- Исследуйте влияние фона \(b\).
- Сравните точный тест с гауссовым приближением.
Задача 8. Низкая мощность
Разработан тест уровня \(\alpha=0.05\), имеющий мощность \(0.20\) против физически интересной альтернативы.
- Найдите вероятность ошибки II рода.
- Объясните смысл неотклонения \(H_0\) в таком эксперименте.
- Оцените, во сколько раз следует увеличить выборку, если размер стандартизованного эффекта растёт как \(\sqrt N\), а требуется существенно большая мощность.
- Покажите псевдоэкспериментами, что большинство экспериментов не заметит реальный эффект.
- Сформулируйте корректный отрицательный вывод.
Задача 9. Множественные проверки
Выполняется \(m\) независимых тестов уровня \(\alpha\).
- Выведите вероятность хотя бы одного ложного отклонения.
- Вычислите её для \(m=10,100,1000\) и \(\alpha=0.05\).
- Найдите порог отдельного теста по поправке Бонферрони для общего уровня \(0.05\).
- Сравните фактическую вероятность ошибки с заданной.
- Обсудите потерю мощности.
Задача 10. Проверка калибровки теста
Выберите любой тест из предыдущих задач.
- Сгенерируйте не менее \(10\,000\) псевдоэкспериментов при \(H_0\).
- Проверьте фактическую частоту отклонения \(H_0\).
- Сгенерируйте эксперименты при нескольких альтернативах.
- Постройте функцию мощности.
- Исследуйте влияние ошибочно заданной дисперсии или фона на размер теста.