ити появу так званих суперефективністю оцінок, вводиться мінімаксний ризик, де V - околиця (невідомого істинного розподілу) в F. Оцінка називається локальною асимптотичної мінімаксної, якщо в межі при її мінімаксний ризик по будь достатньою малій околиці V виявляється менше, ніж у будь-який інший оцінки, т.е.
.
Властивість локальної асимптотичної мінімаксне для оцінки буде, як правило, справедливо і для іншої оцінки отклоняющейся від неї на, тобто (за ймовірністю).
Для багатьох завдань оцінювання функцій (не тільки функцій розподілу) нижні межі асимптотичного ризику оцінок описуються нерівністю інформації виду
.
Більш наочна форма останнього твердження, що наближає його до класичних неравенствам інформації, виходить, якщо перейти до межі по околицях V, стягує до (невідомому істинному досить безпідставного) розподілу F0:
.
Тут - гауссовский процес з безперервними траєкторіями, який має нульове середнє і коваріації, що визначаються видом оцінюваної функції і ступенем апріорної невизначеності розподілу спостережень. Так, в задачі непараметрического оцінювання функції розподілу при повній невизначеності розподілу - це добре відомий-броунівський міст з ковариационной функцією виду
; (2.2.1)
тут - мінімум з t, s. Нехай - бутстреп-версія емпіричного процесу,
де - емпірична функція розподілу, побудована за бутстреп-вибірці обсягу т з розподілу.
Беран розглянув таку ситуацію. Припустимо, що з незалежної повторної вибірці Xn обсягу п будується статистика володіє властивістю асимптотичної нормальності. Точніше, існує послідовність функціоналів, для якої має місце збіжність з розподілу при, тобто- Оцінка залежного від п функціоналу. Беран ввів ряд аналітичних припущень, які означають, що функція розподілу випадкової величини допускаег асимптотичний розклад першого порядку, (типу розкладання Еджворта) рівномірно по функції розподілу F з малої околиці довільного істинного розподілу F0. Таким чином, Беран использу?? т негрубую апроксимацію, а більш акуратне наближення
(2.2.2)
Тут коефіцієнти k (F), (F) і b (F) залежать від невідомого розподілу F і задовольняють деяким додатковим припущеннями. Відзначимо, що - стандартне відхилення статистики. Рівномірність подібного розкладання означає, що для досить малій околиці V (невідомого) довільного розподілу F0 залишковий член не просто прагне до нуля при, а задовольняє умові
.
При цих припущеннях Беран описує нижні межі асимптотичного ризику щодо функції втрат виду, де - згортка функції W з деякою абсолютно безперервною функцією розподілу V.
Справедливо нерівність:
. (2.2.3)
У правій частині цієї нерівності фігурує гауссовский процес
(2.2.4)
де - залежна від невідомого розподілу F невипадкова величина;- Невипадкова функція виду; Z - стандартна нормальна випадкова величина.
Оцінка функції розподілу має властивість локальної асимптотичної мінімаксне. Зокрема, цим умовам задовольняє бутстреп-оцінка. При цьому для бутстреп-оцінки має місце слабка збіжність процесу до гауссовскому процесу, в термінах якого описуються нижні межі асимптотичного ризику. Використовуючи розкладання Еджворта (2.2.2), можна підставити замість невідомих коефіцієнтів їх оцінки. Отримана таким способом оцінка функції розподілу відрізняється від бутстреп-оцінки на величину і володіє тими ж асимптотичними властивостями. Правда, на практиці цей підхід може призвести до деяких незручностей, так як оцінка за допомогою розкладання Еджворта може не бути функцією розподілу, тобто деяких подій вона буде приписувати негативні ймовірності, але із зростанням обсягу вибірки цей ефект буде все менш і менш помітним.
Беран також пояснив відомий в аналізі даних парадокс. Здавалося б. якщо функція розподілу при наближено дорівнює (тут - функція розподілу стандартної нормальної величини), то оцінка, де - оцінка величини, яка фігурує в (21), також видається цілком прийнятною. Насправді нормоване відхилення при слабо сходиться до процесу, де - деяка невипадкова функція, обумовлена ??істинної функцією розподілу. Зокрема, якщо розподіл має ненульовий коефіцієнт асиметрії або оцінка зміщена, функція відмінна від нуля. У такому випадку з результатів випливає, що асимптотичний ризик оцінки перевершує асимптотический ризик бутстреп-оцінки.
Результати Берана прояснюють теоретичні властивості процедур бутстрепа. Справа в тому, що багато процедури побудови наближених довірчих інтервалів істотно спираються на оцінки функції розподілу і функціоналів від. [12], [14]
2.3 Бутстреп-методи довірчого оцінювання
Одне з найбільш цікавих застосувань бутстрепа відноситься до довірчого оцінюванню. Цей напрямок дов...
