Поскольку оценки являются случайными переменными, их значения лишь по случайному совпадению могут в точности равняться характеристикам генеральной совокупности. Обычно будет присутствовать определенная ошибка, которая может быть большой или несмещенной, малой, положительной или отрицательной, в зависимости от чисто случайных составляющих величин х в выборке.
Хотя это и неизбежно, на интуитивном уровне желательно, тем не менее, чтобы оценка в среднем за достаточно длительный период была аккуратной. То есть, мы стремимся к тому, математическое ожидание оценки равнялось бы соответствующей характеристике генеральной совокупности. Если это так, то оценка называется несмещенной. Если это не так, то оценка называется смещенной.
С2. Математическое ожидание дискретной случайной величины – это взвешенное среднее всех ее возможных значений, причем в качестве весового коэффициента берется вероятность соответствующего исхода. Его рассчитывают путем перемножения всех возможных значений случайной величины на их вероятности и суммирования полученных произведений. Математически, если случайная величина обозначена как х, то ее математическое ожидание обозначают как М(х).
В виде формулы оно определяется следующим образом:
М(х) = х1 · р1 + х2 · р2 + … + хn · рn = Σ хi ·рi (1)
Рассмотрим простой пример случайной переменной – число очков, выпадающее при бросании лишь одной игральной кости.
С3. В данном случае возможны шесть исходов (по количеству поверхностей кубика). Каждый исход имеет вероятность 1/6, поэтому здесь
(2)
В данном случае математическим ожиданием случайной переменно является число, которое само по себе не может быть получено при бросании кости.
Математическое ожидание случайной величины часто называют ее средним по генеральной совокупности. Для случайной величины х это значение часто обозначается как μ.
Важной функцией переменной х является ее теоретическая дисперсия, которая характеризует меру разброса для вероятного распределения. Она определяется как математическое ожидания квадрата разности между величиной х и ее средним, т.е. величины (х - μ)2, где μ - математическое ожидание х.
Дисперсия обычно обозначается как 
, и если ясно, о какой переменной идет речь, то нижний индекс может быть опущен.
Часто вместо рассмотрения случайной величины как единого целого можно и удобно разбить ее на постоянную и чисто случайную составляющие, где постоянная составляющая всегда есть ее математическое ожидание. Если х - случайная переменная и μ - ее математическое ожидание, то декомпозиция случайной величины записывается следующим образом:
х = μ + и (3)
где и – это чисто случайная составляющая (в том числе ее среднее значение в регрессионном анализ она обычно представлена случайным членом).
Итак, смещение – это разность между математическим ожиданием оценки и истинным значением оцениваемого параметра, а несмещенная оценка – это оценка, имеющая нулевое смещение.
Величина х
включает две составляющие – μ и 
. Значение равно средней чисто случайных составляющих величин х в выборке, и, поскольку математическое ожидание такой составляющей в каждом наблюдении равно нулю, математическое ожидание равно нулю. Следовательно,
(4)
Таким образом, можно констатировать, что выборочное среднее
(5),
построенное по данным выборки (хi) – это несмещенная оценка математического ожидания M(х).
Соответственно, несмещенность – это желательное свойство оценок.
Эффективная оценка – это несмещенная оценка, имеющая наименьшую дисперсию среди всех несмещенных оценок.
Если предел оценки по вероятности равен истинному значению характеристики генеральной совокупности, то эта оценка называется состоятельной. Иначе говоря, состоятельной называется такая оценка, которая дает точное значение для большой выборки независимо от входящих в нее конкретных наблюдений.
Состоятельная оценка – это оценка, у которой смещение и дисперсия стремятся к 0 при увеличении объема выборки.
Поможем написать любую работу на аналогичную тему