Статистическая обработка данных, полученных экспериментальным путем в лесохозяйстве

46

МОДЕЛИРОВАНИЕ ЭКОСИСТЕМ

ВВЕДЕНИЕ

Эффективность ведения современного лесного хозяйства определяется полнотой научных сведений, как о естественном формировании лесных фитоценозов, так и под воздействием хозяйственных мероприятий. Достоверность этих сведений оценивается путем статистической обработки цифрового материала, полученного в результате целенаправленно спланированного эксперимента и последующей производственной проверки.

Каждый из существующих статистических методов имеет свои возможности и ограниченную область применения, продиктованную спецификой эксперимента. При этом все они служат экспериментатору средством выявления закономерностей, позволяющих сделать выводы и заключения в условиях неопределенности. Достоверно полученные результаты наблюдений, представление выявленных закономерностей в виде статистических моделей следует рассматривать в практическом приложении в качестве основы применения количественных методов моделирования и оптимизации экономических, технологических и других процессов, и явлений.

Постановка задачи

Результаты наблюдения над лесохозяйственными объектами обычно фиксируются в журналах, бланках, анкетах и других документах учета или заносятся непосредственно в соответствующие файлы портативных компьютеров. Зафиксированные сведения об изучаемом объекте представляют первичный фактический материал, который нуждается в соответствующей обработке с целью исследования генеральной совокупности. На практике инженер лесного хозяйства имеет дело только с выборочной совокупностью (выборкой), т.е. частью генеральной совокупности, поэтому возникает потребность по результатам сравнительно небольшой выборки сделать предположение о поведении всей генеральной совокупности. В других случаях необходимо какой-либо совокупности величин поставить в соответствие другую совокупность и выяснить, имеется ли между ними различие, какая-нибудь взаимосвязь или нет.

Для того чтобы сделать статистическое заключение о рассматриваемом объекте, следует выполнить ряд взаимосвязанных операций:

1. Грамотно обеспечить отбор единиц выборочной совокупности;

2. Систематизировать и сгруппировать результаты наблюдений;

3. Графически представить эмпирические совокупности;

4. Получить статистические показатели для эмпирических совокупностей;

5. Получить статистические параметры для генеральной совокупности.

Единицы выборочной совокупности (варианты) должны быть отобраны так, чтобы по ним с достаточной точностью можно было судить о свойствах генеральной совокупности. Зачастую в исследованиях проводится отбор так называемых «типичных» представителей генеральной совокупности. Такой подход субъективен и не может служить основой получения качественной информации. Заданная точность в характеристике генеральной совокупности обеспечивается случайным отбором необходимого количества вариант.

Классификация и группировка вариант

Статистическая обработка первичных данных начинается с расположения вариант в определенной последовательности, зависящей от характера варьирования изучаемого признака:

1. Количественное:

· непрерывное;

· дискретное.

2. Качественное:

· атрибутивное.

При непрерывном варьировании отдельные значения признака могут иметь любое значение меры (протяженности, объема, веса и т. д.) в определенных пределах. Например, толщина деревьев в древостое принимает различные значения меры протяженности до самого толстого.

При дискретном варьировании отдельные значения признака выражаются отвлеченными числами (чаще всего целыми). Например, число деревьев на пробной площади, диаметр деревьев в ступенях (классах) толщины и т. д.

При атрибутивном варьировании значения признака классифицируют по градациям этого признака. Например, цвет, повреждаемость, класс бонитета и т. д.

При качественном варьировании первоначальное упорядочивание совокупности проводят в порядке возрастания или убывания. При малом числе вариант (до 30) строится непосредственный ряд значений.

При большом объеме выборки (n > 30) ранжированный ряд не обладает свойством наглядности. Поэтому значение признака размещают с указанием числа их повторяемости в виде двойного ряда. В первой строке (столбце) заносят значение признака, а во второй строке (столбце) указывают число повторяющихся значений.

Размещение значений признака в порядке их возрастания (убывания) с указанием числа их повторяемости называют вариационным рядом. В вариационном ряду значения признака, разнесенные по классам, называют распределением частот. Очевидно, что сумма частот равна объему выборки n. Величина классового промежутка, на которую разбивается ряд варьирующих значений признака, определяется по формуле:

C = X _max - X _min / i ,

где X _max и X _min - максимальное и минимальное значение признака; i - число классовых промежутков.

Число классовых промежутков зависит от объема выборки и ориентировочно равно корню квадратному из числа наблюдений, т. е. i = v n .

Задание 1. Расчет статистических показателей для малой выборочной совокупности

Изучаемый признак - объем деревьев (м³).

Данные замеров объема приведены в таблице 1

Таблица 1

Данные для статистической обработки малой выборочной совокупности

1. Находим среднюю величину распределения по формуле:

X_ср = ? Ч_i / n,

где n - объем выборочной совокупности равный 30. Подставляя данные из таблицы в формулу, получим:

X_ср = 27,48 / 30 = 0,916 м ³.

2. Определим сумму квадратов отклонений (СКО) каждой варианты от средней величины по формуле:

СКО = ?(X_i - X_ср)².

Предварительно определив все квадраты отклонения, находим их сумму:

СКО = 0,430336 + 0,331776 + 0,276676 + 0,256036 + 0,126736 + 0,106276 + 0,076176 + 0,076176 + 0,070756 + 0,046656 + 0,030976 + 0,015876 + 0,007396 + 0,003136 + 0,001296 + 0,000676 + 0,000676 + 0,001936 + 0,005476 + 0,010816 + 0,017956 + 0,020736 + 0,026896 + 0,080656 + 0,098596 + 0,118336 + 0,132496 + 0,244036 + 0,817216 + 1,308736 = 4,74152 м ⁶.

3. Находим дисперсию, характеризующую степень разнообразия объекта, используя формулу: д ² = СКО / n.

Отсюда д ² = 4,74152 / 30 = 0,1581 м ⁶ .

4. Рассчитываем стандартное отклонение - основной показатель вариации, характеризующий варьирование значений признака вокруг центра распределения: д = v д ² .

Тогда д = v 0,1581 = 0,3976 = 0,4 м ³.

5. Вычислим коэффициент вариации - показатель изменчивости признака. Он определяется как C_v = д • 100%/ X_ср.

Имеем C_v = 0,4 / 0,916 • 100 = 43,67 %.

По шкале Мамаева для установления уровня изменчивости признака определяем, что уровень изменчивости в данном случае высокий (таблица 2).

6. Находим коэффициент дифференциации, характеризующий изменчивость признака. Он определяется как V_д = д • 100 % / (X_ср - X_min),

где X_min = 0,26 м³.

Тогда V_д = 0,4 • 100 / (0,916 - 0,26) = 40 / 0,656 = 60,98 %.

Степень дифференциации признака определим с помощью таблицы 3, из которой следует, что эта степень большая.

Таблица 2

Шкала Мамаева для установления уровня изменчивости признака

Таблица 3

Классификация степени дифференциации признака

7. Расчет ошибок репрезентативности.

Ошибка средней величины вычисляется по формуле:

m _x = + д / vn .

В нашем случае: m_x = + 0,4 / v30 =+ 0,073 м ³.

Ошибка стандартного отклонения: m _д = + д / v2n .

Значит m _д = + 0,4 / v2 • 30 = + 0,052 м ³.

Ошибка коэффициента вариации:

m _c = + C_v / vn • v0,5 + (C_v/100)².

Тогда m_c=+43,67/5,48 • v0,5 + (43,67/100) ²=+ 7,97 • 0,831 =+ 6,623 %.

Ошибка точности: m _p = + m _c / vn .

Отсюда m _p = + 6,623 / 5,48 = + 1,21 %.

8. Находим точность определения средней величины

p = + (m _x / X_ср) • 100 %.

Отсюда p = + (0,073 / 0,916) • 100 = + 7,97 %.

Данный показатель позволяет сделать заключение о достоверности эмпирических данных для получения достоверных результатов.

9. Достоверность статистических показателей (надежность)

Достоверность - отношение величины статистического показателя к его ошибке репрезентативности. Это отношение должно быть ? 3, определяется по t - критерию.

Достоверность средней величины: t_x = X_ср / m_x .

Значит t_x = 0,916 / 0,073 = 12,55.

Достоверность стандартного отклонения: t_д = д / m_д .

Тогда t_д = 0,4 / 0, 052 = 7,69.

Достоверность коэффициента вариации: t_c = C_v / m_c .

Имеем t_c = 43,67 / 6,623 = 6,59.

Достоверность точности: t_p = p / m_p .

Получаем t_p = 7,97 / 1,21 = 6,587.

Все статистические показатели достоверны, т. к. их отношение к ошибкам репрезентативности больше 3 во всех случаях

10. Доверительный интервал для генеральной средней

ДИГС - интервал нахождения средней величины для всей генеральной совокупности.

ДИГС = X_ср + m_x • t_0,5 ,

где t_0,5 - критерий Стьюдента на 5% уровне значимости, определяется по числу степеней свободы (см. приложение).

Число степеней свободы - число свободно варьирующих вариант (v)

v = n - 1 = 30 - 1 =29 t_0,5 = 2,045

Находим ДИГС = 0,916 + 0,073 • 2,045; ДИГС 0,767 ? 1,065 м ³.

Чем меньше расстояние между точками интервала, тем точнее выборочная совокупность характеризует генеральные параметры.

11. Необходимое число наблюдений для будущих исследований

n = ((C_v • K)/p)²,

где C_v - расчетный коэффициент вариации;

p - заданная точность (3 %);

К - коэффициент порогового уровня доверительной вероятности (К₁ =1; К₂ = 1,98; К₃ =2,63) .

n₁ = (43,67 • 1 / 3)² = 212 шт.

n₂ = (43,67 • 1,98 / 3)² = 831 шт.

n₃ = (43,67 • 2,63 / 3)² = 1466 шт.

Статистическое заключение

В результате анализа малой выборочной совокупности в виде измерения объема деревьев получили следующие статистические показатели с их ошибками репрезентативности:

- средняя величина 0,916 + 0,073 м ³;

- стандартное отклонение 0,4 + 0,052 м ³;

- коэффициент вариации 43,67 + 6,623 %, которому по шкале Мамаева соответствует высокий уровень изменчивости;

- коэффициент дифференциации 60,98 %, которому по классификации соответствует большая степень дифференциации.

Точность определения средней величины 7,97 + 1,21 %.

Все статистические показатели достоверны, т. к. их отношение к ошибкам репрезентативности больше 3 во всех случаях.

Доверительный интервал генеральной средней 0,767 - 1,065 м ³.

Необходимое число наблюдений для будущих исследований, которое бы обеспечивало заданную точность 3 % при известном коэффициенте вариации 43,67 % и трех пороговых уровнях доверительной вероятности следующее:

- для первого порогового уровня 212 штук;

- для второго порогового уровня 831 штука;

- для третьего порогового уровня 1466 штук.

Задание 2. Расчет статистических показателей для большой выборочной совокупности

Изучаемый признак - диаметр деревьев, см.

Данные для статистической обработки большой выборочной совокупности приведены в таблице 4.

Таблица 4.

Данные для статистической обработки большой выборочной совокупности

Для построения вариационного ряда выполняем следующие расчеты:

1. Выбираем X_min и X_max X_min = 4 см; X_max = 40 см.

Устанавливаем размах варьирования:

X_max - X_min = 40 - 4 = 36 см.

2. Определяем классовый интервал:

С = (X_max - X_min) / i,

где X_min - минимальное значение варианты; X_max - максимальное значение варианты; i

- количество классов, i = v n , где n - объем выборочной совокупности.

Применяя формулу Стерджеса,

C = X_max - X_min / 1 + 3,32 ln n =( X_max - X_min)/ i,

где i = v n , при n = 100 i = v100 = 10.

Тогда C = 40 - 4 / 10 = 3,6 см. Принимаем С = 4.

3. Устанавливаем границы классов

Нижняя граница

Xmin - С/2 = 4 - 4 / 2 = 2 см.

Верхняя граница

X_min + C/2 = 4 + 4/2 = 6 см.

Вычисленные границы классов представлены в таблице 5.

Таблица 5.

Границы классов

После установления границ классов можно приступить к схематическому изображению вариационного ряда.

Схематическое изображение вариационного ряда

Классы I II III IV V VI VII VIII IX X

Границы 2 - 6 - 10 - 14 - 18 - 22 - 26 - 30 - 34 - 38 - 42 Классов

46

Частота, шт. 8 19 32 47 50 61 46 19 15 7

Накопленная 8 27 59 106 156 217 263 282 297 304

частота, шт.

Группировка данных, расчет средней величины и суммы квадратов отклонений

I 1) Средняя величина

X_ср = ? F • X _I / n,

где X_i - групповая варианта.

Значит X_ср = 6500 / 304 = 21,38 см.

2) Сумма квадратов отклонений

СКО = ?(F • X_i²) - (?(F • X _i))² / n.

Тогда СКО = 159280 - 42250000 / 304 = 159280 - 138980 = 20300 см ².

II 1) Средняя величина

X_ср = A + (?(F * X_й) / n) • C.

Отсюда X_ср = 24 + (- 199 / 304) • 4 = 24 + (- 0,6546) • 4 = 24 - 2,6184 = 21,38 см.

X_ср1 = X_ср2 = 21,38 см. X₁ = X_i - A / C.

2) Сумма квадратов отклонений

СКО = ( ?(F • X₁²) - (?(F • X_й ) ² / n ) • C² .

Отсюда получаем СКО = (1399 - (39601 / 304 )) • 16 = (1399 - 130,2664) • 16 = 20299,74 = 20300 см ².

3) Дисперсия

д ² = СКО / n - 1.

Находим д ² = 20300 / 303 = 66,78 см ².

4) Рассчитываем стандартное отклонение - основной показатель вариации, характеризующий варьирование значений признака вокруг центра распределения:

д = v д ² .

Тогда д = v 66,78 = 8,172 см.

5) Вычислим коэффициент вариации - показатель изменчивости признака. Он определяется как

C_v = д • 100%/ X_ср.

Имеем C_v = 8,172 / 21,38 • 100 = 38,22 %.

По шкале Мамаева (см. таблица 2) для установления уровня изменчивости признака определяем, что уровень изменчивости в данном случае высокий.

6) Находим коэффициент дифференциации, характеризующий изменчивость признака. Он определяется как

V_д = д • 100 % / (X_ср - X₀) + C/2,

где X₀ - значение первого класса ряда распределения. В нашем случае X₀ = 2 см.

Тогда V_д = 8,172 • 100 / (21,38 - 2) + 2 = 44, 17 %.

Степень дифференциации признака определим с помощью таблицы 3, из которой следует, что эта степень значительная, т.к. ее коэффициент находится в интервале 39 - 53 %.

7) Расчет ошибок репрезентативности.

Ошибка средней величины вычисляется по формуле:

m _x = + д / vn .

В нашем случае: m_x = + 8,172 / v304 =+ 8,172 / 17,44 =+ 0,47 см.

Ошибка стандартного отклонения:

m _д = + д / v2n .

Значит m _д = + 8,172 / v2 • 304 = + 8,172 / 24,66 =+ 0,331 см.

Ошибка коэффициента вариации:

m _c = + C_v / vn • v0,5 + (C_v/100)².

Тогда m _c = + 38,22 / 17,44 • v0,5 + (38,22/100) ² = + 2,192 • 0,804 =+ 1,762 %.

Ошибка точности:

m _p = + m _c / vn .

Отсюда m _p = + 1,762 / 17,44 = + 0,101 %.

8) Находим точность определения средней величины

p = + (m _x / X_ср) • 100 %.

Отсюда p = + (0,47 / 21,38) • 100 = + 2,2 %.

Данный показатель позволяет сделать заключение о достоверности эмпирических данных для получения достоверных результатов.

9) Достоверность статистических показателей (надежность)

Достоверность - отношение величины статистического показателя к его ошибке репрезентативности. Это отношение должно быть ? 3, определяется по t - критерию.

Достоверность средней величины: t_x = X_ср / m_x .

Значит t_x = 21,38 / 0,47 = 45,49.

Достоверность стандартного отклонения: t_д = д / m_д .

Тогда t_д = 8,172 / 0,331 = 24,69.

Достоверность коэффициента вариации: t_c = C_v / m_c .

Имеем t_c = 38,22 / 1,762 = 21,69.

Достоверность точности: t_p = p / m_p .

Получаем t_p = 2,2 / 0,101 = 21,78.

Все статистические показатели достоверны, т. к. их отношение к ошибкам репрезентативности больше 3 во всех случаях

10) Доверительный интервал для генеральной средней

ДИГС - интервал нахождения средней величины для всей генеральной совокупности.

ДИГС = X_ср + m_x • t_0,5 ,

где t_0,5 - критерий Стьюдента на 5% уровне значимости, определяется по числу степеней свободы (см. приложение).

Число степеней свободы - число свободно варьирующих вариант (v)

v = n - 1 = 304 - 1 =303 t_0,5 = 1,96

Находим ДИГС = 21,38 + 0,47 • 1,96 = 21,38 + 0,92; ДИГС 20,46 ? 22,3 см.

Чем меньше расстояние между точками интервала, тем точнее выборочная совокупность характеризует генеральные параметры. В нашем случае интервал несколько завышен.

11) Необходимое число наблюдений для будущих исследований

n = ((C_v • K)/p)²,

где C_v - расчетный коэффициент вариации;

p - заданная точность (3 %);

К - коэффициент порогового уровня доверительной вероятности (К₁ =1; К₂ = 1,98; К₃ =2,63) .

n₁ = (38,22 • 1 / 3)² = 162 штуки.

n₂ = (38,22 • 1,98 / 3)² = 636 штук.

n₃ = (38,22 • 2,63 / 3)² = 1123 штуки.

Статистическое заключение

В результате анализа большой выборочной совокупности в виде измерения объема деревьев получили следующие статистические показатели с их ошибками репрезентативности:

- средняя величина 21,38 + 0,47 см;

- стандартное отклонение 8,172 + 0,331 см;

- коэффициент вариации 38,22 + 1,762 %, которому по шкале Мамаева соответствует повышенный уровень изменчивости;

- коэффициент дифференциации 44,17 %, которому по классификации соответствует значительная степень дифференциации.

Точность определения средней величины 2,2 + 0,101 %.

Доверительный интервал генеральной средней 20,46 - 22,3 см.

Необходимое число наблюдений для будущих исследований, которое бы обеспечивало заданную точность 3 % при известном коэффициенте вариации 38,22 % и трех пороговых уровнях доверительной вероятности следующее:

- для первого порогового уровня 162 штуки;

- для второго порогового уровня 636 штук;

- для третьего порогового уровня 1123 штук.

Графическое представление вариационного ряда

После того как произведена группировка совокупности по классам, характер распределения более или менее проясняется. Однако более наглядное представление этого распределения дает графическое изображение.

Графическое представление вариационного ряда с использованием Microsoft Excel

Задание 3. Расчет среднеквадратических ошибок

При проведении полевого и других опытов проявляются три вида ошибок. Ошибка - это расхождение между различными значениями выборочной совокупности или отдельных наблюдений от истинных значений измеряемых величин.

Основные свойства ошибок и причины их возникновения

Случайные (среднеквадратические ошибки) - это ошибки, возникающие под воздействием факторов, действие которых не значительно и их нельзя выделить и учесть отдельно. Случайные ошибки в полевом опыте неизбежны. Математическая статистика дает методы их определения.

Систематические - искажают измеряемую величину в сторону преувеличения или преуменьшения в результате действия вполне определенной постоянной причины. Исключить действие этой причины можно путем применения правильной методики.

Случайные ошибки имеют знак +. Они взаимопогашаются, а систематические нет.

Грубые (промахи) - возникают в результате нарушения основных требований полевого опыта. Грубые ошибки не погашаются, а результат бракуется.

Для математической обработки подходят лишь результаты наблюдений без систематических и грубых ошибок.

Таблица 6.

Расчет среднеквадратических ошибок.

Таблица 7

Статистическое заключение

Второй таксатор определил запас древесины глазомерным способом точнее, так как его ошибка для всех случаев меньше чем у первого таксатора.

Задание 4. Расчет теоретических частот для кривой нормального распределения

Расчет теоретических частот эмпирического ряда производим следующим образом:

1. Находим значение функции плотности вероятности нормального распределения через величину нормированного отклонения по приложению учебника.

2. Вычисляем теоретические частоты ряда распределения n` по соответствующим данным объема выборки при величине классового промежутка по формуле:

n` = (nC / д) • f(x),

где n - объем выборки; C - классовый интервал; д - стандартное отклонение; f(x) - плотность вероятности.

Таблица 8

Вычисление выравнивающих частот по уравнению Лапласа - Гаусса

- в первый столбец вписаны групповые варианты - X_i , см;

- во втором столбце - эмпирическая частота n, шт.;

- в четвертом столбце - нормированное отклонение, показывающее, насколько «д» отдельные члены данной совокупности отклоняются от среднего уровня учитываемого признака. Нормированное отклонение рассчитываем по формуле: t = ¦(X_i - X _ср) / д¦.

Например, для первого значения варианты X_i = 4 получим:

t = ¦(4 - 21,38) / 8,172 ¦= 2,126774.

В пятом столбце находятся значения функции для нормированного отклонения - f(x), взятые из таблицы в соответствии с полученными значениями t .

В шестой столбец сведены значения теоретически рассчитанной частоты - n`, штук.

Например: n` = (304 • 4 / 8,172) • 0,0413 = 6,145.

По результатам вычислений построим графики распределения эмпирических и теоретических частот.

Задание 5. Статистическое сравнение эмпирического распределения с теоретическим по критерию ч - квадрат Пирсона

Критерий ч- квадрат (ч ²⁾ впервые был предложен К. Пирсоном в 1901 году. Пользуясь этим критерием можно произвести оценку различий между эмпирическим и теоретическим распределением частот. Он рассчитывается по формуле: ч ² = ? (n_i - n`)<sup>2</sup> / n`,

где n_i - эмпирическая частота; n` - теоретическая частота.

Оценка значимости критерия ч ² производится по специальной таблице (приложение 3 учебника Герасимов, Хлюстов), в которой приведены стандартные значения этого критерия (ч ²_st) для трех пороговых уровней доверительной вероятности и для разных чисел степеней свободы.

Число степеней свободы равно числу классов без трех k = n - 3.

Если ч ²_ф < ч ²_st , то расхождение между эмпирическим и теоретическим распределением подчиняется тому закону, по которому рассчитаны теоретические частоты.

Таблица 9

Оценка различий между эмпирическим и теоретическим распределением деревьев сосны по диаметру на уровне груди.

Теоретические частоты берутся неокругленными.

ч ²_ф = 7,231. ч ²_05/01 = 14,10 / 18,50, при k = 10 - 3 = 7. ч ²_ф < ч ²_05/01 .

Следовательно, нулевая гипотеза H₀ не отвергается, т.к. различия между эмпирическим и теоретическим распределением частот не существенны.

Статистическое заключение

Так как ч ²_ф < ч ²_05/01, то можно сделать вывод о том, что опытное распределение деревьев по диаметру на уровне груди подчиняется закону предполагаемого теоретического распределения.

Задание 6. Статистическое сравнение частот взвешенных рядов эмпирических распределений по критерию Колмогорова

Если два эмпирических распределения имеют различное количество классов и объем совокупности, то согласие между ними устанавливается по критерию л , рассчитанному по формуле:

л = ¦(?n ₁ /N₁) - (?n ₂/N₂)¦_max • v N₁N₂ / N₁ + N₂ , где

¦(?n ₁ /N₁) - (?n ₂/N₂)¦_max = d _max , тогда

л = d _max • v N₁N₂ / N₁ + N₂ ,

где n ₁ и n ₂ - частоты первого и второго сравниваемых рядов; N₁ и N₂ - объемы первого и второго рядов.

Сравнение частот взвешенных рядов по критерию Колмогорова приведено в таблице 10.

Для оценки статистической гипотезы расчетное значение л _ф сравнивается с табличным на 1% или 5%-ном уровне значимости: л _05/01 = 1,36 / 1,63. л _Ф < л_05/01 , следовательно, H₀ - гипотеза не отвергается, различия между сравниваемыми рядами распределения не существенны.

Таблица 10

Сравнение частот взвешенных рядов по критерию Колмогорова

Из таблицы видно, что d _max = 0,043. Тогда

л _ф = 0,043 • v (304 • 219) / 304 + 219 = 0,043 • 11,283 = 0,4852.

Статистическое заключение

В результате сравнения двух эмпирических рядов распределения деревьев сосны по диаметру можно сделать заключение о том, что получены не существенные различия между ними, так как фактическое значение л _ф критерия меньше л критерия на 5% уровне значимости.

Статистическое сравнение эмпирического распределения с теоретическим по критерию Колмогорова - Смирнова

При помощи критерия л - Колмогорова-Смирнова сопоставляют эмпирические и теоретические частоты рядов распределения, а также дают оценку различий двух эмпирических распределений.

Для сопоставления эмпирического и теоретического распределения частот л - критерий рассчитывается по формуле: л = ¦(?n _i /N) - (?n`/N)¦<sub>max</sub> • vN , где N - объем эмпирического ряда распределения ¦(?n <sub>i</sub> /N) - (?n`/N)¦= d , тогда л = d_max • vN.

Таблица 11

Статистическая оценка эмпирических и теоретических рядов распределения по критерию л - Колмогорова-Смирнова.

л _ф = 0,021 • v304 = 0,021 • 17,44 = 0,366.

Для оценки статистической гипотезы расчетное значение л - Колмогорова-Смирнова сравнивается с табличным на 1% или 5%-ном уровне значимости: л _05/01 = 1,36 / 1,63

Так как л _ф < л _05/01, то H₀ - гипотеза не отвергается, различия между эмпирическим и теоретическим распределениями частот не существенны.

Статистическое заключение

В результате сравнения эмпирического и теоретического рядов распределения можно сделать заключение о том, что существенных различий между ними нет, так как фактическое значение л - критерия меньше л на 5%-ном уровне значимости.

Задание 7. Статистическое сравнение двух выборочных средних по t - критерию Стьюдента при неравнозначных выборках

Если объемы выборочных совокупностей неравны (выборки неравнозначные), то t - критерий Стьюдента определяется по формуле:

t _ф = d / S _d , где d = ¦X_{1 ср} - X_{2 ср}¦, т.е. разность между сравниваемыми средними; S _d - ошибка разности выборочных средних.

S _d = v ((n₁ - 1) • д₁² + (n₂ - 1) • д₂² / n₁ + n₂ - 2 ) • (n₁ + n₂ / n₁ n₂),

где n₁ и n₂ - объемы сравниваемых выборочных совокупностей; д₁ и д₂ - значение стандартного отклонения.

Пример расчета вспомогательных величин для вычисления t - критерия фактического приведен в таблице 12.

Таблица 12

Статистическое сравнение двух выборочных средних по t - критерию Стьюдента

d₁ = ¦21,38 - 21,51¦ = 0,13, d₂ = ¦21,38 - 21,94¦ = 0,56,

d₃ = ¦21,51 - 21,94¦ = 0,43.

S _d1 = v ((304 - 1) • 8,172 ² + (316 - 1) • 8,386 ² / 304 + 316 - 2 ) • (304 + 316 / 304 • 316) = v (20234,82 + 22152,37 / 618) • (620 / 96064) = v68,588 • 0,006 = 0,642.

S _d2 = v ((304 - 1) • 8,172 ² + (335 - 1) • 8,744 ² / 304 + 335 - 2 ) • (304 + 335 / 304 • 335) = v (20234,82 + 25536,82 / 637) • (639 / 101840) = v71,855 • 0,006 = 0,657.

S _d3 = v ((316 - 1) • 8,386 ² + (335 - 1) • 8,744 ² / 316 + 335 - 2 ) • (316 + 335 / 316 • 335) = v (22152,37 + 25536,82 / 649) • (651 / 105860) = v73,481 • 0,006 = 0,664.

t _{факт 1} = 0,13 / 0,642 = 0,203, t _{факт 2} = 0,56 / 0,657 = 0,852, t _{факт 3} = 0,43 / 0,664 = 0,648.

Фактическое значение t -критерия (t _факт) сравниваем с t _s на 1% и 5%-ном уровне значимости.

t_05/01 определяем по приложению 1 учебника (Герасимов, Хлюстов), исходя из числа степеней свободы.

Формула для вычисления числа степеней свободы имеет вид:

k = n₁ + n₂ - 2.

В нашем случае k₁ = 304 + 316 - 2 = 618, k₂ = 637 и k₃ = 649, следовательно, t_05/01 = 1,96 / 2,58.

Так как t _{факт 1}, t _{факт 2} и t _{факт 3} меньше t_05/01 , то H₀ - гипотеза не отвергается, следовательно, различия несущественные.

Статистическое заключение

В результате сравнения выборочной средней Цветкова со средней Гусева и Смирнова, а также сравнения последних двух между собой, делаем заключение о несущественных различиях между ними, т. к. во всех случаях t _факт < t_05/01 .

Статистическое сравнение двух выборочных средних по t - критерию Стьюдента при равнозначных выборках

Критерий t - Стьюдента используется для сравнения средних значений совокупностей. Фактическое значение критерия определяют по формуле:

t = ¦X_{1 ср} - X_{2 ср}¦ / v (m²_X1ср + m²_X2ср),

где X_{1 ср} и X_{2 ср.} - значения сравниваемых средних выборочных совокупностей;

m²_X1ср и m²_X2ср - значения квадратов ошибок средних выборочных совокупностей.

Данная формула применяется для сравнения средних выборочных совокупностей с равнозначным объемом; т. е. n₁ = n₂, где n₁ и n₂ - объем сравниваемых выборочных совокупностей.

Таблица 12.1

Статистическое сравнение двух выборочных средних по t - критерию Стьюдент

t _факт = ¦0,916 - 0,827¦/ v0,073 ² + 0,09 ² = 0,089 / 0,116 = 0,767.

Фактическое значение t - критерия (t _ф) сравнивается с t₀₅ на 1% и 5%-ном уровне значимости, которые определяются с использованием приложения учебника (Герасимов, Хлюстов). Причем число степеней свободы устанавливается по формуле: k = n - 1.

В данном случае k = 30 - 1 =29, следовательно, t_05/01 = 2,05 / 2,76.

Так как t _ф < t_05/01, то H₀ - гипотеза не отвергается, различия несущественные.

Статистическое заключение

В результате сравнения выборочной средней Цветкова со средней Смирнова делаем заключение о несущественном различии между ними, т.к. t _ф < t_05/01.

Задание 8. Установить зависимость различий в формовом разнообразии облепихи крушиновидной на выровненном экофоне (однофакторный дисперсионный анализ)

Структура опыта:

1. Объект - облепиха крушиновидная.

2. Варианты опыта - различные формы облепихи.

3. Изучаемый признак - средний вес плода, гр.

4. Комплекс однофакторный, т.к. 1 изучаемый признак.

5. Комплекс равномерный, т.к. количество повторностей по всем вариантам одинаковое.

Схема расчета средних по вариантам приведена в таблице 13

Таблица 13

Схема расчета по дисперсионному анализу

X_ср = (10,89 + 8,44 + 17,67 + 12,11 + 19,67) / 5 = 13,756 гр.

Расчет преобразованных значений и сумм по вариантам проведен в таблице 14.

Таблица 14

Таблица преобразованных значений

А - значение варианты (X_i), которое имеет близкое значение к среднему.

В нашем случае X _ср = 13,756 гр, следовательно, А = 14 гр. Тогда X₁ = 10 - 14 = - 4 и т. д.

Вычисление суммы квадратов отклонений

Общее число наблюдений: n = N = 45.

1. Корректирующий фактор

C = (? x₁)²/ N

C = (- 1)² /45 = 0,02.

2. Общая дисперсия

C_y = ? (x)² - C

C_y = 106 + 288 + 147 + 13 + 303 - 0,02 = 856,98.

3. Дисперсия вариантов

C _v = (? y²/ n) - C

C _v = (784 + 2500 + 1089 + 49 + 2601) / 9 - 0,02 = 780,31.

4. Дисперсия остатка

C _z = C _y - C _v

C _z = 856,98 - 780,31 = 76,67.

Результаты вычислений представлены в таблице 15.

Таблица 15

Результаты вычислений

д²_v = 780,31 / 4 = 195,08.

д²_z = 76,67 / 40 = 1,917.

Оценка значимости воздействия изучаемых факторов осуществляется по F - критерию Фишера:

F_p = д²_v / д²_z .

Значит F _p = 195,08 / 1,917 = 101,76.

F₀₁ и F₀₅ определяем по числу степеней свободы меньшей дисперсии (остатка) и по числу степеней свободы большей дисперсии (вариантов), по приложению учебника (стр. 247). Откуда находим, что F₀₁ = 3,83 и F₀₅ = 2,61.

F _p >> F₀₁, следовательно, различия между сравниваемыми вариантами можно считать существенными, а если так, то необходимо произвести оценку по наименьшей существенной разности (НСР₀₅).

Чтобы определить НСР необходимо по данным дисперсионного анализа вычислить обобщенную ошибку средней величины по опыту и ошибку разности средних.

1. Ошибка опыта: S _x = + v д²_z / n.

S _x = + v 1,917 / 9 = + 0,4615.

2. Ошибка разности средних: S _d = + v2 д²_z / n.

S _d =+ v 3,834 / 9 = + 0,6527.

НСР₀₅ = S _d • t ₀₅ , v = 40, t ₀₅ = 2,023.

Тогда НСР₀₅ = 0,6527 • 2,023 = 1,32 гр.

НСР₀₅ = ((S _d • t ₀₅)/ X _ср) • 100 %.

НСР₀₅ = ((0,6527 • 2,023) / 13,756) • 100 % = 9,6 %.

Определение места в ряду распределения приведено в таблице 16.

Таблица 16

Итог результатов опыта

Статистическое заключение

По результатам дисперсионного анализа можно сделать заключение о том, что различия между сравниваемыми вариантами существенные, т.к. F _p >> F₀₁ (101,76 >> 3,83).

Для производства рекомендуется вариант № V (сорт Нижегородская) т.к. его фактическая разность со стандартом превышает значение НСР₀₅ (62,43 > 9,6).

Задание 9. Корреляционный анализ малой выборочной совокупности

Расчет вспомогательных величин для вычисления коэффициента корреляции приведен в таблице 17.

Таблица 17

Расчет вспомогательных величин для коэффициента корреляции

Вычисляем вспомогательные величины:

X_ср = У X _i / n = 1252 / 32 = 39,125 см;

Y_ср = У Y_i / n = 846,3 / 32 = 26,447 м.

У (X_i - X_ср)² = УX_i² - ((УX_i)² / n) = 51935,68 - (1567504 / 32) = 51935,68 - 48984,5 = 2951,18;

У (Y_i - Y_ср)² = УY_i² - ((УY_i)² / n) = 22506,09 - (716223,69 / 32) = 22506,09 - 22381,99 = 124,1;

У (X_i - X_ср) • (Y_i - Y_ср) = УX_i • Y_i - ((УX_i ?УY_i ) / n) = 33672,84 - (1059567,6 / 32) = 33672,84 - 33111,49 = 561,35, где n = 32.

Теперь вычислим коэффициент корреляции по формуле:

r = + У (X_i - X_ср) • (Y_i - Y_ср) / v У (X_i - X_ср)² • У (Y_i - Y_ср)² .

Отсюда

r = + 561,35 / v2951,18 • 124,1 = + 561,35 / 605,18 = + 0,928.

Далее вычислим ошибку коэффициента корреляции:

m _r = + v1 - r² /(n - 2).

Значит m _r = + v1 - 0,928² /(32 - 2) = + 0,068.

Значимость корреляции:

t = r / m _r.

t = 0,928 / 0,068 = 13,65.

Число степеней свободы в данном случае: v = n - 2 = 32 - 2 = 30. Находим t₀₅ по таблице для определения критерия Стьюдента.

Откуда следует, что t₀₅ = 2,045. t _r = 13,65 > t₀₅, значит, корреляция значима.

Расчет вспомогательных величин для вычисления корреляционного отношения приведен в таблице 18.

Согласно результатам вычислений определим корреляционное отношение по формуле:

з = ?( Уб² - УДy²) / Уб².

Тогда

з = ?(124,1 - 8,2028) / 124,1 = 0,966.

Находим ошибку корреляционного отношения:

Таблица 18

Расчет вспомогательных величин для вычисления корреляционного отношения

m _з = 1- з²/ v n.

Значит

m _з = 1 - (0,966)² / v32 = 0,0668 / 5,66 = 0,012.

Значимость корреляционного отношения: t = з / m_з.

Тогда t = 0,966 / 0,012 = 80,5.

Определим меру линейности корреляции: е = з² - r².

е = 0,933 - 0,861 = 0,072.

Находим основную ошибку:

m_е = vе / n = v0,072 / 32 = 0,047.

По отношению меры линейности к основной ошибке дадим характеристику линейности связи. е/ m_е = 0,072 / 0,047 = 1,532 < 2.

Связь приблизительно можно считать линейной.

Степень тесноты связи между признаками по величине коэффициента корреляции определяется с помощью таблицы 19.

Таблица 19

Таблица для определения тесноты связи

Статистическое заключение

По результатам корреляционного анализа можно сделать вывод о том, что взаимосвязь между диаметром и высотой ствола по направлению - прямая, по тесноте - очень высокая, по форме - линейная (см. график).

Задание 10. Регрессионный анализ

Математические выражения, отражающие причинно-следственные взаимосвязи и взаимодействия в системах (или модели связи) являются основными типами моделей, применяемых в области лесного хозяйства. В качестве математической формы эмпирических моделей связи, в основном, используют регрессионные уравнения и реже - интерполяционные многочлены. В первом случае применяют различные модификации метода наименьших квадратов, позволяющие просто и достаточно надежно оценить статистическим путем разрабатываемую модель. Второй метод сводится к механической процедуре аналитического выражения числовых массивов.

Для вычисления коэффициентов регрессионных уравнений основным методом является метод наименьших квадратов, предложенный в начале 19 в. Лежандром и Гауссом. Требование метода наименьших квадратов заключается в том, что теоретические точки линии регрессии y должны быть получены таким образом, чтобы сумма квадратов отклонений от этих точек эмпирических значений была минимальной, т.е.

У(Y_i - Y_x)² -- min.

Линейное уравнение с логарифмированием факторного признака

Для вычисления коэффициентов a и b для уравнения прямой с логарифмированием факторного признака

y = a + b ln x

необходимо решить следующую систему уравнений:

a n + b У ln x_i = У y_i ;

a У ln x_i + b У( ln x_i)² = У y_i ln x.

Решение системы относительно неизвестных a и b дает численные значения искомых коэффициентов:

a = (У y_i У( ln x_i)² - У y_i ln x_i У ln x_i )/( n У( ln x_i)² - (У ln x_i)² ),

b = (n У y_i ln x_i - У ln x_i У y_i) / (n У( ln x_i)² - ( У ln x_i)².

Задание: Найти уравнение регрессии, описывающее фактические значения высот по диаметрам в основном древостое, используя линейную модель с логарифмированием факторного признака.

Расчет вспомогательных величин для нахождения коэффициентов уравнения приведен в таблице 20.

Таблица 20

Расчет вспомогательных величин для нахождения коэффициентов a и b

Находим коэффициенты a и b по следующим формулам:

a = (У y_i У( ln x_i)² - У y_i ln x_i У ln x_i )/( n У( ln x_i)² - (У ln x_i)² ),

b = (n У y_i ln x_i - У ln x_i У y_i) / (n У( ln x_i)² - ( У ln x_i)²).

Отсюда получим

a = (846,3 • 424,9532 - 3091,847 • 116,329) / (32 • 424,9532 - 13532,4362) = (359637,8932 - 359671,4697) / (13598,5024 - 13532,4362) = - 33,5765 / 66,0662 = - 0,5082.

b = (32 • 3091,847 - 116,329 • 846,3) / (32 • 424,9532 - 13532,4362) = (98939,104 - 98449,2327) / 66,0662 = 489,8713 / 66,0662 = 7,415.

Полученное уравнение регрессии имеет вид

y = - 0,5082 + 7,415 ln x.

Произведем проверку значимости уравнения регрессии по F - критерию Фишера. При этом сравним общую дисперсию S_y² c остаточной S²_ост.

F _ф = S _y² / S ²_ост .

Здесь S ²_ост = У(y_i - y_x)²/ (n - 2) = 10,59007 / 30 = 0,353,

S _y² = ( Уy_i² - (( Уy_i)² / n )) / n - 1 = (22506,09 - 22381,99) / 31 = 4,00.

Тогда

F _ф = 4,00 / 0,353 = 11,33.

При уровне значимости б = 0,05 F _ф > F _p = 1,84. Следовательно, линейное уравнение регрессии адекватно описывает фактическое изменение высот от диаметров деревьев. При этом значение F _ф = 11,33 указывает на то, что уравнение линии в 11 раз лучше описывает рассматриваемую взаимосвязь, чем среднее значение зависимой переменной.

Статистическое заключение

По результатам регрессионного анализа можно сделать заключение о том, что линейное уравнение с логарифмированием факторного признака, представленное результатами опыта y = - 0,5082 + 7,415 ln x (красный график) в 11,33 раза лучше описывает изменение зависимой переменной, чем среднее значение аргумента

Уравнение гиперболы

Для вычисления коэффициентов a и b гиперболической зависимости:

y = a + b / x ,

необходимо решить следующую систему уравнений:

an + b У(1/x_i ) = У y_i

a У(1/x_i ) + b У(1/x_i²) = У(y_i / x_i ) .

Результатом решения системы нормальных уравнений являются следующие выражения:

a = (У y_i У(1/x_i ) ² - У(y_i / x_i ) У(1/x_i )) / n У(1/x_i ) ²- (У(1/x_i ) )², (1)

b = n У(y_i / x_i ) - У(1/x_i ) У y_i / n У(1/x_i ) ²- (У(1/x_i ) )². (2)

Проверка значимости уравнения регрессии производится, как и в первом случае по F - критерию Фишера. При этом общая дисперсия S_y² сравнивается с остаточной S ²_ост ;

F _ф = S _y² / S ²_ост .

Для принятого уровня значимости F _ф сравнивается с табличным значением F _st и делается вывод об адекватности описания уравнением рассматриваемой взаимосвязи.

Задание: Получить уравнение регрессии, описывающее фактическое изменение высот от диаметров в основном древостое, используя линейную модель. Расчет вспомогательных величин для нахождения коэффициентов уравнения приведен в таблице 21.

Таблица 21

Расчет вспомогательных величин для нахождения коэффициентов a и b

Находим коэффициенты a и b по формулам (1) и (2):

a = (846,3 • 0,02537 - 22,6305 • 0,87211) / (32 • 0,02537 - 0,76058) = (21,47063 - 19,73629) / (0,81184 - 0,76058) = 1,73434 / 0,05126 = 33,834;

b = (32 • 22,6305 - 0,87211 • 846,3) / 0,05126 = (724,176 - 738,067) / 0,05126 = - 13,891 / 0,05126 = - 270,991.

Полученное уравнение регрессии имеет вид

y = 33,834 - 270,991 / x.

Произведем проверку значимости уравнения регрессии по F - критерию Фишера. При этом сравним общую дисперсию S_y² c остаточной S ²_ост .

F _ф = S _y² / S ²_ост .

Здесь S ²_ост = У(y_i - y_x)²/ (n - 2) = 6,4527 / 30 = 0,2151,

S _y² = ( Уy_i² - (( Уy_i)² / n )) / n - 1 = (22506,09 - 22381,99) / 31 = 4,00.

Тогда

F _ф = 4,00 / 0,2151 = 18,596.

При уровне значимости б = 0,05 F _ф > F _st = 1,84. Следовательно, гиперболическое уравнение регрессии адекватно описывает фактическое изменение высот от диаметров деревьев. При этом значение F _ф = 18,596 указывает на то, что уравнение гиперболы уже в 18 раз лучше описывает рассматриваемую взаимосвязь, чем среднее значение аргумента.

Статистическое заключение

По результатам регрессионного анализа можно сделать заключение о том, что линейное уравнение гиперболы, представленное результатами опыта y = 30,77 - 224,46 / x (красный график) в 18,596 раза лучше описывает изменение зависимой переменной, чем среднее значение аргумента.

Уравнение показательной кривой.

Для вычисления коэффициентов a и b уравнения

y = a b ^x

необходимо решить следующую систему нормальных уравнений:

n ln a + ln b У x_i = У y_i ,

ln a У x_i + ln b У x_i² = У x_i ln y_i .

Решение системы относительно неизвестных a и b дает численные значения искомых коэффициентов:

ln a = (У y_i У x_i² - У x_i ln y_i У x_i) / (n У x_i² - (У x_i)²), (3)

ln b = (n У x_i ln y_i - У x_i У ln y_i) / (n У x_i² - (У x_i)²). (4)

Задание: Найти уравнение регрессии, описывающее фактические значения высот по диаметрам в основном древостое, используя уравнение показательной кривой.

Расчет вспомогательных величин для нахождения коэффициентов уравнения приведен в таблице 22.

Находим коэффициенты a и b по формулам (3) и (4):

ln a = (104,712 • 51935,68 - 4118,55 • 1252) / (32 • 51935,68 - (1252)²) = (5438756,345 -5156424,60) / (1661941,76 - 1567504) = 282331,745 / 94437,76 = 2,9896.

Отсюда при том, что основание натурального логарифма e = 2,7182 получим a = 19,88.

Ln b = (32 • 4118,55 - 1252 • 104,712) / 94437,76 = (131793,6 - 131099,424) / 94437,76 =

= 694,176 / 94437,76 = 0,00735.

Значит b = 1,007.

Таблица 22

Расчет вспомогательных величин для нахождения коэффициентов a и b

Полученное уравнение регрессии имеет вид

y = 19,88 • 1,007 ^x.

Произведем проверку значимости уравнения регрессии по F - критерию Фишера. При этом сравним общую дисперсию S_y² c остаточной S ²_ост .

F _ф = S _y² / S ²_ост .

Здесь S ²_ост = У(y_i - y_x)²/ (n - 2) = 21,865 / 30 = 0,729,

S _y² = ( Уy_i² - (( Уy_i)² / n )) / n - 1 = (22506,09 - 22381,99) / 31 = 4,00.

Тогда

F _ф = 4,00 / 0,729 = 5,487.

При уровне значимости б = 0,05 F _ф > F _st = 1,84. Следовательно, линейное уравнение показательной кривой адекватно описывает фактическое изменение высот от диаметров деревьев. При этом значение F _ф = 5,487 указывает на то, что уравнение показательной кривой всего лишь в 5,487 раза лучше описывает рассматриваемую взаимосвязь, чем среднее значение аргумента.

Статистическое заключение

По результатам регрессионного анализа можно сделать заключение о том, что уравнение показательной кривой, представленное результатами опыта y = 19,88 • 1,007 ^x (красный график), в 5,487 раза лучше описывает изменение зависимой переменной.

Окончательный выбор типа уравнения регрессии

На практике может сложиться ситуация, когда несколько уравнений адекватно предсказывают значения. В этом случае наиболее подходящим уравнением регрессии является то, которое характеризуется наибольшим фактическим значением F - критерия Фишера.

Взаимное сравнение уравнений регрессии приведено в таблице 23.

Таблица 23

Взаимное сравнение уравнений регрессии

Взаимное сравнение показывает, что наилучшие результаты дает уравнение регрессии, выражаемое уравнением гиперболы (F _ф = 18,596).

Расчет погрешностей и ошибок.

Рассчитаем погрешности и ошибки уравнений по следующим формулам:

абсолютная погрешность уравнения: д = +v(1/n) У(y_i - y_x)²,

Тогда д₁ = + v(1/32) • 10,59007 = + 0,5753; д ₂ = + v(1/32) • 6,4527 = + 0,4491;

д ₃ = + v(1/32) • 21,8653 = + 0,8266.

Относительная погрешность уравнения

Д = + v(1/n)У((y_i - y_x)/y_x)² 100,

Обозначим через Z _i1 = (y_i - y_x)₁ / y_x1 , Z _i2 = (y_i - y_x)₂ / y_x2 , Z _i3 = (y_i - y_x)₃ / y_x3

Таблица 24