Для оцінки вектора ? найбільш часто використовують метод найменших квадратів (МНК), згідно з яким в якості оцінки приймають вектор b, який мінімізує суму квадратів відхилення спостережуваних значень y i від модельних значень?, тобто квадратичну форму:
В
Диференціюючи, з урахуванням квадратичну форму Q за вектором?:
В В
і прирівнюючи похідні нулю, отримаємо оцінку методу найменших квадратів:
Отримуємо вектор оцінок b, де b = (b0 b1 ... bk) T. p> Оцінка ковариационной матриці коефіцієнтів регресії вектора b визначається з виразу:
,
де
51-52. Точкові та інтервальні оцінки парних, приватних і множинних коефіцієнтів кореляції, перевірка їх значимості
Парний коефіцієнт кореляції характеризує міру статистичної залежності між величинами.
- парний коефіцієнт кореляції,
Приватний коефіцієнт кореляції характеризує лінійну зв'язок між двома змінними випадковими величинами незалежно від впливу інших випадкових змінних. p> Точкові оцінки:
;;
;
інтервальні оцінки:
для парних коефіцієнтів використовують статистику Фішера
, надійність, довірчий інтервал:
,
- знаходиться за таблицею Лапласа для
Множинний коефіцієнт кореляції характеризує міру зв'язку між однією випадковою величиною і іншими. Множинний коефіцієнт детермінації (квадрат коеф-та кор-ції) показує частку дисперсії випадкової величини х, обумовлену зміною інших випадкових величин. p> Точкові оцінки:
;;;;;;
перевірка значущості:
,
для множинного R v = np.
перевірка значущості множинного коефіцієнта детермінації (а також і множинного коефіцієнта кореляції) здійснюється за допомогою F-розподілу. Обчислюється:
В
далі з заданим рівнем значущості? і числами ступенів свободи? 1 = p-1, і? 2 = np знаходимо Fтабл. Якщо Fnabl> Fтабл, то гіпотеза H0:? 2 = 0 відхиляється з імовірністю помилки?, Тобто? 2 значимо відрізняється від нуля. br/>
53. Факторний і компонентний аналіз як методи зниження розмірності
Компонентний і факторний аналізи проводяться з кількома цілями. Як методи зниження розмірності вони дозволяють виявити закономірності, які безпосередньо не спостерігаються. Це завдання вирішується по матриці навантажень, як і класифікація ознак в просторі головних компонент (або загальних факторів). А індивідуальні значення використовуються для класифікації об'єктів (не за вихідним ознаками, а за головним компонентам або загальних факторів) і для побудови рівняння регресії на ці узагальнені показники. Інтерпретуються головні компоненти і загальні фактори, яким відповідають дисперсії більше 1, і які мають хоча б одну вагому навантаження. Вибір критичної величини, при перевищенні якої елемент матриці навантажень визнається ваговим і робить вплив на інтерпретацію головної компоненти або загального фактора, визначається за змістом розв'язуваної задачі і може варіювати в межах від 0,5 до 0,9 залежно від отримуваних проміжних результатів. Формальні результати повинні добре інтерпретуватися. p align="justify"> Факторний аналіз - більш потужний і складний апарат, ніж метод головних компонент, тому він застосовується в тому випадку, якщо результати компонентного аналізу не цілком влаштовують. Але оскільки ці два методи вирішують однакові завдання, необхідно порівняти результати компонентного і факторного аналізів, тобто матриці навантажень, а також рівняння регресії на головні компоненти й загальні фактори, прокоментувати подібність і відмінності результатів.
Компонентний аналіз призначений для перетворення системи k вихідних ознак, в систему k нових показників (головних компонент). Головні компоненти не коррелірованни між собою і впорядковані за величиною їх дисперсій, причому, перша головна компонента, має найбільшу дисперсію, а остання, k-я, найменшу. При цьому виявляються неявні, безпосередньо не вимірювані, але об'єктивно існуючі закономірності, зумовлені дією як внутрішніх, так і зовнішніх причин. p align="justify"> Компонентний аналіз є одним з основних методів факторного аналізу. У завданнях зниження розмірності і класифікації зазвичай використовуються m перших компонент (m Модель компонентного аналізу має вигляд:
(1),
Де a i? - вага , факторна навантаження, ? - <...
