Введення 
  Даний курсовий проект включає в себе інформацію про метод найменших квадратів і його різновидах. У роботі наведена інформація за класичному методу найменших квадратів, докладно описаний зважений МНК, дана коротка інформація про двокрокового і трехшаговий методах найменших квадратів. 
  При аналізі різних джерел інформації (дивись список літератури) перевага віддана роботам, що описує не просто математичний і статистичний базиси досліджуваних методів. У роботі зроблено акцент на можливість практичного використання різних статистико-математичних методик головним чином в області економічних і фінансових досліджень. 
    Парна лінійна регресія. Метод найменших квадратів  
 В  
 Рис.1 
   На малюнку зображено три ситуації: 
  • на графіку (а) взаємозв'язок х і у близька до лінійної; пряма лінія (1) тут близька до точок спостережень, і останні відхиляються від неї лише в результаті порівняно невеликих випадкових впливів; 
				
				
				
				
			  • на графіку (b) реальна взаємозв'язок величин х та у описується нелінійною функцією (2), і яку б ми не провели пряму лінію (Наприклад, 1), відхилення точок спостережень від неї будуть суттєвими і невипадковими; 
  • на графіку (с) явна взаємозв'язок між змінними х і у відсутня; яку б ми не вибрали формулу зв'язку, результати її параметризації будуть тут невдалими. Зокрема, прямі лінії 1 і 2, проведені через "Центр" "хмари" точок спостережень і мають протилежний нахил, однаково погані для того, щоб робити висновки про очікувані значеннях змінної у за значеннями змінної х. 
  Початковим пунктом економетричного аналізу залежностей зазвичай є оцінка лінійної залежності змінних. Якщо є деякий "Хмара" точок спостережень, через нього завжди можна спробувати провести таку пряму лінію, яка є найкращою в певному сенсі серед усіх прямих ліній, тобто "найближчій" до точок спостережень за їх сукупності. Для цього ми спочатку повинні визначити поняття близькості прямий до деякого безлічі точок на площині; заходи такій близькості можуть бути різними. Однак будь-яка розумна міра повинна бути, очевидно, пов'язана з відстанями від точок спостережень до розглянутої прямої лінії (що задається рівнянням у = а + b х). 
  Зазвичай в якості критерію близькості використовується мінімум суми квадратів різниць спостережень залежної змінної у і теоретичних, розрахованих за рівнянням регресії значень (а + bхi): 
   Q = Sei2 = S (yi-(a + bxi)) 2 В® min (1) 
   вважається, що у і х - відомі дані спостережень, а й b - невідомі параметри лінії регресії. Оскільки функція Q неперервна, опукла і обмежена знизу нулем, вона має мінімум. Для відповідних точці цього мінімуму значень а і b можуть бути знайдені прості і зручні формули (вони будуть наведені нижче). Метод оцінювання параметрів лінійної регресії, здатний мінімізувати суму квадратів відхилень спостережень залежної змінної від шуканої лінійно...