Содержание
- 2. ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Начнем с численного примера, имеющего всего три наблюдениями: (1,3), (2,5) и (3,6).
- 3. Y b2 b1 X Написав установленную регрессию как Y = b1 + b2X, мы определим значения
- 4. Y b2 b1 X 4 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Истинная модель Расчетная модель Учитывая наш выбор
- 5. Таким образом, показана сумма квадратов остатков. 5 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 6. Раскрыты скобки. 6 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 7. Суммированы подобные члены. 7 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 8. Как минимум, частные производные RSS по отношению к b1 и b2 должны быть равны нулю. (Мы
- 9. Условия первого порядка дают нам два уравнения с двумя неизвестными. 9 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 10. Решая их, мы находим, что RSS минимально, когда b1 и b2 равны 1.67 and 1.50 соответственно.
- 11. Это диаграмма дисперсии (рассеяния). 11 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Y b2 b1 X Истинная модель Расчетная
- 12. 12 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Y b2 b1 X Истинная модель Расчетная модель Показаны расчетная линия
- 13. 13 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Прежде чем перейти к общему случаю, нужно сделать небольшое, но важное
- 14. 14 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Когда мы устанавливаем выражение для RSS, мы делаем это как функцию
- 15. 15 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Мы должны дать этим значениям собственные названия, чтобы отличать их от
- 16. 16 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Обозначим значения, которые минимизируют RSS, следующим образом: b1OLS and b2OLS.
- 17. 17 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Теперь мы перейдем к общему случаю с n наблюдениями. X Xn
- 18. X Xn X1 Y 18 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Истинная модель Расчетная модель b2 b1 Учитывая
- 19. X Xn X1 Y 19 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ b2 b1 Получен остаток для первого наблюдения.
- 20. Аналогично мы определяем остатки для остальных наблюдений. X Xn X1 Y 20 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 21. 21 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ RSS, сумма квадратов остатков, определена для общего случая. Для сравнения приведены
- 22. 22 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Раскрываем скобки, возведя соответствующие выражения в квадрат.
- 23. Приводим подобные члены. 23 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 24. 24 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ В этом уравнении наблюдения по X и Y являются просто данными,
- 25. 25 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Переменными в уравнении для RSS являются b1 и b2. Обычно b1
- 26. 26 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Если есть сомнения, то можно сравнить общий случай с нашим конкретным
- 27. 27 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Первая производная по b1. }
- 28. 28 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Получаем окончательное выражение для b1 . }
- 29. Первая производная по b2. 29 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ }
- 30. Разделим на 2. 30 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 31. Теперь заменим b1 на выражение, полученное для него, и получим уравнение для b2. 31 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ
- 32. 32 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Используем определение среднего значения выборки.
- 33. 33 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Раскрыты скобки в третьем слагаемом.
- 34. 34 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ В правой части остались слагаемые, не зависимые от b2 .
- 35. Запишем наш результат в новый слайд. 35 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 36. Получаем выражение для b2. 36 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 37. На практике мы будем использовать альтернативное выражение. Мы продемонстрируем, что они эквивалентны. 37 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ
- 38. Раскрываем скобки в числителе. 38 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 39. Упрощаем числитель далее. 39 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 40. Упрощаем далее. 40 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 41. Мы показали, что числители двух выражений одинаковы. 41 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 42. Знаменатели являются эквивалентными выражениями. 42 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ
- 43. Подведем итог тому, что мы сделали. 43 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ X Xn X1 Y b2
- 44. 44 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ X Xn X1 Y Истинная модель Расчетная модель b2 b1 Мы
- 45. 45 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ X Xn X1 Y b2 b1 Обозначаем найденные параметры расчетной модели,
- 46. 46 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ X Xn X1 Y b2 b1 В дальнейшем мы будем, как
- 47. 47 В случае простой регрессионной модели истинная и расчетная модели записываются без свободного члена. ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ
- 48. 48 Мы выведем выражение для b2, используя критерий наименьших квадратов. Остаток в наблюдении i равен ei
- 49. 49 Здесь мы получаем выражение для суммы квадратов остатков. ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Истинная модель Расчетная
- 50. Продифференцируем по b2. 50 ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Истинная модель Расчетная модель
- 51. 51 Следовательно, мы получаем оценку OLS для b2 для этой модели. ВЫЧИСЛЕНИЕ ЛИНЕЙНЫХ КОЭФФИЦИЕНТОВ РЕГРЕССИИ Истинная
- 53. Скачать презентацию