Метод главных компонент презентация

Предположим, что x – это вектор p случайных или детерминированных величин.
Дисперсия этих величин и структуры ковариации или корреляции между переменными представляют для нас интерес.
Если p мало или структура слишком проста, то зачастую бесполезно оценивать p дисперсий и все ½ p(p-1) корреляций и ковариаций.
Главные компоненты

Поиск нового фактора
комбинации элементов , имеющей максимальную дисперсию
Главные компоненты
Далее, ищется
исходных факторов, которая не коррелированна с z1 и имеет максимальную дисперсию, и так далее
линейная комбинация
Альтернативным вариантом является поиск таких комбинаций факторов, которые сохраняют большую часть информации/
— линейной

Далее, ищется
исходных факторов, которая не коррелированна с
Главные компоненты
Главный смысл выделения главных компонент заключается в том чтобы достаточно хорошо описать изменчивость x с помощью m главных компонент, где m<
— линейная комбинация
и имеет максимальную дисперсию, и т.д.

50 наблюдений переменных x1 и x2.
Главные компоненты

Комбинируя переменные, мы можем найти две комбинации имеющих разные дисперсии
Главные компоненты

50 наблюдений переменных z1 и z2.
Главные компоненты

Переменные x можно достаточно хорошо описать с помощью первой главной компоненты.
Главные компоненты
Если мы знаем значение переменной
то используя первое уравнение системы (1) получим
(1)

Прогнозирование по главным компонентам
Главные компоненты

Рассмотрим задачу поиска такой линейной комбинации
необходимо использовать метод множителей Лагранжа. Функция Лагранжа имеет вид
Чтобы максимизировать
, которая максимизирует.
с учетом
Главные компоненты
дисперсию равной

Необходимым условием экстремума функции Лагранжа является равенство нулю градиента
Величина, которая максимизируется, равна
Дифференцируем по
Главные компоненты

Вторая комбинация
с сохранением некоррелированности с
максимизирует
При этом
, т.е.
В связи с этим, любое из уравнений
может быть использовано для определения нулевой корреляции между 1 и 2 главными компонентами
,
,
Главные компоненты

Опять используем множители Лагранжа. При этом функция Лагранжа равна
приводит к
а умножение уравнения на
Дифференцирование по
дает
Главные компоненты

Таким образом
вновь становятся
и
приводят к тому, что
собственным значением и собственным вектором матрицы
Наши доказательства приведены для k=2, для k > 2 доказательство более сложное, но в целом выполняется по аналогичной схеме.
Главные компоненты

Расчет главных компонент
Ковариационная матрица определяется по формуле
Собственные векторы ковариационной матрицы определяются из уравнения

Формируется матрица собственных векторов, которым соответствуют наибольшие собственные значения
Расчет главных компонент

На основе собственных векторов вычисляются главные компоненты
Расчет главных компонент

Пусть рынок акций описывается набором признаков
Курс доллара (USD)
Курс евро (EURO)
Индекс РТС (RTC)
Цена на нефть Юралс (OIL)
Доходность ГКО-ОФЗ, % (GKO)
Межбанковская ставка, % (MB)
Анализ курса акций

Анализ курса акций
Ковариационная матрица

Анализ курса акций
Корреляционная матрица

Анализ курса акций

Первая главная компонента
Анализ курса акций

Реконструкция курса доллара США по двум ГК
Анализ курса акций

Пусть состояние динамической сис-темы описывается набором показателей
Модель динамической системы формируется из p ( p<< n) главных компонент.
Прогнозирование методом главных компонент

Таким образом, n показателей динамической системы зависят от p главных компонент.
Сценарное прогнозирование заключается в задание сценария в виде изменения p показателей динамической системы и вычисление по этим сценарным показателям значений главных компонент
Прогнозирование методом главных компонент

Жесткий алгоритм. В жестком алгоритме прогнозирование ведется по сценарию, который содержит число показателей равное числу главных компонент модели.
Прогнозирование методом главных компонент

Однако полученные главные компоненты не являются ортогональными ортогональности, т.е. ковариационная матрица главных компонент не является диагональной. Поэтому используется процедура ортогонализации.
Прогнозирование методом главных компонент

Мягкий алгоритм.
При использовании мягкого алгоритма число показателей в сценарии прогнозирования может быть не равно числу главных компонент модели.
Прогнозирование методом главных компонент

Шаг 1. Формируется учебная выборка, которая используется для вычисления матрицы весовых коэффициентов главных компонент и матрицы главных компонент .
Шаг 2. Главные компоненты тестовой выборки вычисляются по сценарным значениям показателей
Прогнозирование методом главных компонент

Шаг 3. Показатели динамической системы вычисляются по формуле
Прогнозирование методом главных компонент
Шаг 4. Главные компоненты уточняются по формуле

Ошибки прогноза
Оценка ошибок прогноза
Среднее абсолютное отклонение (Mean Absolute Derivation, MAD)

Среднеквадратическая ошибка (Mean Squared Error, MSE)
Оценка ошибок прогноза
Средняя абсолютная ошибка в процентах (Mean Absolute Percentage Error, МАРЕ)

Стандартная ошибка оценки
Оценка ошибок прогноза
Относительная среднеквадратическая ошибка

Рассматривается задача прогнозирование курсов валют. В качестве независимых переменных используются курс китайского юаня, курс доллара США, курс Евро, цена на нефть.
Прогнозирование курсов валют

Для построения модели используем обучающую выборку, которая включает первые 700 наблюдений.
Весовые коэффициенты главных компонент
Прогнозирование курсов валют

Модель на основе первых двух главных компонент.
Полученная модель является двух факторной, в связи с этим в качестве сценария будем использовать значения двух показателей цена на нефть и курс доллара
Ошибки прогноза (жесткий алгоритм)
Прогнозирование курсов валют

Прогноз курса юаня (жесткий алгоритм)
Прогнозирование курсов валют

Прогноз курса евро(жесткий алгоритм)
Прогнозирование курсов валют

Ошибки прогноза (мягкий алгоритм)
Прогнозирование курсов валют

Прогноз курса юаня (мягкий алгоритм)
Прогнозирование курсов валют