Жемчужина матрицы: глубокое погружение в собственные значения и собственные векторы
Интуитивно понятный взгляд на абстрактное понятие
Собственные значения и собственные векторы могут показаться абстрактными и далекими понятиями, но они играют неотъемлемую роль в окружающем вас мире. Поскольку все определяется данными, они сохраняются в матрицах. В центре матрицы - несмотря на сложности и сложности - лежат собственные векторы и собственные значения, что обеспечивает ясность и раскрывает природу матрицы. Понимание того, что они из себя представляют, как их получить и их приложения, является неотъемлемой частью понимания красоты матрицы и, в более широком смысле, роли данных и математики в мире.
Рассмотрим сначала двумерный вектор, состоящий из двух элементов, каждый из которых соответствует одной координате на двумерной плоскости. Они представляют собой перемещения от одной координаты к другой.
Когда вектор умножается на матрицу, применяется линейное преобразование. Это приводит к растяжению (или сжатию) системы координат по двум векторам. Например, матрица [[3, 1], [1, 2]] выравнивает ось x вдоль вектора [3, 1] (первый столбец) и ось y вдоль вектора [1, 2]. Визуально можно сказать, что точка (0, 1) фактически отображается в (1, 2), и это можно подтвердить, умножив ее на матрицу.
Допустим, у нас есть вектор [-1, -1]. После умножения на матрицу линейного преобразования он попадает в точку [-4, -3].
Размах вектора - это линия, которая бесконечно проходит через вектор. Когда вектор подвергается линейному преобразованию (умножается на матрицу), обычно он выбивается из своего диапазона.
Однако некоторые типы векторов не выходят за пределы своего диапазона. Это собственные векторы матрицы. Вместо этого, когда собственные векторы умножаются на матрицу, собственный вектор просто масштабируется на коэффициент, равный собственному значению, и попадает в другое место в пределах их диапазона.
Из-за природы собственного вектора простое масштабирование базового собственного вектора в том же или прямо противоположном направлении даст еще один собственный вектор.
В трех измерениях матрица описывает преобразование трех осей - x, y и z - соответствующих трем координатам, которые представляют преобразование. каждая координата претерпевает. Вот почему собственные векторы и собственные значения определены только для квадратных матриц; общая матрица n на n описывает преобразование n осей, каждая из которых соответствует координате с n элементами.
Чтобы найти собственный вектор матрицы, нам сначала нужно найти его собственное значение. Из определения собственного значения мы можем построить равенство Ax = λ x, где A представляет матрицу, а λ представляет собственное значение. Это имеет смысл; умножение собственного вектора на матрицу преобразования x должно иметь тот же эффект, что и масштабирование его на собственное значение λ.
Из этого отношения мы можем переместить оба термина в левую часть. Чтобы выражение A - λ было действительным (A - это матрица, а λ - число), мы умножаем λ на единичную матрицу, которая вообще не применяет преобразование. .
Как видно выше, существует бесконечное количество тривиальных решений или решений, которые могут быть достигнуты простым масштабированием собственного вектора на любое число. Чтобы избавиться от тривиальных решений, воспользуемся определителем.
Определитель - это просто мера фактора, в котором область растягивается матрицей преобразования. Рассмотрим, например, один стандартный квадрат на координатной плоскости с площадью в одну квадратную единицу.
Когда пространство растягивается матрицей преобразования, новая площадь составляет четыре квадратных единицы. Поскольку площадь увеличилась в четыре раза, определитель матрицы равен четырем.
Когда определитель равен 0, площадь квадрата уменьшается до нуля, что означает, что два вектора, описывающие положения осей, находятся на одной линии. В этом случае все пространство превращается в одну линию (одномерную). Установив требование, в котором определитель должен быть равен нулю, пространство избыточных или тривиальных решений может быть отброшено, что делает уравнение гораздо более разрешимым.
Следовательно, чтобы ранее разработанное равенство было (легко) разрешимо, сначала должно быть истинным то, что определитель матрицы должен быть равен нулю.
В таком случае поиск собственного значения представляет собой задачу решения квадратичной функции. Для матриц размерности 3+ необходимо использовать другую форму формулы определителя.
В этом случае собственные значения матрицы [[1, 4], [3, 2]] равны 5 и -2. Это означает, что когда собственные векторы матрицы умножаются на матрицу, длина их вектора будет увеличена в 5 и -2 раза, соответственно каждому из собственных векторов. Подставляя обнаруженные собственные значения в наше первоначально выведенное уравнение, мы можем найти собственные векторы.
Собственные векторы и собственные значения действительно являются жемчужиной матрицы. Он воплощает дух и природу матрицы - eigen по-немецки означает «врожденный». Учитывая только собственные векторы и собственные значения любой матрицы, можно легко полностью восстановить исходную матрицу. Благодаря этому особому свойству собственные векторы почти полностью гарантированно появляются везде, где есть матричная операция.
Рассмотрим, например, анализ главных компонентов (PCA), распространенный метод неконтролируемого машинного обучения, который направлен на уменьшение размерности данных при сохранении ключевых статистических показателей, таких как дисперсия и среднее значение. Например, рассмотрим 100-размерный набор данных, который PCA попытается уменьшить до двух измерений. Во-первых, алгоритм строит ковариационную матрицу, которая оценивает (в некотором смысле), насколько коррелированы две переменные. Матрица в целом определяет форму данных.
Собственные векторы ковариационной матрицы используются для переориентации данных между осями x и y вдоль линий с наибольшей дисперсией. По сути, собственные векторы используются в качестве снимка матрицы, которая сообщает алгоритму, какие области усилить, а какие - заглушить. Бесчисленные другие приложения собственных векторов и собственных значений, от машинного обучения до топологии, используют ключевую особенность, заключающуюся в том, что собственные векторы предоставляют так много полезной информации о матрице, которая применяется везде, от поиска линии вращения в четырехмерном кубе до сжатия изображений большой размерности и Алгоритм поискового рейтинга Google.
Возможно, причина того, что собственные векторы и собственные значения настолько особенные, заключается в их определении - векторах, направление которых остается неизменным, в то время как пространство вокруг них искажено, навсегда указывая сквозь сложность на истинную красоту матрицы.
Если вам понравилось, вам также может понравиться введение в исчисление, область математики, которая так же важна и увлекательна, как линейная алгебра:
