Концепции линейной алгебры играют очень важную роль для понимания теории машинного обучения. Это помогает понять интуицию, стоящую за функциональностью алгоритма в фоновом режиме. Так что для новичка изучение линейной алгебры должно стать первым шагом к тому, чтобы стать профессионалом в этой области. В этом посте вы кратко познакомитесь с наиболее важными концепциями, которые используются в машинном обучении.

Оглавление:

1. Введение

2. Объекты линейной алгебры.

3. Пример использования: уменьшение размерности, визуализация многомерных данных.

4. Резюме

5. Ресурсы

Введение

Линейная алгебра — очень фундаментальная область в математике, естественных науках и технике. Линейная алгебра — это форма непрерывной, а не дискретной математики. Линейная алгебра помогает нам понять свойства многомерной геометрии, если мы знаем свойства маломерной геометрии. Хорошее понимание линейной алгебры необходимо для понимания и работы со многими алгоритмами машинного обучения, особенно с алгоритмами глубокого обучения. Вам не нужно изучать линейную алгебру, прежде чем приступить к машинному обучению, но в какой-то момент на этапе обучения вы можете лучше понять, как алгоритмы работают внутри.

Это поможет вам понять функциональность алгоритма, а также поможет вам принять более правильное решение на этапе разработки вашей системы машинного обучения. В линейной алгебре данные представлены линейными уравнениями в виде матриц и векторов. Многие из вас могут быть знакомы с матрицами и векторами, если вы закончили среднюю школу. Если нет, я объясню все эти объекты в этом посте.

Объекты линейной алгебры

Скаляр

Скаляр — это просто одно число. Это самый маленький объект в линейной алгебре. Например, 11.

Вектор

Вектор — это массив чисел. Интуитивно простой массив, который мы создаем на языке программирования C++ или Java. Вектор с точки зрения машинного обучения может быть строкой или вектором-столбцом.

Матрица

Матрица представляет собой упорядоченный двумерный массив. Имеет два индекса. Первый индекс указывает на строку, а второй на столбец. Опять же, это можно понимать как двумерный массив, который мы создаем на таких языках программирования, как C++ или Java.

Тензор

Тензор — это многомерный массив чисел. Вы можете думать об этом как о массиве чисел, расположенных на сетке. Тензор является наиболее часто используемым объектом в машинном и глубоком обучении. В зависимости от размерности тензора, если он имеет m строк и n столбцов, то он матричный, а если он имеет одно измерение, то вектор.

Случаи использования:

1. Уменьшение размерности

В машинном обучении мы рассматриваем столбец набора данных как измерение. Предположим, вам дан набор данных, который содержит тысячи строк и сотни столбцов или переменных функций, и вас просят обучить на нем модель машинного обучения. Тогда очень сложно обучить модель на таком огромном многомерном наборе данных, потому что модель будет страдать от проклятия размерности. Проблема возрастает, если мы увеличиваемся с увеличением количества столбцов в наборе данных. Решение в таком случае состоит в том, чтобы выбрать только несколько релевантных переменных признаков. Итак, нам нужно придумать план по уменьшению размерности данных до небольшого измерения. Это известно как уменьшение размерности. Уменьшение размерности также используется при сжатии данных.

Линейная алгебра играет решающую роль в уменьшении размерности данных. Анализ основных компонентов — это широко используемый алгоритм уменьшения размерности, который использует «разложение по собственным числам» матрицы. Анализ главных компонентов можно провести, используя только знания базовой линейной алгебры.

2. Визуализация многомерных данных

Линейная алгебра используется для создания алгоритма, который может уменьшить размерность данных. Используя силу уменьшения размерности, мы можем визуализировать многомерные данные и понять их тенденции. Если у нас есть переменная признака более высокой размерности, то с помощью анализа основных компонентов мы можем уменьшить размерность переменной до 2D или 3D. Затем мы можем построить эту переменную функции уменьшенного измерения и собрать информацию о свойствах данных более высокого измерения.

Сводка

В этом посте вы узнали, что такое линейная алгебра, основные объекты линейной алгебры, используемые в машинном обучении, и варианты использования линейной алгебры при создании алгоритмов машинного обучения. Этот пост дал вам правильное представление о важности линейной алгебры в машинном и глубоком обучении.