Что большинство моделей машинного обучения хотят максимизировать или минимизировать
Пределы, база производных
Как большинство функций машинного обучения находят свое оптимальное значение
Мы уже знаем, что такое функция, но чтобы узнать, что происходит, когда мы приближаемся к одному из значений, при котором функция не имеет домена или какого-либо другого значения, вот пределы.
Имея пределы, мы сможем анализировать непрерывность функции, а следовательно, и ее выводимость.
Функция, стремящаяся к пределу
Функция f приближается к пределу l около a, если мы можем сделать f (x) так близко, как мы подобно l, требуя, чтобы x был достаточно близок к a, но не равнялся ему.
Лучший способ понять это определение - это построить несколько примеров:
Пределы, которые мы хотим проверить, находятся на значениях, отмеченных серыми пунктирными линиями.
- На первом графике мы построили y = x, в этом случае функция стремится к y = 1,5. когда мы приближаемся к x = 1,5.
- Во втором мы построили y = x², в данном случае функция стремится к y = 1,5² при приближении к x = 1,5.
- В третьем случае мы определили функцию для изменения при x = 1,5, при этом значении y стремится к 1,5² и 1,5 одновременно, поэтому левый и правый пределы не совпадают.
Пределы
Хорошо, мы можем сказать, что функция стремится к значению в какой-то момент, но нам нужно более строгое определение, чтобы иметь возможность получать полезные результаты, например, ¿какое расстояние мы должны проверить ?.
Определение
Функция f приближается к пределу l рядом с a означает: для каждого ε ›0 существует некоторое δ ›0 такое, что для всех x, если 0‹ | x- a | ‹Δ, тогда | f (x) - l | ‹Ε.
Математическое обозначение предела следующее:
В нем говорится, что предел f (x) при x приближается к a - l.
Мы можем выразить сторону предела, используя это обозначение, в случае + мы проверяем подход справа (большие значения, чем a). В случае - проверяем подход слева (значения ниже, чем a).
Нам нужно будет ввести некоторые леммы, но не торопитесь, в последнее время мы разработаем несколько примеров, чтобы вы могли увидеть это в действии!
Некоторые леммы и теоремы
- Функция не может иметь двух разных ограничений для одного и того же a,, если l приближается к l в a и f приближается к м в a, затем m = l.
- Если x близко к x0, а y близко к y0, тогда x + y будет близко к x0 + y0.
- Если x близко к x0, а y близко к y0, xy будет близко к x0y0
- Если x близко к x0, а y близко к y0, 1 / y будет близко к 1 / y0 .
- Если lim f (x) = l и Iim g (x) = m, то lim (f + g) (x) = l + m.
- Если lim f (x) = l и Iim g (x) = m, то lim (f · g) (x) = l · m.
- Если lim f (x) = l и Iim g (x) = m, то lim (1 / g) (x) = l / m.
Пример
Мы оценим следующую функцию:
Мы хотим проанализировать ограничение на значении 3, для этого мы проверим f (3). и боковые ограничения.
Как видите, эта функция не имеет решения для x = 3, давайте проверим ее пределы, чтобы вычислить боковые пределы, которые мы использовали для 0,01.
По мере уменьшения значения дельты левый и правый пределы стремятся к бесконечности, но с противоположным знаком, поэтому у нас есть 2 разных предела для значения, которое не имеет решения. У этого случая есть некоторые особые свойства, которые будут объяснены в следующих публикациях.
Резюме
Это второй пост из серии «Исчисление», в котором мы рассказали, что такое пределы и некоторые их свойства. Пределы позволят нам определять производные и интегралы. Методы, используемые для оптимизации функций для поиска минимальной ошибки, и здесь задействованы вычисления.
Это двадцать второй пост моего конкретного # 100daysofML, я буду публиковать достижения в этой задаче на GitHub, Twitter и Medium (Adrià Serra).
