Автор: Рави Патель (BTech Integrated, MPSTME, NMIMS)
Под руководством Сима Шаха
Введение:
Нейронные сети — это подмножество машинного обучения, с помощью которого можно реализовать глубокое обучение. По сути, это архитектура глубокого обучения, с помощью которой можно использовать компьютерное зрение, распознавание речи, распознавание звука, биоинформатику и т. д. Глубокое обучение — это функция искусственного интеллекта, которая имитирует работу человеческого мозга при обработке данных и создании шаблонов для использовать при принятии решений. Нейронная сеть представляет собой серию алгоритмов, которые пытаются распознать основные отношения в наборе данных с помощью процесса, имитирующего работу человеческого мозга.
Типы нейронных сетей, используемых в настоящее время:
Идея искусственной нейронной сети основана на философии «коннекционизма», возникшей в 1940-х годах, и теоретизирует, как большое количество взаимодействующих неврологических единиц может влиять на общее поведение и познание. Ниже приведены некоторые из используемых нейронных сетей:
1. Нейтральная сеть с прямой связью — искусственный нейрон
Эта нейронная сеть является одной из самых простых форм ИНС, в которой данные или входные данные перемещаются в одном направлении. Данные проходят через входные узлы и выходят на выходных узлах. Эта нейронная сеть может иметь или не иметь скрытые слои. Проще говоря, он имеет переднюю распространяющуюся волну и не имеет обратного распространения, обычно используя классифицирующую функцию активации.
Ниже показана однослойная сеть прямой связи. Здесь сумма произведений входов и весов вычисляется и подается на выход. Выход считается, если он выше определенного значения, то есть порога (обычно 0), и нейрон срабатывает с активированным выходом (обычно 1), а если он не срабатывает, выдается деактивированное значение (обычно -1)
2. Радиальная базисная функция нейронных сетей:
Радиальные базовые функции учитывают расстояние точки относительно центра. Функции RBF имеют два уровня: сначала функции объединяются с функцией радиального базиса во внутреннем слое, а затем выходные данные этих функций учитываются при вычислении того же вывода на следующем временном шаге, который в основном представляет собой память.
Эта нейронная сеть была применена в системах восстановления энергии. Энергетические системы увеличились в размерах и сложности. Оба фактора повышают риск крупных отключений электроэнергии. После отключения электроэнергии необходимо восстановить его как можно быстрее и надёжнее.
3. Самоорганизующиеся нейронные сети Кохонена:
Целью карты Кохонена является ввод векторов произвольной размерности в дискретную карту, состоящую из нейронов. Карта должна быть обучена для создания собственной организации обучающих данных. Он состоит из одного или двух измерений. При обучении карты расположение нейрона остается постоянным, но веса различаются в зависимости от значения. Этот процесс самоорганизации состоит из разных частей, на первом этапе каждое значение нейрона инициализируется небольшим весом и входным вектором. На втором этапе нейрон, ближайший к точке, является «нейроном-победителем», и нейроны, связанные с нейроном-победителем, также будут двигаться к точке, как показано на рисунке ниже.
4. Рекуррентные нейронные сети:
Рекуррентная нейронная сеть работает по принципу сохранения вывода слоя и передачи его обратно на вход, чтобы помочь в прогнозировании результата слоя.
Здесь первый слой формируется аналогично нейронной сети с прямой связью с произведением суммы весов и признаков. Рекуррентный процесс нейронной сети начинается после того, как это вычислено, это означает, что от одного временного шага к следующему каждый нейрон будет помнить некоторую информацию, которую он имел на предыдущем временном шаге. Это заставляет каждый нейрон действовать как ячейка памяти при выполнении вычислений. В этом процессе нам нужно позволить нейронной сети работать с фронтальным распространением и запомнить, какая информация ей нужна для последующего использования. Если прогноз неправильный, скорость обучения или исправления ошибок будет использоваться для правильного прогнозирования во время обратного распространения.
5. Сверточная нейронная сеть:
Сверточные нейронные сети похожи на нейронные сети с прямой связью, где нейроны имеют обучаемые веса и смещения. Его применение было в обработке сигналов и изображений, которая берет на себя OpenCV в области компьютерного зрения. Это поможет сети запоминать изображения по частям и выполнять операции. Эти вычисления включают преобразование изображения из шкалы RGB или HSI в шкалу серого.
6. Модульные нейронные сети:
Модульные нейронные сети имеют набор различных сетей, работающих независимо и вносящих свой вклад в результат. Каждая нейронная сеть имеет набор входных данных, которые уникальны по сравнению с другими сетями, создающими и выполняющими подзадачи. Преимущество модульной нейронной сети заключается в том, что она разбивает большой вычислительный процесс на более мелкие компоненты, что снижает сложность.
Что нас ждет в будущем?
- Интеграция. Недостатки нейронных сетей можно было бы легко компенсировать, если бы мы могли интегрировать их с дополнительной технологией, такой как символьные функции. Труднее всего будет найти способ заставить эти системы работать вместе для получения общего результата — и инженеры уже работают над этим.
- Абсолютная сложность. Все можно масштабировать с точки зрения мощности и сложности. Благодаря технологическим достижениям мы можем сделать процессоры и графические процессоры дешевле и/или быстрее, что позволит создавать более крупные и эффективные алгоритмы. Мы также можем разработать нейронные сети, способные обрабатывать больше данных или обрабатывать данные быстрее.
- Новые приложения. Вместо того, чтобы продвигаться вертикально, с точки зрения более быстрой вычислительной мощности и большей сложности, нейронные сети могут (и, вероятно, будут) также расширяться горизонтально, применяясь к более разнообразным приложениям. Сотни отраслей могли бы реально использовать нейронные сети для более эффективной работы, нацеливания на новую аудиторию, разработки новых продуктов или повышения безопасности потребителей, но они недостаточно используются в преступных целях.
- Устаревание. Оптимисты-технари с удовольствием провозглашают славное будущее нейронных сетей, но, возможно, они больше не будут доминирующей формой ИИ или решения сложных задач. Через несколько лет жесткие ограничения и ключевые недостатки нейронных сетей могут помешать их реализации. Вместо этого разработчики и потребители могут тяготеть к какому-то новому подходу — при условии, что он станет достаточно доступным и с достаточным потенциалом, чтобы стать достойным преемником.
Цитаты:
https://readwrite.com/2019/01/25/все, что вам нужно знать о будущем нейронных сетей/
Обзор нейронных сетей
Автор: Рави Патель (BTech Integrated, MPSTME, NMIMS)
Под руководством Сима Шаха
Введение:
Нейронные сети — это подмножество машинного обучения, с помощью которого можно реализовать глубокое обучение. По сути, это архитектура глубокого обучения, с помощью которой можно использовать компьютерное зрение, распознавание речи, распознавание звука, биоинформатику и т. д. Глубокое обучение — это функция искусственного интеллекта, которая имитирует работу человеческого мозга при обработке данных и создании шаблонов для использовать при принятии решений. Нейронная сеть представляет собой серию алгоритмов, которые пытаются распознать основные отношения в наборе данных с помощью процесса, имитирующего работу человеческого мозга.
Типы нейронных сетей, используемых в настоящее время:
Идея искусственной нейронной сети основана на философии «коннекционизма», возникшей в 1940-х годах, и теоретизирует, как большое количество взаимодействующих неврологических единиц может влиять на общее поведение и познание. Ниже приведены некоторые из используемых нейронных сетей:
1. Нейтральная сеть с прямой связью — искусственный нейрон
Эта нейронная сеть является одной из самых простых форм ИНС, в которой данные или входные данные перемещаются в одном направлении. Данные проходят через входные узлы и выходят на выходных узлах. Эта нейронная сеть может иметь или не иметь скрытые слои. Проще говоря, он имеет переднюю распространяющуюся волну и не имеет обратного распространения, обычно используя классифицирующую функцию активации.
Ниже показана однослойная сеть прямой связи. Здесь сумма произведений входов и весов вычисляется и подается на выход. Выход считается, если он выше определенного значения, то есть порога (обычно 0), и нейрон срабатывает с активированным выходом (обычно 1), а если он не срабатывает, выдается деактивированное значение (обычно -1)
2. Радиальная базисная функция нейронных сетей:
Радиальные базовые функции учитывают расстояние точки относительно центра. Функции RBF имеют два уровня: сначала функции объединяются с функцией радиального базиса во внутреннем слое, а затем выходные данные этих функций учитываются при вычислении того же вывода на следующем временном шаге, который в основном представляет собой память.
Эта нейронная сеть была применена в системах восстановления энергии. Энергетические системы увеличились в размерах и сложности. Оба фактора повышают риск крупных отключений электроэнергии. После отключения электроэнергии необходимо восстановить его как можно быстрее и надёжнее.
3. Самоорганизующиеся нейронные сети Кохонена:
Целью карты Кохонена является ввод векторов произвольной размерности в дискретную карту, состоящую из нейронов. Карта должна быть обучена для создания собственной организации обучающих данных. Он состоит из одного или двух измерений. При обучении карты расположение нейрона остается постоянным, но веса различаются в зависимости от значения. Этот процесс самоорганизации состоит из разных частей, на первом этапе каждое значение нейрона инициализируется небольшим весом и входным вектором. На втором этапе нейрон, ближайший к точке, является «нейроном-победителем», и нейроны, связанные с нейроном-победителем, также будут двигаться к точке, как показано на рисунке ниже.
4. Рекуррентные нейронные сети:
Рекуррентная нейронная сеть работает по принципу сохранения вывода слоя и передачи его обратно на вход, чтобы помочь в прогнозировании результата слоя.
Здесь первый слой формируется аналогично нейронной сети с прямой связью с произведением суммы весов и признаков. Рекуррентный процесс нейронной сети начинается после того, как это вычислено, это означает, что от одного временного шага к следующему каждый нейрон будет помнить некоторую информацию, которую он имел на предыдущем временном шаге. Это заставляет каждый нейрон действовать как ячейка памяти при выполнении вычислений. В этом процессе нам нужно позволить нейронной сети работать с фронтальным распространением и запомнить, какая информация ей нужна для последующего использования. Если прогноз неправильный, скорость обучения или исправления ошибок будет использоваться для правильного прогнозирования во время обратного распространения.
5. Сверточная нейронная сеть:
Сверточные нейронные сети похожи на нейронные сети с прямой связью, где нейроны имеют обучаемые веса и смещения. Его применение было в обработке сигналов и изображений, которая берет на себя OpenCV в области компьютерного зрения. Это поможет сети запоминать изображения по частям и выполнять операции. Эти вычисления включают преобразование изображения из шкалы RGB или HSI в шкалу серого.
6. Модульные нейронные сети:
Модульные нейронные сети имеют набор различных сетей, работающих независимо и вносящих свой вклад в результат. Каждая нейронная сеть имеет набор входных данных, которые уникальны по сравнению с другими сетями, создающими и выполняющими подзадачи. Преимущество модульной нейронной сети заключается в том, что она разбивает большой вычислительный процесс на более мелкие компоненты, что снижает сложность.
Что нас ждет в будущем?
- Интеграция. Недостатки нейронных сетей можно было бы легко компенсировать, если бы мы могли интегрировать их с дополнительной технологией, такой как символьные функции. Труднее всего будет найти способ заставить эти системы работать вместе для получения общего результата — и инженеры уже работают над этим.
- Абсолютная сложность. Все можно масштабировать с точки зрения мощности и сложности. Благодаря технологическим достижениям мы можем сделать процессоры и графические процессоры дешевле и/или быстрее, что позволит создавать более крупные и эффективные алгоритмы. Мы также можем разработать нейронные сети, способные обрабатывать больше данных или обрабатывать данные быстрее.
- Новые приложения. Вместо того, чтобы продвигаться вертикально, с точки зрения более быстрой вычислительной мощности и большей сложности, нейронные сети могут (и, вероятно, будут) также расширяться горизонтально, применяясь к более разнообразным приложениям. Сотни отраслей могли бы реально использовать нейронные сети для более эффективной работы, нацеливания на новую аудиторию, разработки новых продуктов или повышения безопасности потребителей, но они недостаточно используются в преступных целях.
- Устаревание. Оптимисты-технари с удовольствием провозглашают славное будущее нейронных сетей, но, возможно, они больше не будут доминирующей формой ИИ или решения сложных задач. Через несколько лет жесткие ограничения и ключевые недостатки нейронных сетей могут помешать их реализации. Вместо этого разработчики и потребители могут тяготеть к какому-то новому подходу — при условии, что он станет достаточно доступным и с достаточным потенциалом, чтобы стать достойным преемником.
Цитаты:
https://readwrite.com/2019/01/25/все, что вам нужно знать о будущем нейронных сетей/
