Пограничный ИИ означает выполнение алгоритмов ИИ локально в источнике на аппаратном устройстве (пограничном устройстве). Это облегчает принятие решений в режиме реального времени, устраняя необходимость в постоянном сетевом подключении и уменьшая задержку.
Сегодня большинство моделей ИИ являются облачными. Облако сделало ИИ более доступным, обеспечив поддержку инфраструктуры, лучшую масштабируемость и доступ к различным сервисам. Эти модели требуют большого объема вычислений, и их реализация на устройстве с ограниченными ресурсами является сложной задачей.
Итак, зачем нам вообще нужно доводить эти модели до предела?
Рассмотрим автомобиль, оснащенный многочисленными датчиками. Он будет собирать огромные объемы данных, которые будут отправлены в облако, где находится модель ИИ, данные там будут проанализированы, а информация отправлена обратно в автомобиль для принятия соответствующих мер. Но в этой ситуации, когда автомобиль постоянно движется и взаимодействует с окружающей средой, он не может позволить себе роскошь времени. Он должен будет принимать решения менее чем за секунды и не может позволить себе задержки.
Принятие решений в режиме реального времени — это лишь одна из причин, по которой необходим периферийный ИИ. Есть много других причин, побуждающих к применению искусственного интеллекта, которые были рассмотрены в нашей предыдущей статье. Прочтите статью в блоге Факторы, влияющие на ИИ в Edge, ведущие к смене парадигмы, чтобы узнать больше.
Edge AI уже используется во многих отраслях. Применение Edge AI будет различаться в зависимости от отрасли и варианта использования, для которого он развертывается. Немногие из отраслей, использующих ИИ, — это розничная торговля, производство, здравоохранение, логистика, сельское хозяйство, развлечения, банковские и финансовые услуги.
Так как же на самом деле работает Edge AI?
Давайте сначала посмотрим, как процессы будут выполняться в облачной модели ИИ.
В облачных моделях ИИ источник обычно имеет разные датчики, которые собирают данные и отправляют их в облако через Интернет. Модель в облаке будет принимать данные в качестве входных данных, обрабатывать их и отправлять результаты через Интернет на устройство для выполнения необходимых действий. Этот процесс сильно зависит от облака, что может вызвать проблемы с задержкой, а в случае проблем с сетевым подключением устройство может получить ответ с задержкой. Добавление к этому увеличивающегося объема данных, собираемых каждую секунду, добавляет сложности.
В модели на основе Edge AI данные будут обрабатываться в самом источнике без необходимости отправлять их в облако. Аппаратура для обработки данных интегрирована с сенсорным устройством. Модель, размещенная на граничном узле, обрабатывает собранные данные. Таким образом, обработка и анализ данных ускоряются, а эффективность применения возрастает. Особенно в случаях использования, таких как производственные отрасли в удаленных районах с проблемами сети или автономные транспортные средства, требующие результатов в течение миллисекунд, модель ИИ на основе Edge полезна.
В моделях искусственного интеллекта на основе Edge метаданные отправляются в облако для постобработки и аналитики. Кроме того, если собранные данные имеют решающее значение, они также будут отправлены в облако, но решение принимается в режиме реального времени. Таким образом, нет необходимости постоянно отправлять данные в облако, что помогает снизить стоимость передачи и повысить скорость. Это особенно полезно для обработки данных в реальном времени,
Внедрение пограничного искусственного интеллекта
При внедрении Edge AI необходимо иметь четкое представление о задаче, для которой он развертывается, и ожидаемых результатах. Затем нам нужно соответствующим образом подобрать для него алгоритмы и фреймворки, подходящее железо, проверить совместимость программного и аппаратного обеспечения, оптимизировать модель и затем развернуть ее.
Например, если мы хотим использовать Edge AI, чтобы проверить, носят ли люди маски или нет. В этом случае видео будет снято системой видеонаблюдения, на которой мы применим модель для обнаружения масок или отсутствия масок. Это будет задача компьютерного зрения, которая включает в себя идентификацию лица человека или ограничивающих прямоугольников вокруг лица, а затем классификацию наличия маски или ее отсутствия.
Для этого варианта использования одной из задач будет обучение модели с набором данных о людях, носящих и не носящих маски. Люди не будут смотреть прямо в камеру, поэтому во время тренировки также важно следить за тем, чтобы были охвачены разные углы лица. После завершения обучения модели она будет оценена и, при необходимости, переобучена.
Еще одной задачей будет выбор оборудования, на котором будет работать модель. Доступны различные виды аппаратного обеспечения, и необходимо выбрать то, которое хорошо подходит для требований варианта использования. Выбор оборудования должен быть сделан с учетом задачи, интеграции фреймворков и любых используемых сторонних инструментов.
Выбор алгоритма для работы также является сложной задачей. В данном случае это задача компьютерного зрения, где мы можем выбирать из нескольких методов, таких как обнаружение объектов, отслеживание или классификация. Например, мы можем использовать оценку позы для обнаружения человеческих фигур и технику классификации для обнаружения масок. Существуют различные доступные методы, которые необходимо оценить и рассмотреть тот, который обеспечивает наилучшие результаты для варианта использования.
Как только модель будет обучена набору данных с приемлемым уровнем точности, она будет развернута на встроенном устройстве и интегрирована в реальную среду. Затем он будет анализировать данные в режиме реального времени и предоставлять предупреждения по мере необходимости.
Немногие из аппаратных средств, программных библиотек, доступных методов:
Аппаратные устройства Edge AI:
NVIDIA Jetson Nano, NVIDIA Jetson TX2, комплект Sipeed Maixduino для RISC-V AI+IoT, модель компьютера Raspberry Pi 4 B, плата Coral Dev Board, процессоры Intel Movidius Vision. Доступно гораздо больше оборудования, но для них нет аппаратного стандарта, что, в свою очередь, увеличивает сложность.
Библиотеки программного обеспечения:
PyTorch, TensorFlow, Керас
Методы компьютерного зрения:
- Обнаружение объектов — R-CNN (региональные сверточные нейронные сети), YOLO (вы смотрите только один раз), SSD (детектор одиночного снимка)
- Классификация изображений — ResNet, DenseNet
Методы НЛП (обработки естественного языка):
Анализ настроений, распознавание именованных сущностей, матричная факторизация, матрица понятий
В общем, цикл разработки Edge AI состоит из обучения модели, оптимизации модели и ее развертывания в исходном коде. Все эти этапы связаны с различными сложными задачами. Алгоритм обучается и оценивается на наборе данных, который затем оптимизируется для выбранного оборудования. Затем оптимизированная модель развертывается на периферийном устройстве, что облегчает принятие решений в реальном времени. Это вкратце о том, как реализован Edge AI и как он работает.
Дайте нам знать в комментариях, какую тему Edge AI вы хотели бы изучить.
EDGENeural.AI — это высокотехнологичный стартап, стремящийся децентрализовать искусственный интеллект, чтобы сделать каждое устройство быстрее, умнее и безопаснее с помощью единой, облачно-нейтральной и аппаратно-независимой платформы, которая ускоряет и оптимизирует EDGE. Разработка приложений ИИ.
Отмечен как 30 стартапов, за которыми стоит следить от Inc42 Media
Отмечен в Hindustan Time
Среди наших сторонников NVIDIA Inception Program | | NXP Semiconductors и FabCI | Майкрософт для стартапов | NASSCOM DeepTech Club 2.0 | Стартап Индия | ММСП
