Введение Современные нейронные сети способны достигать высокой производительности в точности, что делает их лучшим выбором для сложных приложений. Текущие исследования и разработки постоянно улучшают производительность для различных областей, и эта область сейчас более популярна, чем когда-либо. Однако одним из его недостатков являются проблемы с надежностью, которые возникают из-за отсутствия гарантии того, что такая производительность будет хорошо обобщаться на перестановки и невидимые..

Эта статья основана на содержании статьи Япэн Тяня и Ченляна Сюй с CVPR 2021. Статью можно найти здесь . Кредит на использованные изображения принадлежит авторам статьи, поскольку они были взяты оттуда. Эта статья написана в рамках курса CS753 (автоматическое распознавание речи) в ИИТ Бомбея Говиндом Саджу, Адитьей Джейном и Санкалпом Парашаром и предназначена для широкой аудитории, изучающей информатику. Введение В повседневной жизни наше восприятие основано на информации,..

Код, соответствующий этой статье, доступен здесь . Машинное обучение - невероятно захватывающая технология, и многие системы, основанные на машинном обучении, улучшают продукты во многих компаниях. Влияние машинного обучения бесспорно и существенно, тем не менее, модели машинного обучения сталкиваются со многими проблемами безопасности. Оказывается, такие модели можно обмануть, используя некоторые грамотно созданные входные данные, и, что еще хуже, создание таких входных данных совсем..

Обзор состязательных атак на алгоритмы машинного обучения В недавнем прошлом было доказано, что машинное обучение восприимчиво к тщательно продуманным состязательным примерам. Вот обзор наиболее распространенных состязательных атак в сеттинге белого и черного ящиков. Генерация состязательного примера может быть сформулирована как задача оптимизации следующим образом: Найти точку в небольшой окрестности исходных входных данных, чтобы минимизировать функцию стоимости, которая может..