Используют ли GAN ярлыки классов в процессе обучения?
Автор подозревал, что для GAN не нужны ярлыки. Это правильно. Дискриминатор обучен классифицировать настоящие и поддельные изображения. Поскольку мы знаем, какие изображения настоящие, а какие генерируются генератором, нам не нужны метки для обучения дискриминатора. Генератор обучен обмануть дискриминатор, который также не требует меток.
Это одно из самых привлекательных преимуществ GAN [1]. Обычно мы называем методы, не требующие ярлыков, обучением без учителя. Тем не менее, если бы у нас были метки, возможно, мы могли бы обучить GAN, который использует метки, для повышения производительности. Эта идея лежит в основе последующей работы [2], представившей условный GAN.
Если это так, то как исследователи предлагают использовать дискриминаторную сеть для задач классификации?
Похоже, здесь произошло недоразумение. Дискриминатор НЕ предназначен для использования в качестве классификатора реальных данных. Назначение дискриминатора - «сообщить генератору, как улучшить его подделки». Это делается с помощью дискриминатора в качестве функции потерь, через которую мы можем распространять градиенты в обратном направлении, если это нейронная сеть. После обучения мы обычно отбрасываем дискриминатор.
Сеть генератора также будет трудно использовать, поскольку мы не знаем, какая установка входного вектора «Z» приведет к требуемому сгенерированному изображению.
Кажется, основная причина публикации вопроса кроется здесь. Входной вектор «Z» выбирается таким образом, чтобы он подчинялся некоторому распределению, обычно нормальному распределению. Но что тогда произойдет, если мы возьмем «Z», случайный вектор с нормально распределенными элементами, и вычислим «G (Z)»? Мы получаем новый вектор, который следует очень сложному распределению, зависящему от G. Вся идея GAN состоит в том, чтобы изменить G так, чтобы это новое сложное распределение было близко к распределению наших данных. Эта идея формализована с помощью f-расходимостей в [3].
[1] https://arxiv.org/abs/1406.2661
[2] https://arxiv.org/abs/1411.1784
[3] https://arxiv.org/abs/1606.00709
person
Alexander Mathiasen
schedule
20.09.2019