Публикации по теме 'loss-function'


Критерии функции потери глубокой нейронной сети
В нашей модели глубокого обучения, в зависимости от того, выполняем ли мы задачи классификации или регрессии, мы должны определить функцию потерь, которая сравнивает прогнозируемый результат с ожидаемым результатом (помеченные данные). Классификация В задачах классификации функция потерь вычисляет потери при неправильной классификации. Наиболее часто используемые функции потерь для классификаций: кросс-энтропийные потери, потери шарнира и Кульбак-Лейблер. Cross-Entropy Loss..
Концепции, категории и классы кодирования для нейронных сетей
В предыдущем посте мы объяснили, как нейронные сети работают для прогнозирования непрерывной ценности (например, цены дома) на основе нескольких характеристик. Один из вопросов, который мы получили, заключается в том, как нейронные сети могут кодировать концепции, категории или классы. Например, как нейронные сети могут преобразовать количество пикселей в ответ "правда / ложь", независимо от того, есть ли на изображении кошка? Во-первых, вот несколько наблюдений: Проблема..
Демистификация кросс-энтропии.
Углубленный взгляд на кросс-энтропию, интуицию и доводы, лежащие в основе ее необходимости и полезности. Вступление. Долгое время я не полностью понимал потерю кросс-энтропии. Почему мы взяли экспоненты (softmax)? Зачем мы тогда взяли бревно? Почему мы сняли отрицательный результат с этого журнала? Как мы закончили с положительным убытком, который мы должны минимизировать? Эти и другие вопросы ошеломили меня до такой степени, что я просто согласился с тем, что мне просто нужно..
Оптимизация: функция потерь под капотом (часть II)
Эта серия статей призвана объяснить функции потерь нескольких широко используемых моделей контролируемого обучения и некоторые варианты алгоритмов оптимизации. В части I я подробно рассмотрел процесс оптимизации линейной регрессии с использованием градиентного спуска и наименьшей квадратичной ошибки в качестве функции потерь. В этой части я перейду к логистической регрессии. Гипотеза Помните, что гипотеза линейной регрессии такова: Назовите эту гипотезу линейной регрессии..

Вопросы по теме 'loss-function'

Проблема размера/ранга измерения Tensorflow в функции потерь при обучении
У меня есть пользовательская функция потерь, которая кажется допустимой (нет ошибок при выполнении этих двух строк, как показано ниже) alpha_cost = 2 cost = tf.reduce_mean(tf.where(tf.less(Y * out, 0), tf.squeeze((alpha_cost*out)**2 -...
435 просмотров
python tensorflow rank tensor loss-function
schedule 23.09.2022
Неожиданное значение потерь R ^ 2 в corss_val_score
Я имею дело с набором данных регрессии, и я хочу подогнать конкретную модель к моему набору данных после оценки производительности различных моделей. Для этого я использовал cross_val_score из sklearn.model_selection. После того, как я выбрал...
56 просмотров
python machine-learning regression loss-function
schedule 14.12.2023
Модель Gensim Word2vec не сходится
Я тренирую модель Word2vec с помощью Gensim Word2vec на хорошо известном дампе Википедии, предоставленном Тобиасом Шнабелем по следующей ссылке: http://www.cs.cornell.edu/~schnabts/eval/index.html (около 4 ГБ). Я хотел бы понять, сколько эпох мне...
908 просмотров
gensim word2vec loss-function
schedule 15.04.2024
Как применить бинарную кросс-энтропию поэлементно, а затем просуммировать все эти потери в Keras?
Я хочу написать функцию с двумя аргументами, A и B , тензорами одинаковой формы (например, 13x13 или другой формы), и которая возвращает число, которое представляет собой сумму всех потерь при применении двоичной кросс-энтропии покомпонентно. ....
1140 просмотров
python keras tensorflow cross-entropy loss-function
schedule 10.04.2024
Градиент функции потерь шарнира относительно входное предсказание
Для задания мне нужно реализовать как функцию расчета потерь на шарнире, так и ее частную производную. У меня есть сама функция потерь шарнира, но мне трудно понять, как вычислить ее частную производную по весу. вход для прогнозов. Я пробовал...
1003 просмотров
python machine-learning deep-learning loss-function
schedule 25.05.2022
Функция потерь Кераса не уменьшается при среднеквадратической ошибке
Я реализовал нейронную сеть с помощью Keras, чтобы предсказать рейтинг предмета. Я рассматриваю каждый рейтинг как класс, так что это мой код (outputY категоричен): inputLayerU = Input(shape=(features,)) inputLayerM = Input(shape=(features,))...
1388 просмотров
keras neural-network regression loss-function mean-square-error
schedule 12.09.2023
Что не так с этим кодом, почему потери в этом коде не уменьшаются?
Я реализовал VGG-16 в тензорном потоке, VGG-16 — достаточно глубокая сеть, поэтому потери определенно должны уменьшиться. Но в моем коде это не сокращается. Но когда я снова и снова запускаю модель в одной и той же партии, потери уменьшаются. Любая...
63 просмотров
python tensorflow deep-learning vgg-net loss-function
schedule 26.02.2024
Пользовательская функция потерь Keras не печатает значение тензора
Я пишу простую функцию потерь, в которой мне нужно преобразовать тензор в массив numpy (это важно). Я просто пытаюсь вывести значение тензора, но получаю эту ошибку: - Тензор ("потеря / активация_4_потеря / Печать: 0", shape = (?, 224, 224,...
2501 просмотров
python keras tensorflow loss-function
schedule 28.10.2022
как реализовать ssim для функции потерь в keras?
Мне нужна SSIM как функция потерь в моей сети, но моя сеть имеет 2 выхода. Мне нужно использовать SSIM для первого вывода и cross-entropy для следующего. Функция потерь представляет собой их комбинацию. Однако мне нужно иметь более высокий SSIM и...
2450 просмотров
python keras tensorflow loss-function
schedule 23.10.2023
Как указать model.compile для binary_crossentropy, Activation = sigmoid и Activation = softmax?
Я пытаюсь понять, как сопоставить activation=sigmoid и activation=softmax с правильными model.compile( ) параметрами потерь. В частности, те, которые связаны с binary_crossentropy . Я изучил связанные темы и прочитал документы. Также я...
1305 просмотров
python keras tensorflow activation-function loss-function
schedule 24.04.2024
tf.losses.mean_squared_error с отрицательной целью
Я использую Q-обучение и хочу знать, могу ли я использовать функцию расчета потерь tf.losses.mean_squared_error, если у меня есть функция вознаграждения, которая может давать отрицательные вознаграждения. Потому что, если у меня есть, например, в...
919 просмотров
tensorflow neural-network reinforcement-learning loss-function q-learning
schedule 04.11.2023
Keras tensorflow бэкэнд модифицирует потерю
Хорошо, у меня есть небольшая проблема с изменением потери keras с помощью бэкэнда tensorflow. Если я использую keras.losses.sparse_categorical_crossentropy как потерю, это будет работать как обычная sparse_categorical_crossentropy. Однако, если...
45 просмотров
keras tensorflow loss-function loss
schedule 14.12.2022
Как получить доступ к весам выборки в пользовательской функции потерь Keras, предоставляемой генератором?
У меня есть функция генератора, которая бесконечно циклически перебирает некоторые каталоги изображений и выводит 3-х кортежи пакетов в форме [img1, img2], label, weight где img1 и img2 - это batch_size x M x N x 3 тензоры, а label и...
3481 просмотров
python keras tensorflow deep-learning loss-function
schedule 19.06.2022
Ошибка размера ввода пользовательской функции потерь (потеря фокуса) в Keras
Я использую нейтральную сеть для классификации по нескольким классам. Есть 3 несбалансированных класса, поэтому я хотел бы использовать фокусные потери, чтобы справиться с дисбалансом. Поэтому я использую настраиваемую функцию потерь, чтобы...
354 просмотров
keras deep-learning neural-network loss-function imbalanced-data
schedule 28.01.2024
Потеря мягкой маржи MultiLabel в PyTorch
Я хочу реализовать классификатор, который может иметь 1 из 10 возможных классов. Я пытаюсь использовать для этого функцию MultiClass Softmax Loss. Просматривая документацию, я не понимаю, какой ввод требуется для функции. В документации...
2768 просмотров
python pytorch softmax loss-function
schedule 28.07.2023
Тренируйте SSD-MOBILENET V1 и потери не уменьшаются
Я новичок в CNN и тензорном потоке. Я тренирую предварительно обученный ssd-mobilenev1-pets.config для обнаружения столбцов зданий примерно в один день, но потери составляют от 2 до 1 и не уменьшаются с 10 часов назад. Я понял, что мои входные...
1851 просмотров
object-detection-api tensorflow training-data loss-function tensorflow-ssd
schedule 08.09.2022
Понимание результатов обучения CNN
Буду признателен за ваше объяснение по поводу следующего :) Я обучил сеть CNN, которая классифицирует ДВА класса изображений. Я использовал оптимизатор «SGD» и функцию потерь «category_crossentropy». Мои результаты следующие: - потеря обучения...
55 просмотров
training-data conv-neural-network cnn loss-function sgd
schedule 05.06.2024
Пользовательская функция потери MCC в MXNet (коэффициент корреляции Мэтьюза)
Я пытаюсь написать функцию потери MCC. Я набросал макет, но это должно быть сделано в форме манипулирования матрицей, как показано в Справочнике 1 (это не школьное HW). Итак, следующий код — это псевдокод того, что я пытаюсь сделать. class...
226 просмотров
machine-learning classification mxnet loss-function
schedule 02.03.2023
Что означает, что потери в Керасе различаются на порядки в разных моделях?
Для контекста я обучил два отдельных автокодера в Keras: один со стандартной функцией потерь MSE, а другой - с настраиваемой функцией потерь MSE. При оценке обеих моделей на заданном этапе обучения они имеют очень похожую производительность, но очень...
67 просмотров
python keras tensorflow loss-function
schedule 19.02.2022
Ошибка с пользовательской функцией потерь в модели CVAE с использованием Keras
Я пытаюсь создать сверточный вариационный автоматический кодировщик (CVAE), и поэтому мне нужно создать функцию vae_loss(), которая представляет собой комбинацию функции потерь MSE и KL Divergence. Это выглядит следующим образом: def...
393 просмотров
python keras tensorflow loss-function
schedule 30.07.2023