tf.losses.mean_squared_error с отрицательной целью

Да, это работает хорошо.

Вы должны коснуться функции стоимости mse.

mse = tf.reduce_mean(tf.square((x*w+b)-y))

Функция стоимости вычисляет квадрат разницы. Это означает, что всегда - значения становятся +.

И вы правы.
7-1 и 5+ -1 стоят столько же, сколько 36.

Чтобы лучше понять градиентный спуск, вам нужно знать, как минимизировать mse. На изображении ниже вы можете увидеть текущий mse на x*w+b.
В этот момент градиентный спуск получает наклон, чтобы определить направление изменения w.

Наклон рассчитывается по производной.

Вы можете увидеть приведенную ниже формулу после производной функции mse.

Итак, вы можете видеть направление W, в котором W будет перемещена влево, если ((w*x-y)*x) > 0, и будет перемещена вправо, если нет.

Да, вы можете безопасно использовать функцию потерь среднего квадрата ошибки (MSE), даже если функция вознаграждения может давать отрицательные значения.

Как вы заметили, функция MSE всегда будет положительной из-за квадратной операции. Однако это желательный эффект.

Подумайте, например, о простой линейной регрессии. Все значения функции потерь положительны, независимо от того, является ли ошибка положительной или отрицательной. Это уступает место выпуклой функции потерь с глобальным минимумом, где градиентный спуск работает идеально.

Следующая схема (из статьи Gradient Descent: All You Need to Know) иллюстрирует градиент процесс спуска, который может помочь лучше понять, что я имею в виду: