Публикации по теме 'dropout'
Эй, спасибо, что поделились.
Эй, спасибо, что поделились. Отличная статья. Однако возникает один вопрос: почему отключение заставляет сеть дольше сходиться? Вроде знаю, что это как-то связано с большей случайностью в модели, но есть ли какое-то надежное объяснение, которое я могу изучить? Спасибо.
Вопросы по теме 'dropout'
Tensorboard и выпадающие слои
У меня очень простой запрос. Я сделал 4 почти идентичных (разница во входных формах) CNN и объединил их при подключении к сети прямой связи полностью связанных слоев.
Код для почти идентичных CNN (ов):
model3 = Sequential()...
801 просмотров
schedule
27.05.2023
Показатель отсева в слоях горлышка бутылки
Обычно по умолчанию используется коэффициент отсева 0.5 , который я также использую в своей полностью подключенной сети. Этот совет следует рекомендациям из оригинальной статьи по выбору (Хинтон и др.).
Моя сеть состоит из полностью связанных...
177 просмотров
schedule
16.05.2024
Прогноз модели слоя выпадения Keras
Предполагается, что слой выпадения используется только во время обучения модели, а не во время тестирования.
Если у меня есть выпадающий слой в моей последовательной модели Keras, нужно ли мне что-то сделать, чтобы удалить или отключить его, прежде...
835 просмотров
schedule
17.08.2023
Осуществление отсева с нуля
Этот код пытается использовать настраиваемую реализацию выпадения:
%reset -f
import torch
import torch.nn as nn
# import torchvision
# import torchvision.transforms as transforms
import torch
import torch.nn as nn
import torch.utils.data as...
8507 просмотров
schedule
28.12.2023
Добавление исключения в MobileNet с помощью TensorFlow 2
Я использую MobileNet и TensorFlow 2, чтобы различать 4 довольно похожих игрушки. У меня есть ровно 750 изображений для каждой игрушки и одна этикетка, содержащая 750 «негативных» изображений, без каких-либо игрушек.
Раньше я использовал MobileNet...
1568 просмотров
schedule
29.11.2023
Как работает отсев (с несколькими графическими процессорами)?
Допустим, я использую несколько графических процессоров и обучаю нейронную сеть, использующую отсев. Я знаю, что отсев случайным образом отключает определенные узлы в сети для каждой обучающей выборки, а затем только обновляет веса в «прореженной...
54 просмотров
schedule
29.06.2023
Почему слой Pytorch Dropout влияет на все значения, а не только на нулевые?
Слой исключения из Pytorch изменяет значения, которые не установлены на ноль. Используя пример документации Pytorch: ( исходный код ):
import torch
import torch.nn as nn
m = nn.Dropout(p=0.5)
input = torch.ones(5, 5)
print(input)...
362 просмотров
schedule
27.06.2023
Уменьшает ли MaxPooling переоснащение?
Я обучил следующую модель CNN с меньшим набором данных, поэтому она выполняет переоснащение:
model = Sequential()
model.add(Conv2D(32, kernel_size=(3,3), input_shape=(28,28,1), padding='same'))
model.add(BatchNormalization())...
2250 просмотров
schedule
06.08.2023
