Сколько синапсов на узел мне нужно?

Я хочу реализовать сеть перцептронов, и у меня есть небольшая проблема. Первая реализация будет очень простой. Всего три слоя, входной, один скрытый и выходной слой. Моя проблема в том, сколько синапсов оптимально для скрытого узла между входным и скрытым слоями? Я думаю, что не слишком экономично, если каждый узел присоединится к каждому входному узлу.

Спасибо за комментарии.


person Community    schedule 02.05.2016    source источник
comment
Обычно каждый вход связан с каждым скрытым узлом.   -  person Sean Barbeau    schedule 03.05.2016


Ответы (1)


В очень общих настройках вы подключаете каждый отдельный узел данного слоя к каждому узлу следующего. Это называется «полностью подключенный слой». Очевидно, что это не единственный вариант, и при более продвинутых подходах вы обнаружите гораздо больше разреженных коннектомов, таких как рецептивные поля, вонолюционные слои и т. д. Для простых экспериментов предпочтительнее начинать с полносвязных слоев, так как другие стратегии соединения обычно предполагают что-то о ваши данные (например, пространственно-временные отношения входных данных), в то время как полносвязный слой — это независимый, общий подход.

person lejlot    schedule 03.05.2016