Достижение общего искусственного интеллекта (AGI) через возникающее Я

«Сущность общего интеллекта - это способность вообразить себя» - я

Осознайте, что для того, чтобы обрести перспективу, которая возникает при взгляде на вещи глазами другого человека, вы должны на время приостановить суждение - только сопереживая, вы сможете правильно оценить другую точку зрения. - Рэй Далио

Парадокс Моравца - это наблюдение, сделанное многими исследователями искусственного интеллекта, что рассуждение высокого уровня требует меньше вычислений, чем бессознательное познание низкого уровня. Это эмпирическое наблюдение, которое противоречит представлению о том, что большие вычислительные возможности приводят к более интеллектуальным системам.

Однако сегодня у нас есть компьютерные системы, которые обладают сверхчеловеческими способностями к символическому мышлению. Никто не будет спорить, что человек со счетами, гроссмейстер по шахматам или чемпион Jeopardy имеет хоть какой-то шанс превзойти компьютер. Искусственное символическое мышление - это технология, доступная уже несколько десятилетий, и эта способность без всяких аргументов превосходит возможности любого человека. Несмотря на это, никто не будет утверждать, что компьютеры обладают сознанием.

Сегодня, с открытием глубокого обучения (т. Е. Интуиции или бессознательных логических машин), низкоуровневое бессознательное познание находится в пределах досягаемости человечества. В этой статье я исследую разветвления сценария, в котором субъективность или самосознание машины обнаруживается до открытия интеллектуальных машин. Это сценарий, в котором самосознание не является высшей способностью к рассуждению.

Давайте спросим, ​​а что, если бы самоосознающие машины были обнаружены раньше интеллектуальных машин. Как бы выглядело развитие достижений? Каков порядок этапов?

В предыдущей статье я писал о том, что разные виды интеллекта ортогональны друг другу и не обязательно параллельны друг другу или упорядочены. В природе существует множество свидетельств того, что простые субъективные животные существуют без каких-либо передовых способностей к рассуждению. Предположим, что простые субъективные машины действительно составляют примитивные основы познания. Как нам построить более умные машины из простых субъективных машин или машин с простыми Я-моделями?

Ранее было показано, что движение эго (то есть телесная самомодель) обнаруживается с помощью алгоритма, вдохновленного любопытством до открытия обнаружения объекта (то есть перспективной самомодели) и взаимодействия объектов (т.е. волевой самомодели). Другими словами, в основе обнаружения объектов и взаимодействия с ними лежит самосознание того, где находится тело по отношению к пространству, за которым следует осознание перспективы, а затем осознание свободы действий.

Архитектура для достижения эго-движения также позволяет реконструировать трехмерное пространство с учетом изображения точек обзора. Таким образом, обнаружение объектов улучшается за счет того, что объекты распознаются с разных точек зрения, а объекты, перекрывающие друг друга, идентифицируются по их положению в трехмерном пространстве. Кроме того, чтобы достичь трехмерного взаимодействия с объектом, телу необходимо знать, где находится его артикулятор относительно объектов, с которыми оно может взаимодействовать. Следовательно, в этом примере более требовательная к вычислениям задача движения эго является требованием для выполнения менее требовательной способности.

Распространенное представление о развитии интеллекта состоит в том, что когнитивные способности более высокого уровня требуют большего объема вычислений. Парадокс Моравека - намек на то, что это неправда и что поиски сознания, возможно, являются первой познавательной способностью, которую необходимо открыть, а не последней!

Анил Сет перечисляет пять различных типов самомоделей: телесные, перспективные, волевые, повествовательные и социальные. Эти я не ортогональны и, возможно, частично упорядочены в том, что является предпосылкой над другим. В своем эссе Настоящая проблема:

Существует телесное я, которое представляет собой опыт того, чтобы быть телом и обладать определенным телом. Существует перспективное я, которое представляет собой опыт восприятия мира с определенной точки зрения от первого лица. волевое я включает в себя переживания намерения и действия - побуждений сделать то или это, а также быть причинами происходящих событий. На более высоких уровнях мы сталкиваемся с повествовательной и социальной личностью.

Анил Сет утверждает, что проблема понимания сознания менее загадочна, чем кажется.

Следовательно, дорожная карта AGI потребует изучения всех этих пяти я в том же порядке, как описано выше. Автономия, например, может быть достигнута через обучение волевому Я без необходимости уметь рассказывать истории или эффективно участвовать в общественной жизни. Фактически, для достижения Разговорного познания необходимо присутствие нарративного и социального я.

Брендан Лейк описал план действий Создание машин, которые учатся и думают как люди. В своей статье он аргументирует следующие возможности: (1) создавать причинно-следственные модели мира, поддерживающие объяснение и понимание (2) базовое обучение в интуитивных теориях физики и психологии и (3) использовать композиционность и обучение для обучения для быстро приобретать и обобщать знания для новых задач и ситуаций. Неясно, предписал ли Лейк порядок, какой навык является предварительным условием для какого другого навыка. Я предлагаю использовать понятие самомоделей, чтобы предписать упорядочивание.

Вот последствия различных «я» и усвоенных навыков.

В этой формулировке все мировые модели включают понятие самомоделей. Это все архитектуры наизнанку. Чтобы понять композицию, нужно понимание тела. Чтобы предсказать физику, необходимо знать, куда и в каком направлении смотреть, нужно делать наблюдение. Чтобы понять обучение, нужно понимать взаимодействие. Чтобы понять причинность, нужно вообразить истории. Чтобы понять психологию, нужно разобраться в себе. Таким образом, вы не можете развить какие-либо навыки, которые описывает Брендан Лейк, без предварительного изучения модели самого себя.

Современная ортодоксальность искусственного интеллекта не включает понятие самомоделей в своих моделях. Я подозреваю, что это связано либо (1) с традицией науки отдавать предпочтение объективной модели мира, либо (2) с предположением, что самосознание - это более высокий уровень когнитивных способностей. Последняя мотивация подразумевает, что исследования более низкого уровня познания не должны принимать во внимание самомодель.

Познание - это проблема удовлетворения ограничений, которая затрагивает личность, ее контекст и ее цели. На самом деле отличать вывод от обучения неверно. Вывод - это обучение, и оба являются проблемами удовлетворения ограничений. Самомодель - это то, что придает значение, осознание делает контекст явным, а намерения являются мотивацией для достижения целей:

Важным моментом здесь является то, что личность, контекст и цель - все это ментальные модели. Хотя они могут иметь соответствующие реальные аналоги, удовлетворение ограничений достигается только с помощью приблизительных ментальных моделей, которые «галлюцинируют» автоматизацией. Эти модели также не статичны и меняются при взаимодействии с окружающей средой.

Возможно, существует синергия между разными «я», так что некоторые из них являются предпосылками для других. Причина, по которой порядок навыков чрезвычайно важен, заключается в том, что более абстрактные уровни должны иметь основу только на более низких уровнях. Более того, навыки, которые считаются независимыми от контекста, не являются независимыми от контекста личности. Если мы предположим, что парадокс Моравека верен на всех когнитивных уровнях, то именно бессознательная телесная модель себя (инстинктивный уровень) требует наибольших вычислительных ресурсов. Это означает, что вопреки общепринятому мнению, требуется все меньше и меньше ресурсов по мере того, как вы поднимаетесь на когнитивные уровни.

Иными словами, для экспоненциального прогресса требуется все меньше и меньше усилий. Этот вывод сильно отличается от более популярного представления о том, что для создания искусственного интеллекта требуется все больше и больше вычислений.

Причина, по которой Анил Сет верит в непреодолимую проблему достижения ОИИ, заключается в том, что создание искусственной телесной самомодели может оказаться слишком сложным. Он пишет:

«Мы - биологические животные из плоти и крови, чей сознательный опыт на всех уровнях формируется биологическими механизмами, которые поддерживают нашу жизнь. Если просто сделать компьютеры умнее, они не станут разумными ».

Самое большое препятствие - это начало (то есть телесная самомодель). Такой автоматизации сегодня не существует. Таким образом, ускорение происходит только при достижении этой возможности, в то время как инновации будут определяться грубой силой вычислительных ресурсов. Я согласен с тем, что больше компьютерных ресурсов не превращается в общий интеллект. Тем не менее, простые модели машин могут стать той основой, которая приведет вас к этому. Непростая реальность состоит в том, что это очень похоже на скользкую дорожку. Создавая телесные модели себя, вы легко можете соскользнуть в канаву, где случайно обнаружите ОИИ.

Архитектура Inside Out является ключевой, потому что это то, что есть в неокортексе. Сегодняшнее глубокое обучение похоже на интеллект насекомых, который представляет собой просто реакцию на стимулы.

Можем ли мы построить узкие части этого когнитивного стека и расширить его со временем? Например, телесная самомодель, не имеющая всей сенсорной сети, которая будет у человека. Таким образом, система будет иметь пробелы в понимании. Короче говоря, можем ли мы избежать ситуации «все или ничего» и строить ее постепенно?

Грубый набросок этого состоит в том, что телесная модель себя развивается путем обучения как воплощенная сущность в смоделированном виртуальном мире. У него будет подмножество датчиков, пропорциональное тому, что можно смоделировать в этом мире. Цель состоит в том, чтобы изучить три низших уровня «я» (т. Е. Телесное, перцептивное и агентское). Это уже сегодня делается. Как только вы увидите, как это развивается с высокой точностью, тогда, я думаю, вы увидите более быстрое ускорение. Здесь есть переломный момент, и этот переломный момент может быть намного ближе, чем кто-либо мог себе представить! Действительно страшно, что я не могу опровергнуть, что описанная здесь дорожная карта неверна.

Дополнительная информация

Разновидности саморекламы

.