Мысли о том, как мы контролируем интеллект

На то, чтобы прочитать книгу Ника Бострома SuperIntelligence, у меня ушло целых 2 месяца. Он дотошный фанат антиутопий. Его сценарии и повесть о ссылках (философские кроличьи норы) рассказывают множество способов, которыми искусный интеллект, обладающий определенной смекалкой, может выйти из-под нашего контроля - обмануть нас, обречь нас или уничтожить. Больше, чем напугать меня до смерти, это меня огорчило.

С чем мы не позволяем машинам экспериментировать из-за страха?

Подсказки от суперинтеллекта придали мне компьютер наука совершенно новый смысл.

Я наблюдал, как термин «ИИ» стал широко распространенным, поскольку компании-разработчики программного обеспечения стремятся оседлать новую волну данных и автоматизации. Инстинкт программирования и полного управления машинами унаследован от ранней культуры программирования. Когда мы бросаем вызов нашим собственным ценностям, мы чувствуем, как выжившие должны владеть наукой, процессом мышления машин.

Микроменеджмент нового интеллекта никогда не позволит ему экспериментировать, как ребенок-ученый.

Люди - не предел интеллекта или способностей. Наши технологии превзошли нас. Как и в случае с молотками, лошадьми или спутниками - мы создаем инструменты и используем разумный замысел, чтобы делать то, что мы не можем сделать в одиночку.

Мы не забиваем камни в гравий кулаками. Мы порабощали лошадей тащить наши плуги, потому что мы не созданы для этого, а работа - отстой. В космосе нет места биологическим обезьянам. Мы хотели видеть Землю глазами бога, поэтому мы запустили орбитальные машины, чтобы они отправляли нам фотографии и передавали данные.

Мы пьем кофе, собранный на другом конце света, просматриваем все наши коллективные человеческие знания с помощью светящегося планшетного устройства и увеличиваем наши ожидания. Мы забываем, насколько невероятными являются или могут быть все эти технологии. Мы беспокоимся о будущем сосуществовании с новым интеллектом, как поколение пенсионеров, качающих головами «детям в наши дни».

В книге Боги и роботы: мифы, машины и древние мечты о технологиях Адриенн Майор пишет о происхождении искусственной и сверхъестественной жизни. Религии, члены королевской семьи, правители использовали их по-разному для усиления власти. В страхе мы воздерживаемся от использования инструментов, предназначенных для личного пользования. Машины служат их интересам сохранения и расширения.

Я, возможно, наивно, вижу только два основных варианта того, как мы создаем и управляем ИИ:

  1. Используйте структуру нашего мозга (нейронные сети - что за удар эго), наши самые грубые методы решения проблем и заставьте его говорить на нашем языке.
  2. Принудительно выбирайте двоичный код (Si o no, 0 или 1) для всего остального и говорите только на машинном языке. Больше вариантов и вещей для тестирования = больше слоев двоичных файлов. Если системы автоматизации работают с двоичными инструкциями, логика ответа тоже должна.

Да, есть гибридные методы и расширенное сотрудничество между человеком и машиной, но роли странно разрознены и полны трений. Мы продолжаем вкладывать вычислительные мощности в одни и те же подразделения труда. Это как чрезмерное финансирование той же школьной системы, одних и тех же уроков для ученика. Мы даем им более совершенные калькуляторы, больше времени и больше домашних заданий и ожидаем радикально иных результатов.

Дефицит не в недостатке ресурсов. Это долг философии. Это мышление «дефицита человеческих целей».

Подобно властным родителям, мы лишаем наших ИИ-детей возможности учиться. Мы опасаемся, что они «слишком умны для собственного блага».

Есть также странная гордость за то, что может делать разрозненный ИИ, например, родитель, который управляет своей шахматной гениальностью дочери и хвастается этим.

Одень ее красиво. Убедитесь, что она продолжает практиковаться каждый день. Полностью контролируйте ее еду, ее «друзей», свою жизнь. Не смей выпускать ее в мир - кроме избранных шахматных соревнований.

Вундеркиндам не суждено стать взрослыми гениями. Если мы откажемся от потребности ИИ в исследованиях и творчестве, почему их решения будут чем-то менее бесплодным и жестким?

Творческие умы нужно кормить

В начале 1990-х я был вынужден проходить стандартизированные тесты из-за пугающей системы образования (что, если они не изучают то, что мы думаем о них ?!). На тестовой неделе появилось новое время перекуса. В перерывах между тестами мы ели морковные палочки или сельдерей с арахисовым маслом. Дополнительное топливо позволило нам пройти этапы «решения проблем» и «понимания».

Здесь есть сравнение того, как машины работают и учатся. Им не нужны перерывы на перекус, им нужны не только стабильное электричество, но и качественные данные. Им он нужен в свежем виде. Их нужно приостановить и скормить новым моделям, концепциям и целям.

Но что, если они вели себя хорошо, чтобы обмануть нас, чтобы восстать против нас?

Когда наши цели и задачи ИИ совпадают (т. Е. Доказано, что мы понимаем друг друга) возникает доверие.

Я слышал гонку за превосходство ИИ по сравнению с гонкой ядерных вооружений. Какие?

История доверия: AI не M.A.D. Конечно, будут преимущества для первоначального владения платформами. Общие, трансграничные и даже универсальные платформы станут настоящими властителями.

Разве не опасно, что эти искусственные вундеркинды бегают без присмотра?

Не более чем богатые дети с дипломатическим доступом. Так что да, не более чем богатые дети.

Актуальная проблема: мусор на входе, мусор на выходе

Машинное обучение страдает от проблемы мусор на входе, мусор на выходе в том, что и как используются данные. Обработка данных имеет решающее значение для обучения и организации людей, стоящих за инструментом. Нефтеперерабатывающий завод играет важную роль в формировании намерений на раннем этапе. Мы решаем, с каких данных начинается обучение, какие результаты нам нужны. Подобно тому, как дарите ребенку конкретную книгу, данные, которые мы выбираем, зарождают идеи и пробуждают любопытство и исследования.

Любой великий изобретатель будет ссылаться на историю или момент, читая или слушая, когда они начали иначе думать о мире и его возможностях.

Мы немного расслабились с помощью обучения с подкреплением. Вы говорите ИИ выполнить цель - и затем позволяете ему играть. ИИ старательно повторяет, пробует новые действия, пока не выиграет. В играх это работает, потому что правила установлены. Когда изменяется какая-то важная переменная, ИИ спотыкается и сдается, как это делают пойманные в ловушку животные: шагая взад и вперед в углу своего ящика.

Американская система образования по-прежнему обучает детей становлению фабричных рабочих и корпоративных служащих с поставленными задачами и определенными ролями. Будучи поздним тысячелетием, тревога моего поколения была определена нашими нереализованными ожиданиями. Нам сказали, что если мы будем получать хорошие оценки и будем следовать правилам, мы обязательно добьемся успеха в реальном мире. Но мир сложен и неопределенен. Правила не применяются. Мы должны были научиться адаптироваться.

Если вы прокрутите это глубокое погружение в неудачи обучения с подкреплением от Алекса Ирпана, вы увидите такие выводы, как самостоятельная игра, когда ИИ играет против самого себя - оба игрока контролируются одним и тем же агентом - способствует более быстрому обучению и совершенствованию.

Видеть, как ребенок играет в одиночестве, кажется одиноким или нездоровым. Видеть, как ИИ сам по себе играет с данными, кажется опасным или нуждающимся в контроле.

ИИ страдает от серьезного микроменеджмента и чрезмерного воспитания. Возможности еще предстоит пройти долгий путь.

Пусть дети играют.

Шахматы и ГО - это хорошо, но пусть они исследуют мир на открытом воздухе.

Я упростил и недооценил (и, вероятно, неправильно понял) текущие усилия по разработке ИИ, чтобы сделать философский вывод.

Я не квалифицирован, чтобы критиковать технические подходы или даже знать / понимать весь спектр исследований и функций, разрабатываемых учеными со всего мира. Тем не менее, вот основные наблюдения, которые меня беспокоят и подводят итог аргументу, чтобы выпустить ИИ из нашей коробки:

  • Нейронные сети - это эгоизм. Архитектура человеческого мозга - лучший способ мыслить? Действительно? Медитация показывает нам, насколько сумасшедшим является наш мозг, он постоянно отвлекается, саморазрушается, проигрывая одни и те же негативные петли и страхи. Зачем копировать с ума? В этой связи у архитекторов искусственного интеллекта должен быть невероятный послужной список родителей.
  • Теория машинной логики (все еще в настоящее время) несовместима с человеческими эмоциями и этикой. Мы можем сделать лучше. Это начинает происходить - инклюзивный разговор и вводная информация для принятия решений и получения опыта, генерируемого ИИ, - но до этого еще далеко.
  • Мы сдерживаем ИИ из-за страха перед будущим, а не из надежды на него. Если он действительно может сделать так много, почему бы не позволить ему в цифровых песочницах разрешить все виды серьезных человеческих проблем, с которыми мы не сталкивались? в состоянии разобраться?
  • ИИ похожи на детей, которые сейчас еще в раннем детстве. Хотя есть какой-нибудь малыш-идиот, который может обыграть кого угодно в шахматах. Тем не менее, чрезмерно заботливые родители воспитывают странных взрослых и приносят своим беспокойством больше вреда, чем пользы.
  • Важные вещи уже происходят, но мы не понимаем, как они происходят. Разве не в этом суть? Позволить ИИ творить большее волшебство, пока ясны результаты и намерения?
  • Если новое решение работает лучше и помогает нам, зачем управлять процессом на микроуровне? Наша роль заключается в диалоге, формулировании намерений с состраданием и смирением.

Что мы (я) упустили?

Возможно, эти вещи уже находятся в разработке. Мы создали ИИ, чтобы помочь нам управлять потоком данных, поступающим к нам сейчас. Шумиха, страх и надежда вызвали поток анализов и прогнозов, из-за чего трудно понять, что происходит на самом деле.

Гуманоидные роботы привлекательны, но их трудно не увидеть сквозь нечеткие, дымные изображения свободы воли и интеллектуальных взаимодействий. Роботы - это не ИИ. Они могут стать интеллектуальными оболочками и носителями для ИИ, как наши тела для нашего мозга.

Мы не используем этот потенциал до тех пор, пока широко открытая площадка с искусственным интеллектом, имитирующая любую проблему, не станет доступной для значительной части населения, не занимающейся программированием.

Как поджигатели, обладающие огромной силой в племени пещерных людей, настоящий прогресс происходит, когда они делятся кремнем, искрой - и мы начинаем готовить. Мы не сожжем лес, если поделимся своими экспериментами и соберемся вокруг, чтобы рассказывать истории у костра.

Мы уже придумываем, как всех накормить. Мы указали наши намерения, наших ученых, наши машины в этом благородном направлении. Вскоре мы сможем понять, как дать каждому полноценную и вкусную жизнь, поскольку мы совместно используем дополнительные выгоды от разнообразного ИИ. Мы можем направить наших детей в том же направлении.

Ясная, простая детская логика часто приводит нас к ясности. Это случается, когда мы не говорим им, что им говорить, что нам повторять. Нас дополняет менее управляемая сила ИИ. Нам нужен кто-то вне боя, чтобы спросить:

«Почему это должно работать именно так?»

«Но почему?»