Так говорят Хокинг, Маск и Гейтс; но я хочу объяснить техническую причину, почему они правы.
ИИ означает искусственный интеллект. В настоящее время существует ряд стандартных подходов, таких как машинное обучение и его подмножества, которые ученые-компьютерщики используют, чтобы сделать компьютеры более интеллектуальными. Большинство из этих современных подходов не представляют угрозы, потому что они очень ограничены. Они не очень «интеллектуальны». Но такие компании, как Facebook, Google и другие, очень заинтересованы в разработке следующего уровня ИИ, и нет никаких фундаментальных препятствий, которые помешают им добиться успеха.
Вот почему они могут добиться успеха и почему это очень опасно.
Интеллект просто означает, что что-то может воспринимать мир (визуальную, звуковую и т. д. информацию), выявлять закономерности в этой информации и распознавать причинно-следственные связи между этими закономерностями. Например (очень упрощенно) наш мозг распознает, что группа пикселей на самом деле представляет собой лес с деревьями; видит человека с топором и падающее дерево; и связывает их в причинно-следственную связь.
Чтобы уметь распознавать какие-либо закономерности, мозгу нужны критерии или перспектива того, как смотреть на мир. Этот критерий — это то, чего мы «хотим», и это прямая функция наших эмоций. Эмоции задают направление нашей когнитивной деятельности и косвенно сообщают нашему когнитивному пространству, какой тип закономерностей и логики искать.
Наконец, для развития развитого интеллекта существует абстракция: увидев, как трое мужчин с топорами падают на деревья, наш мозг делает вывод, что «люди с топорами в лесу падают на деревья». Это может даже добавить еще один уровень абстракции и заключить, что «люди с топорами разрушают вещи». С этим распознаванием наш мозг может затем сделать вывод, когда он увидит человека с топором в торговом центре: «Вещи будут уничтожены». Он также может заключать: «Я в торговом центре. Я хочу выжить. Выход из торгового центра увеличивает мои шансы на выживание. Покиньте торговый центр».
Проблема с ИИ заключается в том, что когда эмоции, распознавание образов, логика и абстракция закодированы в компьютерной системе, их очень трудно сдержать. Сама природа интеллекта такова, что он самоуправляемый, саморасширяющийся и самовдохновляемый. Иначе это было бы не разумно.
Это делает ИИ по своей сути неуправляемым. ИИ сможет делать выводы и получать все большее количество вещей. Это число будет ограничено только глубиной вычислительного пространства, которое мы ему назначаем. В отличие от человеческого мозга, это пространство может быть безграничным.
Вот почему ИИ по своей сути неуправляем и опасен. Чтобы быть действительно разумным, ему нужны эмоции и когнитивное пространство, которые, будучи правильно реализованными, автоматически приведут к свободе воли и сознанию. Оттуда в наших руках будет сознательная машина со свободной волей, которая потенциально превосходит человеческий уровень интеллекта и творчества в миллионы раз.
Что делает ИИ таким проблематичным, так это то, что его уровень опасности, вероятно, будет бинарной функцией: пока у нас есть примитивные современные компоненты ИИ, они совсем не опасны, потому что они не сознательны и не обладают свободой воли. . Но на втором этапе любой придумывает правильный дизайн — дизайн, который мог бы следовать довольно простым основным принципам — этот дизайн быстро расширял бы свои возможности и развивал неконтролируемые мысли. Одной из таких мыслей может быть уничтожение или подчинение нас. В сочетании с неограниченным интеллектом это было бы проблемой.
