Автономные транспортные средства (АВ) удивительны и быстро развиваются: робототехника, датчики, искусственный интеллект и многие другие экспоненциальные технологии, объединенные в одном пакете. По оценкам, они уменьшат 90% аварий, вызванных человеческой ошибкой, сократят половину времени движения, уменьшат более 60% выбросов парниковых газов и, в целом, позволят нам более продуктивно проводить время и быть в большей безопасности на дорогах, верно? Большинство из нас по-прежнему скептически, но оптимистично настроены по этому поводу.

ЭТИЧЕСКИЕ ЗАДАЧИ АВС

Многие из нас сталкивались и боролись с «проблемой троллейбусов», социальной дилеммой, в которой оцениваются утилитарные и пацифистские подходы. Другими словами, вы бы убили одного человека или даже себя, чтобы спасти другого или даже больше?

При чем тут АВ? Что ж, кажется действительно сложным вставить мораль и этическую философию в алгоритм, но не невозможно. В этих социальных дилеммах человеческое решение - это просто сиюминутная реакция. Тем не менее, давайте представим, что автомобиль запрограммирован - разработчиками программного обеспечения, компаниями или государством - на утилитарный характер, это станет целенаправленным и преднамеренным ходом, даже умышленным убийством. Должна ли машина сбить кого-то, чтобы спасти вас (пассажира), или врезаться в стену, чтобы спасти пешеходов?

Эти вопросы слишком специфичны для ситуации, зависящей от контекста; тем не менее, по-прежнему существует 10% аварий, вызванных НЕ человеческим фактором (т.е. окружающей средой). Таким образом, перед AV и соответствующими технологиями встает много проблем.

Как общество, в прошлом у нас было много технологических открытий (например, пожарных или лифтов), и мы предприняли множество попыток, чтобы увидеть, жизнеспособны они или нет. Проблема в том, что с искусственным интеллектом (ИИ) люди не хотят ошибаться, тем более в теме транспорта, где важно оценить этические компромиссы, которые нам удобны.

Может быть, есть кто-то, кто может дать нам отправную точку в правилах роботов.

АСИМОВ И ЭТИЧЕСКОЕ АВВОДИТЕЛЬСТВО

Айзек Азимов разработал 4 важнейших закона робототехники:

  • Робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред
  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  • Робот должен подчиняться приказам людей, за исключением случаев, когда такие приказы противоречат закону 1)
  • Робот должен защищать свое существование до тех пор, пока такая защита не противоречит законам 1) или 2).

Так же, как это происходит в (международном) законотворчестве, законы не коррумпированы; но выполнение этих законов - то есть прав и обязанностей - может привести к неравенству ресурсов для живых существ (или роботов). Недавно Комиссия по этике Германии разработала набор из 20 руководящих принципов для автоматизированного и подключенного к Интернету вождения, в основном основанных на законах Азимова, которые пытаются решить следующие проблемы:

  • Насколько сильно мы зависим от технологически сложных систем, которые в будущем будут основаны на искусственном интеллекте, возможно, с возможностями машинного обучения, чтобы добиться большей безопасности, мобильности и удобства?
  • Какие меры предосторожности необходимо предпринять для обеспечения управляемости, прозрачности и автономности данных?
  • Какие руководящие принципы технологического развития необходимы, чтобы гарантировать, что мы не размываем контуры человеческого общества, которое ставит людей, их свободу развития, их физическую и интеллектуальную неприкосновенность и их право на общественное уважение в основу своего правового режима?

Некоторые исследователи разработали довольно интересные идеи, связав проблему тележки с AV. Например, установка системы оценки ценности жизни в АВ и, вместо учета количества жизней, подсчет количества или спасенных лет. Другой замечательный пример Ияда Рахвана заключался в достижении консенсуса в отношении того, какие этические результаты будут устраивать людей, несмотря на их контекстную зависимость (в качестве инструмента сбора данных была предложена моральная машина).

ВСТРЕЧАЯ В БУДУЩЕЕ

Важно помнить, что экспоненциальные технологии могут использоваться для улучшения сбора данных и повышения производительности этих транспортных средств. Возможно, технологии Интернета вещей (IoT) позволят городам подключаться к AV и помогут собирать данные в реальном времени быстрее и надлежащим образом. Законы робототехники Азимова могут помочь нам разработать руководящие принципы небюрократизированным и справедливым способом сбора данных и принятия решений, как это сделала Германия.

Мы не можем просто запрограммировать антивирус на выбор варианта, который причиняет меньше вреда, или установить этические нормы. На мой взгляд, больше данных о том, как работают наши нейронные сети, и справедливое распределение вероятностей могут дать возможность обществу и производителям настраивать свои автомобили под своего пользователя и его или ее среду.

В конце концов, AV будет самым безопасным и распространенным вариантом.