Microsoft и IBM подписали «Римский призыв к этике ИИ», пообещав Ватикану, что их ИИ защитит планету и ее людей.
История полна случаев, когда светские лидеры заключали такие сделки в обмен на санкцию Церкви на ведение войны, недавно признанной «священной», а иногда просто на ее мягкое игнорирование, когда действия упомянутых лидеров и близко не соответствовали такому описанию.
Разумеется, ни одно из этих соглашений не является обязывающим. Обстоятельства меняются, индульгенции пересчитываются, и вчерашние благословенные сыновья и дочери становятся завтрашними отступниками.
Единственным смягчающим фактором является страх подписавшего перед вечным проклятием (хотя и об этом можно было договориться).
Так что же выйдет из резолюции?
Microsoft и IBM будут обязаны защищать права всего человечества и возлагать на себя обязанность разъяснения, чтобы мы, крестьяне, понимали не только функцию алгоритмов ИИ, но и их цель и задачи», — говорится в истории в Файнэншл Таймс.
Взамен их крестовые походы по созданию ИИ благословляются.
Я пришел к выводу, что корпорациям всех мастей нужен топ-менеджер, отвечающий за этику и мораль; главный специалист по морали, который действует как священник или раввин, обеспечивая оперативное руководство с точки зрения последствий их решений, выходящих за рамки материальных мер.
Наша вновь обретенная любовь к «цели» в корпоративном поведении делает такую позицию еще более актуальной, хотя я не думаю, что ее должен занимать какой-то прославленный маркетолог или консультант по менеджменту, который говорит только о каноне исследования потребительских тенденций. Компаниям нужно меньше заявлений о миссии и коммуникационных стратегий, а также больше понимания того, что их поведение означает для людей и планеты в режиме реального времени.
Точно так же я не вижу, чтобы у этой должности были какие-либо правоохранительные органы, поэтому меньше испанской инквизиции и больше любезного приходского священника, который помогает семьям работать, преодолевая трудности повседневной жизни.
Существует широкая пропасть между Римским призывом к этике ИИ и его реализацией, и без создания какого-либо механизма перевода или применения в компаниях его реализация будет оставлена на усмотрение пресс-релизов и других «идейных лидеров» о его успехах. Они на самом деле не «обязаны» что-либо делать, вопреки языку документа.
Любые неудачи в принятии этого, конечно, обрекают компании на ад, так что это будет некоторым утешением.
[Первоначально это эссе появилось на сайте DaisyDaisy]