Команда ученых использовала А. создать убедительное факсимиле исторической речи, которой никогда не было, и поставить угрозу фальшивой информации во главу угла.

Даже издалека узнаешь голос: драчливый, зловещий, со знаменитым бульдожьим рычанием. Без сомнения, это Никсон. Затем вы видите экран телевизора, на котором изображен самый оскорбляемый президент 20-го века за своим столом в Овальном кабинете, в окружении флагов, который обращается к народу.

Но это не совсем так; Никсон, кажется, что-то говорит о мертвых астронавтах. «Эти храбрые люди, Нил Армстронг и Эдвин Олдрин, знают, что на их выздоровление нет никакой надежды», - серьезно произносит он. «Но они также знают, что в их жертве есть надежда для человечества». Двойной дубль не совсем подходит: даже для Хитрого Дикки это настоящий прорыв для книг.

Кадры, конечно же, фальшивые, точнее, дипфейк. Речь в каком-то смысле аутентична: она была написана для Никсона 40 лет назад одним из его спичрайтеров, Уильямом Сэфайром, на случай, если первая посадка на Луну не удалась и экипаж Аполлона-11 был потерян. Как все мы знаем, слова так и не были произнесены. Армстронг и Олдрин приземлились и благополучно вернулись на Землю; действительно, Никсон был там, чтобы поприветствовать их после приводнения на борту корабля ВМС США посреди Тихого океана.

Готовая вещь не только устрашающе убедительна; он направлен на то, чтобы заставить нас пересмотреть то, что мы считаем исторической истиной.

Видеозапись, на которой Никсон читает эту речь, - это обман, придуманный творческими работниками из Центра продвинутой виртуальности Массачусетского технологического института, которые недавно продемонстрировали ее на фестивале Документальный фильм IDFA в Амстердаме. Названный « В случае лунной катастрофы », он представляет собой образец высокотехнологичной подделки. Работая вместе с техническими специалистами в Израиле и Украине, команда Массачусетского технологического института использовала передовые методы машинного обучения для создания нового звука выступления Никсона и накладывала его на отредактированные видеоматериалы. Готовая вещь не только устрашающе убедительна; он направлен на то, чтобы заставить нас пересмотреть то, что мы считаем исторической истиной.

Когда мы говорили за несколько дней до открытия, Франческа Панетта, недавно назначенный креативный директор Центра продвинутой виртуальности, объяснила мысли, лежащие в основе проекта. Дипфейки внезапно стали появляться повсюду и стали источником как забавы, так и беспокойства - будь то Трамп в неожиданной эпизодической роли в Во все тяжкие или видеоролики, в которых лица голливудских актрис сливаются с телом. тела порнозвезд (считается, что более 90% дипфейков в сети связаны с порно). Deepfake теперь даже кажется глаголом.

Но, хотя создатели дипфейков иногда копаются в истории, говорит Панетта, «было не так много проектов, которые пытались бы исследовать, что значит изменить исторические кадры убедительным образом. И мы знаем, что люди с большей вероятностью поверят чему-то, если это видео. Видеть - значит верить, верно?

Не то чтобы сделать хорошие дипфейки просто. Ферст Панетта и ее содиректор Хэлси Бургунд отредактировали исходный материал - который фактически был взят из печально известной речи Никсона об отставке в августе 1974 года - до двухминутного фрагмента. Затем они наняли актера Льюиса Д. Уиллера, чтобы тот прочитал всю речь и прослушал тысячи крошечных клипов Никсона, прежде чем имитировать их интонацию. В общей сложности в студии потребовалась изнурительная неделя.

В результате был получен обучающий набор, который украинская фирма Respeecher преобразовала с помощью искусственного интеллекта синтетического голосового производства, то есть интонации и речевых ритмов Уиллера, пересказанных в имитации голоса Никсона. Наконец, свежий звук и видео, на котором Уиллер зачитывает речь, были отправлены израильской компании Canny AI, которая сопоставила звук с исходной записью и использовала другую систему машинного обучения, чтобы изменить движения рта Никсона, чтобы все совпало. так называемая замена видео диалога.

«На самом деле очень сложно сделать дипфейк убедительным», - говорит Панетта. «В каком-то смысле это было почти облегчением». Даже за несколько дней до открытия в Амстердаме она и голландская команда все еще пытались синхронизировать рот Никсона со звуком, что было самым сложным этапом процесса.

Чтобы усилить иллюзию, Панетта и Бургунд решили создать в натуральную величину копию гостиной 1960-х годов, когда фильм показывался на старинном телевизоре («Вероятно, это второй раз, когда этот телевизор показывает« Аполлон-11 »», - шутит один из экипаж). Когда заходишь внутрь, чувствуешь себя как будто шагаешь назад во времени, к винтажному журнальному столику и обоям, вызывающим мигрень.

Одно дело - проиграть подобное видео на фестивале документальных фильмов, где контекст ясен; Учитывая, что в следующем году планируется разместить его в сети, беспокоится ли Панетта о том, что людей на самом деле могут одурачить? «Мы прекрасно понимаем, что не хотим создавать дезинформацию», - отвечает она. «Мы делаем все возможное, чтобы предотвратить это: блокчейн, водяные знаки».

Однако или где бы вы его ни увидели, «In Event of Moon Disaster» явно подчеркивает проблемы доверия: даже если вы знаете, что это конкретное видео является фальшивкой, голос Никсона слегка оцифрован? его движения головы выглядят естественно? - требуется время, чтобы приспособиться.

Но проект также ставит более широкие вопросы о том, как мы понимаем и обрабатываем исторические источники, особенно в тех случаях, когда они выглядят правдоподобными. Несмотря на все бесконечные теории заговора, связанные с высадкой на Луну, запись речи, оплакивающей астронавтов Аполлона-11, не обманула бы многих людей (Олдрин, во-первых, очень жив, и столь же оптимистично настроен, как всегда).

Риск возникает не столько тогда, когда подделка убедительна, сколько тогда, когда она опасно близка к истине или дает нам то, во что мы очень хотим верить, и когда мы ищем последнюю крошку доказательств.

Профессор Тим Хичкок, преподающий цифровую историю в Университете Сассекса, указывает на такие случаи, как так называемые феи Коттингли - печально известная мистификация 1910 года, в которой двум английским детям удалось убедить наблюдающий мир в том, что они захватили Фотографии фей в дикой природе. Афера была невероятно низкотехнологичной даже для того времени - девочки использовали камеру отца и позировали с иллюстрациями, вырезанными из книжек с картинками, - но, тем не менее, она произвела международный фурор. Даже сэр Артур Конан Дойл, изобретатель главного сыщика Шерлока Холмса, был одним из таких обманутых.

«Дипфейки, как и все мистификации, - это тесты Роршаха - они раскрывают то, чем мы одержимы в определенный момент».

В мистификациях нет ничего нового, - говорит Хичкок. «Но они, кажется, возникают с новыми видами технологий. Подумайте о братьях Люмьер, показывающих свой фильм о поезде в 1895 году, и об историях, на которые «аудитория произвела панику, потому что они думали, что это было правдой. Как будто мы каждый раз пытаемся приспособиться к возможностям ».

Тим Хван, исследующий А.И. и этика, соглашается. Дипфейки, как и все мистификации, - это тесты Роршаха, - говорит он. Они раскрывают то, чем мы одержимы в конкретный момент.

Так стоит ли нам действительно беспокоиться, и - если да - что с ними делать? Хван предполагает, что технология сама по себе может дать ответ: программные детекторы дипфейков развиваются почти так же быстро, как дипфейки, а Google и другие компании, недавно обеспокоенные своей репутацией как надежные, только заинтересованы в инвестировании. Учитывая, насколько сложно сделать дипфейк-видео убедительным (по крайней мере, пока), большинство людей уже неплохо справляются с задачей определения того, когда видео не является реальным: медленное моргание, обесцвечивание лица и несинхронизированные движения рта. - раздача подарков.

Правительственное законодательство - еще одна возможность, хотя Хван говорит, что его будет трудно сформулировать: «Как вы отличите его от других видов манипуляций, таких как Photoshop или спецэффекты в фильмах? Я не уверен, что нам нужен Великий законопроект о дипфейках 2020 года, скажем так ».

Хичкок, признавая угрозу, исходящую от дипфейков, не убежден в недавней моральной панике, которую они спровоцировали. Он снова указывает на братьев Люмьер. «Всего через несколько лет после зарождения кино люди смотрели фильмы без проблем и привыкли отделять вымышленные истории от, скажем, документальных. Как культура, мы приспосабливаемся ».

Он добавляет, что для историков в любом случае нет такой вещи, как объективный источник: «Вы постоянно просеиваете вещи, пытаясь выяснить, каким свидетельствам доверять. Это действительно важная часть того, чем занимаются историки ».

На самом деле, предполагает Хван, лучшим решением было бы отступить и спросить, почему мы вообще верим в эти вещи - если мы искренне верим в них. «Вместо того, чтобы ждать, пока машина скажет нам, что правда, а что нет, нам нужно доверять себе», - говорит он. «Компьютеры не могут нам в этом помочь».