Соответствие шаблону

Куда ведет нас "социальная дилемма"

Новый популярный документальный фильм Netflix - тревожный сигнал, на который никто не ответил

Снова добро пожаловать в сопоставление шаблонов, еженедельный информационный бюллетень OneZero , который помещает самые интересные технические новости недели в контекст.

В первых сценах Социальная дилемма, популярной новой документальной драмы Netflix о темной стороне социальных сетей, ряд нервных участников интервью, кажется, наталкиваются на простой вопрос: «В чем проблема?»

Фильм и его герои - бывшие сотрудники Google, Facebook и других технологических гигантов, а также несколько сторонних критиков, таких как профессор Гарвардского университета и автор книги Эпоха слежки Шошана Зубофф, - потратили следующие 90 минут, бросая все, что у них есть на этот вопрос. В конце концов, зритель остается убежденным, что проблема действительно существует, причем срочно, даже если ее сложно описать в нескольких словах.

Тем не менее, как мы видели снова и снова - совсем недавно, когда бывший сотрудник Facebook сообщил в свисток о неспособности компании остановить вмешательство в выборы и кампании дезинформации по всему миру, - забить тревогу о том, что социальные сети сломаны, легче, чем исправить это.

Узор

Люди, которые помогли создать социальные сети, теперь хотят спасти нас от этого.

  • Проблема, по мнению The Social Dilemma, заключается в том, что основанная на рекламе бизнес-модель, основанная на вовлечении, которая стала доминировать в Интернете, в основном построена на манипуляциях. Приложения социальных сетей манипулируют психологией нашего мозга, заставляя нас проверять свои устройства и обновлять ленту. Сами каналы наполнены контентом, который, в свою очередь, манипулирует нашими эмоциями, чтобы повысить вовлеченность и продать нам что-то. И эта целенаправленная манипуляция, которая эксплуатирует наши страхи, предубеждения и тщеславие, не только вредна для нас как отдельных людей, но и разрывает целые общества.
  • Фильм лучше всего работает как тревожный сигнал для массовой аудитории о том, что что-то не так с базовой структурой социальных сетей, и в результате они заражают общество в целом. Это своего рода фильм, который люди, знакомые с работой технологической индустрии, будут критиковать и находить разочарование, а в некоторых случаях все равно рекомендовать своим менее информированным друзьям и родственникам. полемика, это мощно, при условии, что вы сможете преодолеть вызывающую LOL глупость инсценированных инсценировок, в которых изображена несчастная семья, преследуемая push-уведомлениями.
  • Но если Социальная дилемма в значительной степени удастся ответить на первый вопрос («В чем проблема?»), Есть вторая, важная, постановочная сцена, о которой фильм, кажется, забывает по ходу фильма. Это когда главный реальный персонаж фильма, защитник «гуманных технологий» Тристан Харрис, рассказывает, как он разочаровался в своей работе в качестве молодого дизайнера в Google и в конце концов написал взрывную внутреннюю презентацию, которая потрясла компанию до глубины души - или так казалось. В презентации утверждалось, что продукты Google вызывают привыкание и вызывают вред, и что компания несет моральную ответственность за решение этой проблемы. Он лихорадочно разошелся в рядах компании, быстро дошел до стола генерального директора, и коллеги Харриса завалили его восторженным согласием. «А потом… ничего», - вспоминает Харис. С сожалением признав, что их работа вредит людям, и пообещав добиться большего успеха, гуглеры просто вернулись к своей работе винтиками в механизме прибыли. То, что, по мнению Харриса, послужило «призывом к оружию», было на самом деле просто призыв к симпатиям и фаворитам - слабость на рабочем месте.
  • Урок кажется достаточно ясным: глубокие структурные изменения в интернет-индустрии, вероятно, произойдут не изнутри. Компании, которые стали самыми богатыми и могущественными в мировой истории, создав машину для манипуляций с чеканкой денег нельзя рассчитывать на то, что он добровольно выбросит его в окно. Как ни странно, этот урок временами ускользал от самого Харриса. В клипе с слушаний в Сенате ближе к концу документального фильма Харрис сказал сенатору, что ответом на проблемы, порожденные социальными сетями, было «возложить ответственность на платформы» - ответственные за защиту выборов, ответственность за психическое здоровье людей. дети, пользующиеся их продуктами. Это звучит как упрямая позиция, пока вы не поймете, что из нее следует, что платформы должны быть источником решений для разрушения, которое они нанесли.
  • Даже если они понимают проблему на каком-то уровне, технологические гиганты сталкиваются с огромными стимулами сохранить поддерживающую их бизнес-модель. В конце концов, если они не построят наиболее привлекательную платформу, возможно, какую-то другую менее щепетильный соперник будет. И поэтому они преуменьшают вред или оправдывают его, указывая на положительные моменты, или игнорируют их как прискорбные, но неизбежные, продукт человеческой природы, а не их собственные дизайнерские решения. В других случаях они признают вред, но представляют его как исправляемый с помощью различных настроек: найма дополнительных модераторов контента, партнерства со специалистами по проверке фактов, создания искусственного интеллекта. для обнаружения языка вражды. И они представляют собой тот же базовый аргумент в пользу зависимости от смартфона: больший пользовательский контроль над push-уведомлениями, приложения, которые отслеживают ваше экранное время. Некоторые из этих настроек были приняты по настоянию группы защиты интересов, которую Харрис основал после ухода из Google, под названием Центр гуманных технологий.
  • Еще один неизученный урок из истории Харриса о попытке изменить Google изнутри. Дело в том, что диагностировать проблему недостаточно, чтобы начать революцию, как он утверждал, что хотел сделать. Вы также должны предлагать решения. Это сложная задача, и одна из The Social Dilemma едва ли пытается ее решить. В фильме 80 минут убеждают зрителя в том, что социальные сети разрушат мир, если мы не будем действовать быстро. Только в последние 10 минут он показывает, как может выглядеть это действие, в серии видеороликов для интервью, которые кажутся второстепенными. Некоторые субъекты указывают на важность регулирования, даже не уточняя, какой тип регулирования они имеют в виду. Это расстраивает, поскольку обсуждение в политических кругах уже вышло за рамки фильма, касаясь деталей того, как должно выглядеть антимонопольное и конфиденциальное законодательство.
  • По мере того, как идут заключительные титры, испытуемые отбрасывают список #protips для использования в социальных сетях, которые в большинстве случаев смехотворно несоизмеримы с масштабом проблемы, которую только что подробно описал фильм. «Отключите все уведомления», - предлагают некоторые, как если бы это была радикальная идея. «Никогда не принимайте рекомендованное вам видео на YouTube; всегда выбирай », - советует пионер виртуальной реальности Джарон Ланье. Когда один человек предложил установить расширения Google Chrome, которые блокируют рекомендации, я был готов запустить свой пульт Amazon Fire TV через экран Netflix. Вы потратите целый фильм, убеждая людей, что социальные сети представляют собой реальную угрозу человечеству, и ваше решение - установка расширения Google Chrome?
  • Это подводит нас к основной проблеме фильма: Социальная дилемма в значительной степени отражает точку зрения Харриса и технарей-единомышленников. Следует отметить, что большинство из них - белые. и мужчина. Это могло бы помочь объяснить, почему они уделяют так много времени проблемам зависимости от смартфонов и политической поляризации - разрушению социального порядка - и так мало - тому, как социальные сети работают или не работают для маргинализированных и уязвимых слоев населения. Алгоритмическая дискриминация, язык вражды и порнография из мести заслуживают упоминания только вскользь. И это могло бы помочь объяснить, почему предлагаемые ими решения такие половинчатые и лишенные воображения.
  • Как указывает активист Эван Грир из Борьбы за будущее, в фильме почти полностью игнорируется способность социальных сетей объединять маргинализованных молодых людей или создавать социальные движения, такие как Black Lives Matter, которые бросают вызов статус-кво. Это упущение важно не потому, что оно оставляет документальный фильм односторонним, как некоторые жаловались, а потому, что понимание положительных сторон социальных сетей имеет решающее значение для проекта по устранению их неудач. (Я писал в предыдущем информационном бюллетене, что протесты BLM должны напоминать нам, почему социальные сети стоит исправлять.)
  • Справедливости ради следует отметить, что решение фильма о том, чтобы в нем больше всего участвовали бывшие технологи, могло бы повысить доверие к нему, когда дело доходит до сигнала тревоги для массовой аудитории. Людям, которые долгое время игнорировали предупреждения журналистов и ученых, возможно, списывая их как плохо информированные или основанные на повестке дня, может быть труднее игнорировать те же предупреждения, когда они исходят от тех самых людей, которые построили системы.
  • Но зашоренные взгляды этих технологов изначально были частью проблемы. Просить ту же группу идеалистов, получивших образование в Стэнфорде молодых белых мужчин диагностировать и решать проблему, созданную ими и их друзьями, также рискует повторить ошибки, которые привели нас к этой точке. Пара героев фильма кратко кивают на эту проблему: Мы позволяем технологам представить это как проблему, которую они могут решить, - говорит математик и писательница Кэти О'Нил, - но сам фильм не раскрывает это близко к сердцу. Это не просто вопрос оптики или политики идентичности: женщины, и цветные женщины в особенности, неизменно опережали кривую в выявлении предубеждений, неудач и несправедливостей онлайн-платформ. Однако голоса критиков, таких как Сафия Умоджа Нобл, Мередит Бруссард и Руха Бенджамин, отсутствуют в Социальной дилемме.
  • Этот момент был подтвержден страстным разгромом блога Захари Лоеба Librarian Shipwreck, в котором утверждается, что технические лидеры, создавшие этот беспорядок, должны нести ответственность за свои ошибки, а не повышать их до статуса спасителей только потому, что им сейчас жаль. Лоеб, доктор философии. Кандидат истории и социологии науки указывает на показательный момент, когда Харрис попытался провести различие между социальными сетями и другими формами технологий, разглагольствуя о том, как никто не расстраивался, когда появлялись велосипеды. Фактически, многие люди расстраивались, когда появлялись велосипеды, как знает или, по крайней мере, подозревает любой настоящий студент, изучающий историю технологий. То, что делает точку зрения Харриса настолько интересной, не только в том, что он ошибается, но и в том, что он настолько уверен в себе, будучи таким неправым, - пишет Лоеб.
  • Еще одна критика, которую стоит прочитать, исходит от Пэрис Маркс, ведущего левого подкаста Технология не спасет нас. Независимо от того, разделяете ли вы его политику или нет, Маркс кратко утверждает, что Социальная дилемма ошибочно определяет социальные сети как первоисточник современной борьбы, игнорируя основные экономические условия: четыре десятилетия неолиберализма, рост неравенство и коррупция . Эта критика перекликается с некоторыми ключевыми моментами новой онлайн-книги Кори Доктороу Как разрушить капитализм слежки, в которой утверждается, что то, что Зубофф называл капитализмом слежки, лучше понимать просто как капитализм. ”
  • Несмотря на все его недостатки, есть основания полагать, что документальный фильм для массового рынка, такой как Социальная дилемма, который был снят и активно продвигался на Netflix, крупнейшем в мире потоковом сервисе, был необходим для передачи на публику. широкая аудитория уже почувствовала чувство безотлагательности, которое уже ощущали критики социальных сетей и даже многие из их бывших проповедников. С этой точки зрения, тот факт, что в фильме было так мало решений, может быть к лучшему, учитывая, что его главные сюжеты - не те люди, на которых мы в любом случае должны полагаться в поисках решений.
  • Самый большой риск здесь заключается в том, что у людей складывается впечатление, что ответ включает удаление Facebook - как некоторые уже делают, согласно CNBC - или просьбу сделать лучше, как собственный фильм подсказывают слабые призывы к действию. Ответ, как в фильме удается прояснить в нескольких наиболее ярких моментах, должен заключаться в устранении бизнес-стимулов, которые питают всю систему. Как сделать это, не испортив то, что стоит держать в социальных сетях, и не усугубить ситуацию - вот настоящая социальная дилемма. В лучшем случае часть людей, которые смотрят этот фильм, теперь будут готовы к другому фильму, который действительно серьезно относится к этой дилемме.

Подземные течения

Скрытые тенденции, истории и случайные анекдоты стоят вашего времени

Темы недели

- « У этой опоры электропередачи есть небольшая проблема. Вы можете это заметить? » Так начинается удивительно захватывающая ветка от @tubetimeus о том, что изношенный C-образный крючок рассказывает нам о сбоях в обслуживании PG&E, которые наряду с изменением климата способствовали еще более разрушительным сезонам лесных пожаров в Калифорнии.

- Как Uber использовал водителей, обеспечивающих безопасность людей в своих автономных транспортных средствах, в качестве« зон морального разрушения ». Эта короткая ветка Алекса Херна из Guardian основана на концепции, представленной в 2016 году Мадлен Клэр Элиш Института исследований данных и общества.

Спасибо за чтение Pattern Matching. Дайте мне советы и отзывы, ответив на этот пост в сети, через прямое сообщение Twitter на @WillOremus или по электронной почте [email protected].