О важности изучения и применения этики в качестве технолога.
Эта статья основана на эпизоде Хороший робот — Сарита Амруте о понимании технической этики с нуля. Это краткое изложение слов Амрута, и я попытался расширить свой мыслительный процесс, объясняя их идеи.
Кейс с набором инструментов
Грета Тунберг, шведская активистка-эколог, в 2021 году опубликовала твит в поддержку фермеров в Индии, которые протестовали против сельскохозяйственных реформ, направленных на то, чтобы принести пользу крупным корпорациям, а не интересам отдельных лиц. В своем твите она добавила набор инструментов, который поможет людям понять, из-за чего происходят протесты и как люди могут помочь поддержать их дело. Однако, когда 26 января тысячи фермеров приняли участие в насильственных акциях протеста, полиция Дели начала расследование, заявив, что инструментарий спровоцировал протесты.
Полиция Дели обратилась к Google, чтобы раскрыть IP-адреса создателей и редакторов инструментария. Google отправил IP-адреса и местонахождение редакторов и создателей, что сделало участников инструментария уязвимыми для полиции Дели.
В этом случае показано, как онлайн-общение может создать уязвимость, и возникает много вопросов об этических технологиях. Должны ли быть разрешены компаниям совместное использование частных местонахождений отдельных лиц? Если да, то при каких условиях? Как мы можем использовать технологии гуманно?
Хорошая технология должна позволять поддерживать социальные и биологические отношения.
Чей голос или точка зрения не слышны в комнате?
В современном мире компании почти не задаются вопросом, как этично использовать технологии. У небольших компаний нет ресурсов, чтобы тратить их на этику. Крупные компании часто создают команду по разработке политики, например ответственную команду ИИ, однако эта команда может быть не такой мощной, как команда по продукту, поскольку компании придают большее значение технологическим инновациям, а не этике для роста компании. Таким образом, для нас, технологов, важно узнать об этике и подумать о том, как ответственно внедрять технологии.
В следующий раз обдумайте эти вопросы:
- Чей голос или точка зрения не слышны в комнате?
- Кто будет создавать материал?
- Кому выгодно определенное расположение технологий и обществ? Кто еще не включен?
- Что такое практическая повседневная этика?
- Какова ваша этика на рабочем месте?
Алгоритмы против Абсолютной Истины
Технологи работают с алгоритмами. Алгоритмы сортируют, классифицируют и делают всевозможные вещи, но они не обязательно ищут абсолютную истину. Например, алгоритмы (например, в машинном обучении) могли бы ответить на корреляции, которые приносит азиат, однако они не могут на самом деле сказать вам, что значит быть азиатом. Кроме того, данные, которые мы подаем в наши алгоритмы, часто лгут. Данные, собираемые сегодня, игнорируют меньшинства, поэтому алгоритм также отражает предвзятость данных в своих результатах.
Это не означает, что мы не должны извлекать выгоду из автоматизации, которую приносит алгоритм, а скорее сосредоточиться на том, как алгоритмы могут быть построены по-разному, по-разному и с разными значениями.
Спасибо за прочтение! Я резюмирую Как наши данные кодируют систематический расизм в следующий раз :)
Пояснение | Что случилось с делом Диши Рави «Инструментарий? Расследование полиции Дели может зайти в тупик
Это дело и последующее непродолжительное заключение Рави стали предметом вирусных дебатов не только в Индии, но и…www.outlookindia.com»
