IBM не одобряет любые технологии, которые могут привести к расовому профилированию.
В письме конгрессу, отправленном 8 июня, генеральный директор IBM Арвинд Кришна сделал смелое заявление относительно политики компании в отношении распознавания лиц. IBM больше не предлагает универсальное программное обеспечение IBM для распознавания лиц или анализа, - говорит Кришна.
«IBM решительно выступает против и не будет попустительствовать использованию любых технологий, включая технологию распознавания лиц, предлагаемых другими поставщиками, для массового наблюдения, расового профилирования, нарушения основных прав и свобод человека или любых целей, которые не соответствуют нашим ценностям и Принципам Доверие и прозрачность ». Компания остановила все разработки по распознаванию лиц и не одобряет любые технологии, которые могут привести к расовому профилированию.
Проблема с распознаванием лиц
Этика технологии распознавания лиц ставилась под сомнение в течение многих лет. Тем не менее, никаких изменений в принятии официальных законов, запрещающих использование этой технологии, не было. Фактически, сегодня многие правоохранительные органы активно используют технологию распознавания лиц. Например, на веб-сайте Интерпола есть целый раздел, в котором подробно описано, как они используют распознавание лиц для поимки беглецов, через глобальную базу данных изображений из 160 стран.
Однако, по мнению IBM, эта технология может быть еще не готова для использования в правоохранительных органах. «Мы считаем, что сейчас самое время начать общенациональный диалог о том, следует ли и как использовать технологию распознавания лиц национальными правоохранительными органами», - говорит Кришна. «Искусственный интеллект - мощный инструмент, который может помочь правоохранительным органам обеспечивать безопасность граждан. Но поставщики и пользователи систем Al несут общую ответственность за обеспечение того, чтобы Al проверялся на предвзятость, конкретность при использовании в правоохранительных органах, и что такое тестирование на предвзятость проверялось и сообщалось ».
Предвзятость в современных алгоритмах распознавания лиц
В декабре 2019 года Национальный институт стандартов и технологий (NIST) опубликовал исследование, в котором были обнаружены большие различия в точности многочисленных современных алгоритмов распознавания лиц.
Ложные срабатывания
Ложноположительный результат - это когда система сообщает, что лицо совпадает с записью в базе данных, хотя на самом деле это не одно и то же лицо. Самая большая вопиющая проблема заключалась в том, что количество ложных срабатываний было намного выше среди лиц африканского и азиатского происхождения. Напротив, они были самыми низкими среди восточноевропейцев. Исследование показало, что «этот эффект в целом велик, с увеличением количества ложных срабатываний между странами в 100 раз».
Кроме того, они обнаружили, что количество ложных срабатываний чаще встречается у женщин, пожилых людей и маленьких детей.
Ложноотрицательные
Ложноотрицательный результат - это когда система сообщает, что лицо не соответствует ни одной записи в базе данных, хотя на самом деле оно есть в базе данных. Это особенно опасно в аэропортах или на пограничных переходах. Если система проверяет лица по криминальной базе данных, она потенциально может позволить опасным людям пройти проверку безопасности.
Исследование NIST показало, что количество ложноотрицательных результатов было самым высоким среди азиатов и американских индейцев и самым низким среди кавказцев и афроамериканцев.
Как бойкот IBM технологии распознавания лиц повлияет на отрасль?
IBM долгое время находилась в авангарде разработки машинного обучения. Их система обработки естественного языка, IBM Watson, считается одной из лучших систем вопросов и ответов в мире. Помимо NLP, IBM также проделала впечатляющую работу в области компьютерного зрения с Watson Visual Recognition. Их достижения пользуются большим уважением в сообществе ИИ, и в результате их голос имеет вес.
Положительное влияние позиции IBM на распознавание лиц
Когда такая крупная компания занимает прочную позицию в области распознавания лиц, она обязательно вызовет фурор. На самом деле решение IBM, похоже, уже вызывает эффект домино в отрасли. После объявления IBM Microsoft сделала заявление о прекращении продаж технологий распознавания лиц американским полицейским управлениям.
С другой стороны, другие компании могут воспользоваться остановкой IBM разработки распознавания лиц. Теперь на рынке больше места для других компаний и стартапов. В худшем случае ничего не изменится. Компании могут продолжить разработку алгоритмов распознавания лиц для продажи правоохранительным органам, не беспокоясь о последствиях.
В идеале другие разработчики начнут вкладывать больше времени и денег, чтобы гарантировать, что их алгоритмы свободны от предвзятости. Будем надеяться, что больше компаний сделают шаг назад, чтобы изучить влияние новых технологий, прежде чем выпускать их.
Генеральный директор IBM считает, что предубеждения, существующие в современных алгоритмах распознавания лиц, требуют полного прекращения их использования. Они призывают правительства и поставщиков обеспечить отсутствие предвзятости в их алгоритмах, прежде чем внедрять их в жизненно важные сферы общества, например в правоохранительные органы.
Многие технологии искусственного интеллекта появляются быстрее, чем правительства могут регулировать. Будем надеяться, что позиция IBM дает возможность другим крупным технологическим компаниям и стартапам задуматься об этике, прежде чем продвигаться вперед.
Чтобы узнать больше о распознавании лиц, посетите:
- Что такое распознавание лиц? - Приложения и как это работает
- Является ли современное распознавание лиц предвзятым?
Не забудьте подписаться на меня в Medium и Twitter.
Оригинальная статья опубликована с разрешения.
Получите доступ к экспертному обзору - Подпишитесь на DDI Intel
