Наше общее определение предвзятости не очень помогает в контексте ИИ, где существует широкий набор проблем для разных типов пользователей.

Этические рамки для любой технологии как таковые были одной из моих любимых и близких к сердцу тем. Несколько недель назад я писал ответ на консультацию по Австралийской системе этики для искусственного интеллекта, , которая была приглашена Министерством промышленности, инноваций и науки .

Один из критических разделов, очевидно, был связан с предвзятостью, которая была связана с определением принципа справедливости для ИИ.

В проекте документа предлагается справедливость, поскольку один из основных принципов ИИ объясняет это примерно так: Разработка или использование системы ИИ не должно приводить к несправедливой дискриминации. против отдельных лиц, сообществ или групп. Это требует особого внимания, чтобы гарантировать, что «обучающие данные» не содержат предвзятости или характеристик, которые могут привести к несправедливому поведению алгоритма.

Однако в документе не прописан какой-либо подход для подтверждения этой справедливости и отсутствия предвзятости.

Если вы копнете глубже, чтобы понять предвзятость и справедливость как таковые, вы скоро поймете, что определение предвзятости может быть нецелесообразным, и мы, возможно, что-то упускаем.

По-видимому, определение того, как должно выглядеть отсутствие смещения, может оказаться довольно запутанным, не говоря уже о том, чтобы иметь какие-то формулы или уравнения, которые можно передать в алгоритм AI / ML.

Давайте быстро взглянем на базовое определение смещения.

Как говорится в определении Википедии:

Определение 1. Предубеждение - это несоразмерный вес в пользу или против одного предмета, человека или группы по сравнению с другим, что обычно считается несправедливым.

Пристрастие означает односторонность, отсутствие нейтральной точки зрения или непредвзятость. Предубеждение может проявляться во многих формах и связано с предубеждениями и интуицией.

Определение 2. В науке и технике предвзятость - это систематическая ошибка. Статистическая ошибка возникает из-за несправедливой выборки населения или из-за процесса оценки, который в среднем не дает точных результатов.

Здесь наше описание интереса будет первым. Но позвольте мне подчеркнуть, что второе определение для машинного обучения и, следовательно, AI также имеет отдаленное отношение и представляет наш интерес.

Мы уже предвзято относимся к предвзятости!

Предвзятость, о которой обычно говорят, носит исключительно модный характер. Возможно, потому, что он привлекает внимание средств массовой информации и часто является довольно оскорбительным - расовая предвзятость, предвзятость, связанная с возрастом или полом и т. Д.

Но мы не можем говорить обо всех других типах предубеждений, которые накладывает на нас наш опыт и случайности: о нашем восприятии, реакциях, литературных предпочтениях, технологическом выборе и многом другом.

По иронии судьбы, мы предвзято говорим о предвзятости!

Можете ли вы вспомнить другие виды предубеждений?

При разработке системы искусственного интеллекта мы склонны забывать о предубеждениях, которые не влияют напрямую на машинное обучение, но конечный результат по-прежнему не подходит (и необъективен) для конечных пользователей.

1. Принятие технологии

Не все пользователи смартфонов высокого класса или компьютеров высшего класса. Иногда это просто вопрос выбора. Мне не нравятся некоторые возможности социальных сетей, и поэтому я держусь от них подальше - должен ли я оказаться в невыгодном положении из-за этого из-за каких-либо льгот, на которые в противном случае я мог бы иметь право?

Например, если кто-то сознательно не хочет участвовать в LinkedIn, теряет ли он право подавать заявление на корпоративную работу? Следует ли системе отслеживания кандидатов (ATS) игнорировать их заявки (или лишать их приоритета) на этом основании? Не следует ли рекрутерам пытаться понять основную причину отказа от использования LinkedIn, прежде чем принимать какое-либо решение? Считаете ли вы кого-то антисоциальным, если он не пользуется Facebook? Или скучно, если они не пользуются Instagram?

Будет ли решение ИИ, оценивающее кого-то на основе этих аспектов, считаться менее предвзятым?

2. Экономический фон

Это распространенный сценарий, когда доступность технологических ресурсов для людей зависит от экономического положения или их финансовых возможностей.

Может ли мой базовый телефон с недорогим тарифным планом мобильной передачи данных стать проблемой для конкретного приложения ИИ, которому может потребоваться передать огромный объем данных в облако, прежде чем производить какой-либо значимый результат? Могу ли я получить отказ в обслуживании или результат некачественного решения только потому, что я не мог позволить себе более крупный план передачи данных или подключение с высокой пропускной способностью? Не каждый может позволить себе подключение 5G в любое время!

Считаем ли мы это фактором при разработке решения AI?

3. Региональные аспекты

По нескольким причинам пользователи могут выбрать проживание в определенном регионе. Кому-то может нравиться жить в сельской местности или в пустыне, или кому-то может нравиться жить в многоэтажном доме, и то же самое. Это могло произойти из-за осознанного выбора или, может быть, из-за того, что не оставалось выбора.

Однако я заметил, что процентная ставка по ипотечным кредитам часто зависит от региона. Если кто-то живет в многоэтажном доме, который также считается недвижимостью с высоким уровнем риска, процентная ставка может отличаться (может быть выше) по сравнению с недвижимостью без права собственности. Следует ли наказывать за предпочтения в отношении места проживания, независимо от их платежеспособности?

Вот классический пример существования такого предубеждения: https://www.bloomberg.com/graphics/2016-amazon-same-day/

4. Зависимости и особые потребности

Как насчет детей или пожилых людей, использующих технологии? Часто существуют требования доступности с точки зрения инфраструктуры, но ни одно из них не относится к технологии. Как часто вы сталкиваетесь с технологией, удобной для всех возрастных групп?

А как насчет людей с ограниченными возможностями или физическими ограничениями - разве это нельзя учитывать?

5. Предвзятость автоматизации

В процессе, когда необходимо обработать большой объем данных, чтобы прийти к какому-либо выводу, часто рекомендуется использовать решения на основе искусственного интеллекта.

Однако всякий раз, когда речь идет о принятии решения, эти типы рекомендаций потенциально могут стимулировать лицо, принимающее решение, и значительно повысить шансы выбора рекомендованного решения в качестве окончательного.

Вы заметили, что варианты по умолчанию в форме ввода ИТ-системы обычно выбираются в качестве ответа? Причин может быть много, может быть, мы ленивы или у нас есть усталость от решений. Это также может быть наша предвзятость к компьютерной системе, то есть предвзятость автоматизации, когда мы предполагаем, что это (рекомендуемый вариант) лучший выбор из-за предположения, что компьютер не может ошибаться. Это в основном приводит к нашему умственному и интеллектуальному смирению.

Предвзятость исходит не от алгоритмов искусственного интеллекта, а от людей.

думаю

Типичная предвзятость, о которой мы часто говорим об ИИ, плохо определена. Наше общее определение предвзятости не совсем полезно в контексте ИИ, где существует широкий набор проблем.

Фактически, в некотором смысле, ИИ, демонстрирующий предвзятость, является хорошим показателем и, скорее, его силой. AI делает нашу предвзятость видимой для всех. Нам не нужно работать над ИИ или алгоритмами, чтобы устранить нашу предвзятость, но работать над собой, обучать и очищать нашу голову, ИИ будет отражать только то, как мы думаем и что мы делаем.

Давайте переопределим предвзятость ИИ как нечто, чего нам не нужно избегать. Вместо этого позвольте ИИ разоблачить это. Предостережение: в случае обнаружения мы должны нести ответственность за это и исправить это!

Об авторе: Я помогаю предприятиям находить и решать значимые проблемы, часто используя вместе новейшие технологии и инновационные методы. Моя цель - разумное внедрение технологий. Я также являюсь автором отмеченной наградами книги об Интернете вещей.

Хотите обсудить инновации, технологии, человечество и т. Д.? Свяжитесь со мной…