То, как мы разрабатываем обучающее программное обеспечение следующего поколения, окажет огромное влияние на нашу жизнь. Профессор Джоанна Брайсон (@j2bryson) из Университета Бата раскрыла эту увлекательную тему вместе с Азимом Ажаром (@azeem), основателем The Expontial view, в этом невероятном подкасте.
Интеллект, этика и цифровая трансформация охватили их все. Вот основные уроки, которые мы извлекли:
- Искусственный интеллект — это ручка и бумага 21 века. Искусственный интеллект и машинное обучение — это «когнитивные протезы, позволяющие людям выгружать информацию в облако». Благодаря распознаванию голоса, фотографиям и умным устройствам мы можем сэкономить большую часть нашей жизни в Интернете. ИИ и машинное обучение дают нам возможность записывать, а также получать доступ ко всем этим данным!
- Предвзятость — одна из самых острых проблем ИИ с этической точки зрения. В настоящее время этот вопрос активно изучается. Если результаты будут успешными, слабость можно превратить в силу: модели искусственного интеллекта и машинного обучения можно использовать для обнаружения, измерения и, в конечном итоге, устранения предвзятости в процессах, ориентированных на человека!
- Объяснимость — очень серьезная и в значительной степени нерешенная проблема систем глубокого обучения. Понимание того, почему алгоритм машинного обучения предпринял или предложил определенное действие, важно не только для понимания того, были ли соблюдены моральные или этические нормы, но и для того, чтобы это было предписано недавними нормативными актами, такими как GDPR.
- Искусственный интеллект можно использовать с пользой, если применять его в качестве инструмента, улучшающего человеческий интеллект.
- Нам необходимо поддерживать модели ИИ и глубокого обучения с течением времени. Как и в случае с другими машинами (например, автомобилями), нам необходимо проверять состояние модели ИИ, чтобы избежать непреднамеренного ввода неверных данных! Поскольку эти системы продолжают учиться, мы должны убедиться, что предубеждения не влияют на наши модели ИИ.
НАШИ ПРЕДЛОЖЕНИЯ ДЛЯ ДАЛЬНЕЙШЕГО ЧТЕНИЯ
- понять, с какими этическими проблемами мы сталкиваемся, и появление сверхразума https://nickbostrom.com/ethics/ai.html
- прочтите одну из основополагающих статей профессора Брайсона: “Семантика, полученная автоматически из языковых корпусов, содержит человеческие предубеждения” (14 апреля 2017 г.)
- напрягитесь, прочитав пример со скрепкой: о том, как ИИ, внешне безобидный, может представлять очень серьезную экзистенциальную угрозу
