Когда кто-то другой видит последствия того, что вы написали, более ясно, чем вы сами.
В последнее время я больше думаю об этике автономных систем и, в частности, о взаимодействии между нормами группового уровня (общества) и нормами системного уровня (машины).
На выходных я заметил кое-что в этом духе, что я пропустил: Когнитивное обрамление для изменения нормы Криштиану Кастельфранки. Эта глава из серии Springer Координация, организации, институты и нормы в агентных системах, которая появилась в 2015 году на Международной конференции по автономным агентам и мультиагентным системам. AAMAS2015 был посвящен, в частности,
проектирование и построение открытых систем [для] разработки механизмов управления, способствующих взаимодействию, способствующему достижению индивидуальных или коллективных целей.
Важная работа.Поэтому я был рад узнать, что Кастельфранки использовал статью, которую я написал в соавторстве со Стивеном Галубом, чтобы прояснить лежащую в основе природу норм. Результат — очень полезный анализ того, как мультиагентные социальные симуляции опираются на непассивных нормативных агентов и ограничиваются ими. Статья завершается рекомендацией методов расширенного теоретического моделирования коллективных аспектов нормативной динамики в системах, в которых совместно живут люди и ИИ.
Хорошо сказано.
