Slodderwetenschap (Небрежная наука) о стохастических попугаях - призыв к науке НЕ идти по пути, предложенному Гебру и Бендером
Эта статья представляет собой позиционный документ, написанный в ответ на печально известную статью Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими? »Тимнитом Гебру, Эмили Бендер и другими, которые на тот момент были таковыми. этого письма, все еще безымянного [далее Попугайская газета, 1]. Мне не хватает этики Parrot Paper, и я беспокоюсь о том, в каком направлении движутся информатика, машинное обучение и искусственный интеллект. В лучшем случае я бы охарактеризовал аргументацию и доказательную практику, воплощенную в Parrot Paper, как Slodderwetenschap (голландское название небрежная наука) - слово, которое в последнее время широко использовалось академическим миром в связи с делом Дидерика Стапеля в психологии [2]. Чего не хватает в Parrot Paper, так это трех критических элементов: 1) признания того, что это позиционный документ / пропагандистская статья, а не исследование, 2) четкое формулирование критических предпосылок и 3) явное рассмотрение компромисса между затратами и выгодами. чем простое перечисление потенциального вреда, как будто польза не имеет значения. Не учитывать эти три элемента - не лучшая практика ни для науки, ни для исследований.
Ключевые слова: наука, этика, модели, кибернетика.
Введение
Работа так называемой группы Этический ИИ в Google получила известность в общественной сфере из-за событий, касающихся ведущего автора Google статьи под названием Об опасностях стохастических попугаев: могут ли языковые модели быть Слишком большой? » Этот автор, Тимнит Гебру, обнародовала информацию в начале декабря 2020 года с жалобами на цензуру, нанесение вреда меньшинствам, системный расизм и ее уход / увольнение из Google. [3] Целью данной статьи является рассмотрение содержания этой статьи (или, по крайней мере, содержания, доступного из предпечатной версии, которая распространялась в течение последней недели декабря 2020 года или около того. Эта статья НЕ является о событиях, связанных с разработкой Parrot Paper, а скорее сосредоточен на содержании самого Parrot Paper. Это содержание кажется, как минимум, соответствующим определению Slodderwetenschap (голландский язык для небрежной науки). Я считаю, что содержание Parrot Paper и способ его представления вызывают серьезные этические вопросы. Сам процесс написания статьи, поднимающей такие вопросы, кажется прямо противоречит Этическому ИИ, однако авторы пишут так, как будто они говорят от Этического ИИ, что делает вывод читателей. вероятно, были бы втянуты, если бы их принадлежность к Google Ethical AI оставалась привязанной к ней. [4]
Взгляд со стороны раскрывает важные проблемы в Parrot Paper. Я не компьютерный ученый. Я практикующий философ науки; руководили учреждениями, занимающимися наукой о сложности (с качественной точки зрения) и кибернетикой; руководил программой этики в Роттердамской школе менеджмента; был главным редактором успешного академического журнала, недавно завершившего редактирование второго издания Собрание сочинений Уоррена МакКаллока [5]; и разработали альтернативный подход к поиску, основанный на идее «найти что-то подобное», которая воплощена в нескольких инструментах в Интернете [6]. Моя академическая работа включает публикации по этике, менеджменту, философии науки, сложным системам, дизайну, когнитивным наукам и кибернетике. В двух других случаях [7,8] я приводил другие примеры Slodderwetenschap, и каждый раз я надеюсь, что это будет последний. Эта надежда остается с этой статьей.
Необходимо заранее сделать три заявления об отказе от ответственности. Во-первых, я публично описал действия доктора Гебру, отличные от тех, которые можно было бы справедливо ожидать от корпоративного служащего, намеревающегося сохранить свою работу; Я действительно считаю, что ее отделение от Google (будь то отставка или увольнение) было уместным. Эта статья не о действиях доктора Гебру, но я признаю, что некоторые читатели могут настаивать на рисовании связи, что я отвергаю. Во-вторых, этика, на мой взгляд, заключается в выявлении вопросов, которые необходимо задать, чтобы судить о действиях или, надеюсь, предвосхищать их, и, таким образом, участвовать в саморефлексивном процессе, когда другие, которые могут быть участниками этого действия или его последствия рассматриваются с уважением и как «Thous» в отношении Мартина Бубера «Я-Ты» [9]. Для меня этика - это НЕ какой-то набор правил. Для меня этика - это процесс и контекст. Читателям, которые определяют этику как основанную на правилах, возможно, нужно будет напоминать об этом процессе во время чтения. Наконец, я не связан с Google или Alphabet каким-либо образом, кроме как в качестве розничного покупателя.
Чем хорош Parrot Paper
Сама тема Parrot Paper - это этический вопрос: нужно ли нынешнее сосредоточение на «языковых моделях», постоянно увеличивающихся в сообществе ИИ / НЛП, в обосновании против потенциальных вопросов о вреде, непредвиденных последствиях и «на самом деле больше» лучше?" Тем самым авторы поднимают важные вопросы, которые само сообщество может использовать в качестве основы для самоанализа. Если авторам Parrot Paper удастся привлечь внимание сообщества к этим вопросам, они будут выполнять общественную службу.
В своем названии Parrot Paper поднимает несколько важных вопросов: (1) каковы компромиссы между рисками и выгодами при использовании моделей, которые являются стохастическими по своей природе и которые, казалось бы, используют человеческий язык как «попугай», (2) есть ли адекватное раскрытие / обсуждение среди широкой публики и средств массовой информации как стохастической природы моделей, так и «повторяющегося» характера их результатов и (3) использование все более крупных моделей, способных обеспечить еще более статистически выведенные корреляции - «лучшее» направление на дальнейшее развитие машинного интеллекта и обработки естественного языка. Существуют альтернативы постоянно расширяющимся моделям и чистой стохастической обработке. Как сообщество может взвесить компромиссы, связанные с определением подходящей модели для использования в данных обстоятельствах?
Parrot Paper правильно определяет «слона в комнате» для сообщества MI / ML / AI / NLP: саму основу, на которой создаются и реализуются эти большие языковые модели, можно рассматривать как черные ящики на основе многослойной нейронной сети - входные данные наблюдаемы, алгоритм программирования читаем, выходные данные наблюдаемы, но КАК алгоритм внутри этого черного ящика производит выходные данные, не может быть сформулирован в терминах, которые люди могут понять. [10] Мы знаем, что это некая форма «это работает». Авторы Parrot Paper предлагают читателям понять, что имеется в виду под словом «это работает». Опять же, всплытие этого вопроса оказывает ценную общественную услугу.
В Parrot Paper ставится под сомнение акцент сообщества на списки лидеров и спрашивается, могут ли вместо этого быть другие потенциально «лучшие» способы измерения «улучшений» и «успеха». Авторы предлагают ряд мер по отчетности, которые могут быть полезны при обзоре исследований и результатов в сообществе. Они спрашивают, не уводит ли нынешний способ измерения успеха исследовательское сообщество от усилий, которые могут «способствовать долгосрочному прогрессу в направлении понимания естественного языка». [Строка 123 ПП]
На мой взгляд, наиболее важно то, что авторы Parrot Paper напоминают читателям, что потенциальный вред заключается как в неосторожном использовании / злоупотреблении этими языковыми моделями, так и в том, как результаты этих моделей представляются и воспринимаются широкой публикой. Они цитируют Прабху и Бирхане, вторя Рухе Бенджамину: «Питать системы ИИ красотой, уродством и жестокостью мира, но ожидать, что он будет отражать только красоту, - это фантастика». [Строки ПП 565–567, 11, 12] Опасность, которую они цитируют, вполне реальна. Когда «пользователи» не знают об ограничениях моделей и их результатов, слишком легко спутать кажущуюся согласованность и точность с правдоподобием. Действительно, доктор Гебру впервые привлек внимание общественности, подчеркнув аналогичные опасности в отношении программного обеспечения для распознавания лиц (опасность, которая, к сожалению, остается с нами [13, 14].
Неправильное использование больших языковых моделей, вероятно, только усилится, если не будет такого рода этических вопросов, за которые выступают авторы Parrot Paper и другие. Что не заявлено в Parrot Paper, но подразумевается в некоторых из поднимаемых им вопросов, так это представление о том, что недостаточно исследований посвящается «улучшению» неверных результатов, которые в значительной части времени появляются из этих моделей. Коэффициенты «успеха» (результат считается «работающим») в диапазоне шестидесяти процентов и выше могут показаться значимыми для академических исследователей, но их коэффициент неявных неудач создает значительную возможность причинения вреда, который большинство исследовательских проектов просто игнорируют.
Это хорошо и хорошо, что GPT-3 может писать то, что выглядит как абзацы на английском языке, но допускать, чтобы эти абзацы выдавались за «связную мысль», опасно и потенциально вредно. Продукт статистического многослойного векторного анализа нейронной сети не является продуктом последовательных рассуждений, как бы сильно он ни напоминал то же самое. Общественность необходимо постоянно предупреждать о рисках такого несоответствия.
Если бы Parrot Paper был написан таким образом, чтобы сделать приведенные выше аргументы ясными и подкрепить их доказательствами - как за, так и против, - этот документ стал бы важным вкладом в знания.
Увы, авторы выбрали не этот путь.
Форма аргументации
Работа Parrot Paper представлена как исследовательская работа, то есть как продукт исследования по теме с обзором соответствующей литературы. 128 ссылок в конце и почти постоянное использование цитат повсюду (с минимальным использованием цитат) служат для усиления этого представления. Parrot Paper - это односторонний позиционный документ, почти не содержащий ссылок на альтернативные точки зрения. К сожалению, нигде в тексте статьи авторы не упоминают, что они занимаются отстаиванием ряда убеждений. Пропаганда, замаскированная под исследование, наносит такой же вред, как и представление результатов GPT-3 в виде последовательных аргументов. Маловероятно, что широкая общественность осознает это различие, а СМИ еще более склонны способствовать искажению фактов в своих репортажах.
Разумеется, исследователи и ученые свободны придерживаться своих мнений и убеждений. Они могут свободно выступать в защиту своих позиций. Но когда исследователи и ученые делают это способом, который широкая публика и средства массовой информации, вероятно, считают «исследованием», они занимаются тем, что граничит с мошенничеством. Дидерик Стапель считал, что реальные данные «слишком беспорядочные», поэтому он составил свои наборы данных так, чтобы представить публике убедительную историю [15]. Исследование, лежащее в основе адвокационной позиции, также является мошенничеством, когда представлена только одна сторона проблемы (которая может иметь множество сторон), и то же самое, когда контекст, в котором формируются оценочные суждения, не получает надлежащего уведомления и пометки. Необходимость изложения нескольких точек зрения «беспорядочная», но науке не помогает, если этот необходимый шаг упущен. В Parrot Paper полно таких упущений.
С точки зрения аргументации Parrot Paper читается так, как будто это работа абдуктивного мышления (исследуйте, чтобы найти лучший вывод) - типичного метода, используемого в научных исследованиях. Форма, однако, не более чем притворство. Истинное абдуктивное рассуждение требует, чтобы альтернативные точки зрения, гипотезы и объяснения были рассмотрены, исследованы и затем сужены. Parrot Paper игнорирует эти шаги. Он начинается с набора точек зрения, которые необходимо сформулировать для ясности, рассматривает только те гипотезы, которые согласуются с предположениями авторов, а затем предлагает либо одно объяснение, либо одно плюс номинальную соломенную собаку (например, безвозмездное упоминание о самом страшном пожарном сезоне в Австралии). Вся эта техника хороша для того, чтобы занять одну сторону в дискуссии, но неприемлема, когда читателю не удается сообщить, что даже есть дебаты, не говоря уже о том, что существует несколько точек зрения.
Перспективы и предположения имеют значение. Легитимность основных аргументов Parrot Paper основана на наборе несколько скрытых, но, тем не менее, критических предпосылок. Эти критические предположения могут не разделяться всеми читателями Parrot Paper и вряд ли будут широко поддержаны широкой публикой. В этом случае, поскольку представители СМИ разделяют предположения авторов Parrot Paper, велик риск того, что работа будет представлена как «факт», хотя на самом деле это «мнение». Таким образом, человеческая склонность к предвзятости подтверждения присутствует в том, как представлена Parrot Paper. Тем представителям широкой публики, которые НЕ разделяют предположений, дается еще одна причина «не доверять» науке. Для них предвзятость подтверждения будет иметь противоположную направленность, а именно, что предполагаемая «наука» в Parrot Paper - ерунда.
The Parrot Paper - это не наука - это мнение, и наука страдает от преднамеренной неправильной маркировки авторов.
Критические предпосылки
Пресуппозиции - это набор предположений и убеждений, используемых познающим (тем, кто занимается достижением понимания), чтобы фильтровать и формировать контекст и наблюдаемые свидетельства в качестве начального шага в осмыслении. Эти предпосылки предшествуют акту рассмотрения контекста, наблюдений или свидетельств и действуют как набор ограничений в отношении повествования, которое познающий выдвигает для установления понимания или объяснения. Лиссак [16,17] доказывает, почему важна тщательная экспликация предположений, если наука в целом призвана избежать негативных последствий от предвзятости подтверждения менее осведомленной публики. Только в том случае, если предположения сформулированы и явны, третья сторона может начать исследовать, что именно связано с доказательствами, контекстом и аффордансами, позволяющими использовать какой-либо ярлык, категорию или краткое повествование в качестве основы для смысла и понимания.
Для ясности я представляю то, что я вижу как критические предпосылки Parrot Paper. Я считаю, что они правильно определяют интеллектуальные рамки и образ мышления, необходимые для понимания того, как авторы Parrot Paper пришли, чтобы написать его. Перечисленные ниже предпосылки подтверждают мнения и убеждения, выраженные в Parrot Paper.
1. Этику и справедливость следует оценивать с точки зрения Ролза [18]. Следует избегать действий, которые могут принести пользу не наименее обеспеченным (или иным образом описываемым как «наиболее маргинальные»). Только действия, которые также приносят пользу наиболее маргинальным, считаются этичными и справедливыми. [Строки ПП 94–98, 327, 389–407, 1021–22]
2. Суждения относительно предпосылки № 1 должны выноситься на основании эффектов первого порядка (прямого результата действий). Использование вторых (косвенные следствия и следствия) и эффектов более высокого порядка в аргументации является «подозрительным». [Строки 95–97, 322–350 ПП]
3. Больший потенциал развертывания инструментов означает большую сферу влияния модели, от которой зависят инструменты [Строка 266 ПП, Раздел 4.1]
4. Экологические издержки и воздействия не могут быть никогда компенсированы и являются значимыми эффектами первого порядка, которые всегда необходимо минимизировать. [Строки 94–100 ПП, Раздел 3]
5. Системный расизм должен быть признан присутствующим во всех исследуемых системах и должен устраняться любыми предпринимаемыми действиями. [Строки ПП 385–386, 427–428]
6. Микроагрессия и возможность столкнуться с неприятными или уничижительными высказываниями - это значительный ущерб, который нельзя допустить или который необходимо компенсировать. [Строки ПП 771–789, 813–827]
7. Ресурсы должны распределяться справедливо (без определения того, что считается справедливым или кто может определять суждения о равенстве). [Строки ПП 42–428, 883–887]
8. Преобладание английского языка - проблема (даже в англоязычной среде). [Строки 18, 327–333, 384, 766–770]
9. Использование языка в целом отражает взгляды сторонников превосходства белой расы, женоненавистничества и эйджизма. Этим взглядам необходимо противостоять или исключить их. [Строки ПП 385–386, 822–827]
10. Методы «черного ящика» (где наблюдаются только вход и выход, а «как» необъяснимо) по определению уступают артикулируемым методологиям при ВСЕХ обстоятельствах. [Строки 119–124 ПП, Раздел 5]
11. Курирование - преднамеренный и продуманный выбор конкретных материалов для рассмотрения наблюдателями и, в данном случае, языковых моделей - может предотвратить предвзятость, не обращая внимания на материалы, не отобранные для включения в курируемый набор, и не рассматривая их. [PP, строки 537–543, раздел 4.4]
12. Существуют лидеры мысли и знания, которые могут выполнять кураторские работы, требуемые предпосылкой № 11, с учетом остальных предпосылок. [PP Раздел 4.4]
Если этот список из двенадцати предпосылок существенно пересекается с вашим мировоззрением, то аргументы, представленные в Parrot Paper, кажутся логическими следствиями. Если, напротив, вы можете согласиться только с некоторыми пунктами в списке, необходимость обсуждения компромиссов становится очевидной. Например, степень вашего согласия с предпосылками №1 и №2 будет влиять на то, как вы можете подойти к оценке требуемых компромиссов.
Документ Попугая был бы намного сильнее, если бы он прямо признал эти предпосылки заранее, а затем заявил, что это был документ с изложением позиции, основанный на таком мировоззрении. Тогда никто не ошибется, подумав, что это научная статья или исследовательская работа. Вместо этого читателю предоставляется возможность обнаружить неявные ссылки на каждую из этих предпосылок (как я подчеркнул выше). Таким образом, наука остаётся нести «ответственность» за «объяснение» того, что авторы Parrot Paper упускают из виду - противоречивые свидетельства, обсуждение теории и основу для предсказания. Те, кто хотя бы частично отвергает некоторые из предположений, остаются сомневающимися в научных практиках, которые якобы сформировали исследование, даже несмотря на то, что работа лишена как научной практики, так и исследований.
Parrot Paper, например, жалуется на воздействие больших языковых моделей на окружающую среду и обеспечивает видимость точности с включением связанной таблицы с указанием предполагаемых экологических издержек. [Строки ПП 233–244] Но в Parrot Paper не говорится о том, как часто и при каких обстоятельствах возникают эти затраты и какие выгоды дает каждый такой запуск моделей. Без раскрытия выгод и затрат у читателя нет оснований для какой-либо оценки компромиссов. Вместо этого авторы Parrot Paper полагаются на предположение о том, что любые расходы - это плохо. В Parrot Paper также отсутствуют какие-либо обсуждения усилий по повышению эффективности используемых моделей, чипов, на которых они работают, и самих машин - все это снизит воздействие на окружающую среду. В ближайшем будущем прогнозируются огромные улучшения в окружающей среде, но этот «факт» отсутствует в обсуждении экологических проблем в Parrot Paper. [19]
Скрытая жалоба в Parrot Paper заключается в том, что «реальный мир» содержит как двусмысленность, так и «ненормативную лексику». [PP, строки 802–809] Авторы Parrot Paper считают, что для мира было бы лучше, если бы двусмысленность могла быть устранена (или, по крайней мере, смягчена), и то же самое с использованием «ненормативной лексики». Большие языковые модели успешно улавливают, а затем воспроизводят («повторяют») как нецензурную лексику, так и двусмысленность. Напротив, меньший, более упорядоченный и тщательно подобранный набор моделей мог бы устранить «плохую» форму языка и неотъемлемую двусмысленность в использовании языка. [PP, строки 994–999]
Если кто-то создает инструмент с определенным набором сценариев использования, которые известны заранее, курирование входных данных набора данных для обучения модели, используемой в таком инструменте, может дать как эффективность, так и «лучшие результаты». Создав инструмент поиска, ориентированный на исследования, основанный на концепции курирования [20], я признаю привлекательность такого упорядоченного подхода. Но за установление порядка приходится платить: устойчивость (способность справляться с неожиданностями) невысока, слабые сигналы трудно заметить, а проницательность, необходимая для интуитивной прозорливости, активно не приветствуется. [21] Авторы Parrot Paper полагают, что их метод курирования может преодолеть эти ограничения. Тем не менее, в их статье нет никаких объяснений того, как это сделать.
Курирование также может представлять свои собственные опасности - вред, не обсуждаемый в Parrot Paper - включая цензуру и запрещенные выражения. Если кураторская модель ИИ используется для мониторинга дискуссий между учеными и исследователями, что может помешать этой модели предотвратить обсуждение слов, которые кураторы считают «неприемлемыми»? [22] Хорошо ли обслуживается наука (и действительно свобода слова), если кураторство, желаемое Гебру и Бендером, позволяет каким-то образом контролировать дискурс? Галилео Галилей страдал от такого лечения. Науке было не лучше.
Короче говоря, Parrot Paper - это призыв к большему контролю, большему порядку, чтобы руководствоваться «мудрыми». Кто «мудрый» - не определено.
Почему подход Parrot Paper вреден для науки
Наука и исследования, как сказано в Parrot Paper, основаны на моделях. Тем не менее, концепция модели, выраженная в ней, оставляет мало места для множественных интерпретаций, выбора, основанного на контексте, и гипотетических вмешательств «что, если». Модель, используемая в Parrot Paper, представляет собой статическое представление ситуации, контекста или даже мира. Кибернетика рассматривает модели совсем иначе. Для кибернетика именно способность актера подвергать сомнению интерпретации и делать выбор (то, что философы называют агентством) отличает модель от статического представления [23, 24, 25]. Чтобы быть моделью (а не просто статическим представлением), пользователь модели должен иметь свободу действий. С другой стороны, наука о Parrot Paper - это спроектированная, тщательно подобранная работа статических репрезентаций.
Поскольку авторы Parrot Paper желают избежать двусмысленности и ненормативной лексики, актерам отказывают в агентстве. Агентство проблематично для авторов Parrot Paper, потому что оно позволяет каждому пользователю модели выбирать из множества интерпретаций, индивидуальных историй и контекстной зависимости - вариантов, которые, по утверждению авторов Parrot Paper, потенциально могут «навредить». Агентство - это то, что создает возможности для нового, возникающего и инновационного. Агентство позволяет прогрессировать и расти. Большинство ученых полагают, что их работа расширит возможности и ресурсы, доступные миру. Напротив, Parrot Paper, похоже, предполагает мир с нулевой суммой, в котором новаторское, возникающее и новое представляют дополнительные угрозы для маргинализированных низших слоев общества. В таком мире с учетом изложенных выше предпосылок крайне важно приложить усилия для перераспределения некоторых ресурсов и усилий от немаргинализованных к маргинализованным. При «расширяющемся пироге» прибыль может быть получена коллективным «всем», но не в равной степени, вероятно, не «справедливо» и, конечно же, не в одни и те же сроки. Такие достижения противоречат концепции Ролза о честности и справедливости. Помните, по мнению Ролза, «справедливые» выгоды - это те выгоды, которые приносят по крайней мере некоторую выгоду (я) наиболее обездоленным. Эти преимущества должны быть как эффектами первого порядка, так и измеримыми. Принимая во внимание утверждение Ролза, сделанное авторами Parrot Paper, они отвергают потенциальные выгоды второго и более высокого порядка перспективного «несправедливого» роста и вместо этого утверждают, что научные усилия в области AI / ML / MI / NLP будут направлены на перераспределение с нулевой суммой. .
Наука не может продвигаться вперед, используя подход с нулевой суммой.
Авторы Parrot Paper выступают за курирование и контроль. [PP Раздел 4.4] Они стремятся запретить черный ящик в пользу прозрачного. [PP Раздел 4.3] Они отдают приоритет легко наблюдаемым эффектам первого порядка и рассматривают эффекты второго и более высокого порядка как потенциально вредные. Это инженерный подход. Предполагается, что проблемы четко определены. Но мы не живем в таком четко определенном мире. Наш мир запутан, сложен и хаотичен. Каждый выбор предполагает один или несколько компромиссов.
Одна из целей науки - исследовать хаос и разгадывать тайны этого комплекса. Авторы Parrot Paper явно предпочитают мир ясности и простоты. Действительно, их пренебрежение «непостижимыми» элементами больших языковых моделей [строка 124 PP] выражается в отказе от самой сложности. Обратите внимание на различие между com plic ated и com plex. С помощью сложного (латинское основание plic означает складывать) можно «развернуть» проблему или ситуацию, чтобы обнажить простую поверхность, потенциально достаточную, чтобы уловить суть проблемы. под рукой. Напротив, со сложным (латинское основание plex означает плести), сама попытка свести переплетенную ситуацию к простой поверхности несет в себе риск разрушения и того, и другого. проблема и ее контекст. (Тканые вещи, когда-то нетканые, трудно собрать вместе. Развернутые вещи можно легко сложить.) Авторы Parrot Paper, по-видимому, стремятся уменьшить сложность «реального мира» с помощью сложной задачи курирования в захватывающем квесте для « ясность », над которым они могут установить контроль.
Наука не может позволить себе такое стремление к контролю. В то время как контролируемая наука, состоящая из строгих моделей, может приводить к успешным прогнозам, эти прогнозы редко работают за пределами узкой сферы или области, в которой выполняются предполагаемые ограничения при прочих равных (предполагается, что все другие элементы остаются неизменными). В контролируемой ситуации ученые могут утверждать, что их результаты в достаточной степени описывают «сущность» рассматриваемой проблемы, так что двусмысленность не имеет значения. Однако широкая публика редко доверяет такому утверждению. Они либо примут модель как «реальность», либо отвергнут саму науку, которая ее произвела. [26]
В сложных средах ключ к достижению инноваций, роста и устойчивости заключается в том, чтобы частично охватить саму сложность и использовать ее, чтобы задавать вопросы, исследовать чувствительность, исследовать зависимости и стремиться определить, какие предпосылки необходимы для сохранения данного значения. Роль науки и научных исследователей состоит в том, чтобы затем спросить, что произойдет, если ценности, принятые для этих предпосылок, изменятся. Я пойду дальше: только задавая такие вопросы, можно быть уверенным, что выбор, который он делает в отношении компромиссов, является этичным.
Вопросы, которые необходимо задать практикующим ученым, сами по себе довольно просты: смотрим ли мы на правильные вещи в нашей окружающей среде?
· Есть ли у нас правильные слова, модели или представления, чтобы выразить то, что мы думаем?
· Достаточно ли мы осознаем свои убеждения?
· Знаем ли мы ограничения того, что, по нашему мнению, мы знаем?
Наука, практика которой заключается в том, чтобы задавать такие вопросы, отличается от методов нисходящего кураторства, пропагандируемых авторами Parrot Paper. Авторы Parrot Paper неявно утверждают, что они (и другие, «подобные им») знают, как управлять любыми компромиссами, которые могут возникнуть между затратами и выгодами. Наука не может позволить себе такого высокомерия.
Те, кто занимается исследованиями и практикой в области машинного интеллекта, информатики и НЛП, обращают внимание на то, что прогресс, инновации и следующий набор прорывов возникают в результате постановки вопросов и генерации новых ответов. Вступать на путь кураторства, основанного на нынешних знаниях, - это тупик. Конец, которого следует избегать.
Цели Parrot Paper кажутся благородными, но их исполнение этически несовершенно. Методологии и приоритеты, предложенные авторами Parrot Paper, не могут быть поддержаны учеными-практиками. Наука не продвигается вперед, требуя контроля сверху вниз, кураторства и редукционизма. Он не может развиваться, если возможность возникновения рассматривается как угроза. Такой редукционистский взгляд придерживается Slodderwetenschap. Мы не можем позволить себе быть небрежными.
Ссылки
[1] Гебру Т. и др. (2021) Об опасностях случайных попугаев: могут ли языковые модели быть слишком большими? В FAccT ’21: ACM FAccT Conference 2021, март 2021 г., онлайн. ACM, Нью-Йорк, Нью-Йорк, США, 12 страниц. Https://doi.org/10.1145/1122445.1122456, полученное с https://gofile.io/d/WfcxoF 25.12.20.
[2] Бхаттачарджи, Ю. (2013) Разум мошенника, NY Times, 26 апреля https://www.nytimes.com/2013/04/28/magazine/diederik-stapels-audacious-academic- fraud.html
[3] Тику, Н. (2020) Google нанял Тимнита Гебру, чтобы он открыто критиковал неэтичный ИИ. Потом ее за это уволили , Washington Post, 23 декабря https://www.washingtonpost.com/technology/2020/12/23/google-timnit-gebru-ai-ethics/
[4] Аллин, Б. (2020) Команда Google AI требует повторного найма и повышения в должности чернокожего исследователя, NPR, 17 декабря, https://www.npr.org/2020/12/17/947413170/google-ai -команда-требует-отстранить-черного-исследователя-повторно нанять-и-повысить
[5] McCulloch, W. (2021) The Collected Works of Warren S. McCullocg, Second Edition, под редакцией Lissack, M и Holland, A., Emergent Publications и Американского общества кибернетики, https: //eco.emergentpublications .com / McCulloch
[6] http://myresearchtool.com и http://findrelatedbooks.com
[7] Лиссак М. и Ричардсон К. (2001) При моделировании социальных систем моделируйте моделируемое: реагируя на новый вид науки Вольфрама, Emergence, Vol 3, Issue 4, 95–111, https : //www.tandfonline.com/doi/abs/10.1207/S15327000EM0304_7
[8] Лиссак, М. (2013) Подсознательное влияние или плагиат по неосторожности ?: Слабость игнорирования Интернета, Журнал академической этики, декабрь https://www.researchgate.net/publication/259065229
[9] Бубер, Мартин, (1923,2000) Я и Ты, Скрибнер, Нью-Йорк.
[10] Миттельштадт, Б.Д. и др., (2016) Этика алгоритмов: отображение дискуссии, Большие данные и общество, декабрь https://journals.sagepub.com/doi/10.1177/2053951716679679
[11] Прабху В. и Бирхейн А. (2020) Большие наборы данных изображений: пиррова победа для компьютерного зрения? Https://arxiv.org/abs/2006.16923
[12] Руха Бенджамин. 2019. Race After Technology: Abolitionist Tools for the New Jim Code. Polity Press, Кембридж, Великобритания
[13] Наджиби, А. (2020) Расовая дискриминация в технологии распознавания лиц http://sitn.hms.harvard.edu/flash/2020/racial-discrimination-in-face-recognition-technology/
[14] Гебру, Т. (2020) Раса и пол Оксфордский справочник по этике ИИ под редакцией Дуббера, М. и др. По адресу https://www.oxfordhandbooks.com/view/ 10.1093 / oxfordhb / 9780190067397.001.0001 / oxfordhb-9780190067397-e-16 и https://arxiv.org/ftp/arxiv/papers/1908/1908.06165.pdf
[15] Стапел, Д. (2016) Фальсификация науки: правдивая история академического мошенничества в переводе Н. Брауна http://nick.brown.free.fr/stapel/FakingScience-20161115 .pdf
[16] Лиссак, М. (2017) Наука второго порядка: изучение скрытых предпосылок в практике науки, Основы науки, 22, 557–573 https: //link.springer. ru / article / 10.1007 / s10699-016-9483-x
[17] Лиссак, М. (2017) Что наука второго порядка показывает в отношении научных заявлений: несоизмеримость, сомнения и отсутствие объяснения, Foundations of Science, 22, 575–593 https: //link.springer.com/article/10.1007/s10699-016-9484-9
[18] Ролз, Джон (1971) Теория справедливости, Belknap Press, Кембридж, Массачусетс.
[19] Имани М. и др. (2020) DUAL: ускорение алгоритмов кластеризации с использованием цифровой обработки в памяти, 53-й ежегодный международный симпозиум IEEE / ACM по микроархитектуре (MICRO), Афины, Греция, стр. 356– 371, DOI: 10.1109 / MICRO50266.2020.00039. Https://ieeexplore.ieee.org/document/9251944
[20] http://myresearchtool.com
[21] Ледерах, Дж. (2005) О интуиции: дар случайной проницательности в Моральное воображение: искусство и душа построения мира, Oxford University Press, Нью-Йорк, https: / /oxford.universitypressscholarship.com/view/10.1093/0195174542.001.0001/acprof-9780195174540-chapter-11
[22] Мароя, Л. (2019) Самоцензура в кампусе вредна для науки The Atlantic, 28 мая https://www.theatlantic.com/ideas/archive/2019/05/self-censorship-campus- bad-science / 589969 /
[23] Лиссак, М. (2019) Понимание - это проблема дизайна: познание с точки зрения дизайнерского мышления. Часть 1, Ше Джи: журнал дизайна, экономики и инноваций, том 5, выпуск 3, стр. 231–246, https://www.sciencedirect.com/science/article/pii/S2405872619300589
[24] Лиссак, М. (2019) Понимание - это проблема дизайна: познание с точки зрения дизайнерского мышления. Часть 1, Ше Джи: журнал дизайна, экономики и инноваций, том 5, выпуск 4, стр. 327–342, https://www.sciencedirect.com/science/article/pii/S2405872619300929
[25] Лиссак, М. (2011) Когда объяснения« вызывают ошибку: взгляд на представления и сжатия», Управление информационными системами, т. 10, вып. 1–4, стр. 189–212, https://content.iospress.com/articles/information-knowledge-systems-management/iks00193
[26] Funk, C. et al. (2019) Доверие и недоверие к мнению американцев о научных экспертах https://www.pewresearch.org/science/wp-content/uploads/sites/16/2019/08/PS_08.02.19_trust.in_.scientists_FULLREPORT_8 .5.19.pdf
