{{l10n_strings.DRAG_TEXT_HELP}}

{{article.content_lang.display}}

{{l10n_strings.AUTHOR_TOOLTIP_TEXT}}

Система для создания уклона Пеноплэкс® Уклон

Требования норматива

 В соответствии с требованиями норматива СП 17.13330.2017 «Кровли», на плоских кровлях для отвода дождевой и талой воды необходимо предусматривать уклоны минимум 1,5% (1°), а в ендовах — минимум 0,5%.

Способы создания уклона на плоских кровлях

Уклонообразующий слой достигается тремя способами:

1. созданием основания кровли уже с уклоном не менее 1,5%;
2. устройство на основании бесшовной стяжки с уклоном не менее 1,5%;
3. организация уклона из изоляционных материалов: сыпучих или сегментов, специальным образом нарезанных из теплоизоляционных плит.

Рассмотрим п. 3 подробнее. Среди сыпучих материалов для создания уклона чаще всего применяется дешевый насыпной керамзит или бетонные смеси. Это порождает ряд проблем:

• Смещение и отклонение уклонообразующего слоя от заданных углов. В результате не выполняется задача по отводу воды, образуются лужи, к тому же растет нагрузка на кровлю. В ходе эксплуатации данный процесс усугубляется и может привести к разрушению кровельного покрытия.
• Значительное увеличение нагрузки на кровлю и несущие конструкции здания в связи с большим весом уклонообразующего слоя керамзита и цементно-песчаной стяжки, который как правило, составляет от 350 – 2500 кг/м³.
• Повышение стоимости работ по устройству кровли из-за сложного и трудоемкого процесса монтажа уклонообразующего слоя из сыпучего материала.

Решения компании «ПЕНОПЛЭКС СПб»

ООО «ПЕНОПЛЭКС СПб» разработана специальная система для создания уклона — ПЕНОПЛЭКС^® УКЛОН. Система представляет собой набор сегментов различной толщины с двумя вариантами уклона: 1,7 % и 3,4 %.

Наряду с поставкой сегментов ПЕНОПЛЭКС^®УКЛОН компания выполняет для заказчика расчет системы образования уклона со схемой их раскладки по заданным параметрам кровли.

Пример схемы раскладки сегментов ПЕНОПЛЭКС

Уклонообразующий слой для плоской кровли, основной уклон 1,7%

На фото: пример применения системы ПЕНОПЛЭКС®УКЛОН на объекте. Кровля производственного здания компании «Юнона-2», одного из крупнейших поставщиков металлопроката в Чувашской Республике. Чебоксары, ул. Мира, 48 А

Преимущества системы ПЕНОПЛЭКС

• Возможность использования как при новом строительстве, так и при реконструкции уже существующих зданий.
• Поставка элементов уклонообразующего слоя в комплектах, готовых к применению.
• Всепогодность монтажа ввиду отсутствия «мокрых» процессов (укладка конструктивных элементов на основе цементно-песчаных растворов в воде) и устойчивости сегментов ПЕНОПЛЭКС^®УКЛОН к воздействию влаги, а также высоких и низких температур.
• Возможность монтажа силами бригад, не имеющих специальных навыков, благодаря предоставлению компанией-производителем расчета системы образования уклона со схемой раскладки сегментов.
• Низкие нагрузки на несущие конструкции здания в связи с легкостью материала: удельный вес сегментов в 50 раз меньше цементно-песчаной стяжки, в 9 раз ниже керамзита.
• Способность выдержать высокие нагрузки на кровлю, в частности, снеговые.
• Удобство и технологичность монтажа в сравнении с обустройством цементно-песчаной стяжки: по сегментам ПЕНОПЛЭКС^®УКЛОН можно ходить, для цементно-песчаной стяжки в первое время после монтажа это недопустимо.
• Более высокая прочность и стойкость к воздействию окружающей среды по сравнению с сегментами из других распространенных изоляционных материалов, например, минеральной ваты.
• Дополнительное утепление кровли ввиду высокой теплоизолирующей способности сегментов ПЕНОПЛЭКС^®УКЛОН.

13.2. Организация рабочих мест / КонсультантПлюс

13.2. Организация рабочих мест

13.2.1. Места производства кровельных работ, выполняемых газопламенным способом, должны быть обеспечены не менее чем двумя эвакуационными выходами (лестницами), а также первичными средствами пожаротушения в соответствии с ППБ-01.

Подниматься на кровлю и спускаться с нее следует только по лестничным маршам и оборудованным для подъема на крышу лестницам. Использовать в этих целях пожарные лестницы запрещается.

13.2.2. При производстве работ на плоских крышах, не имеющих постоянного ограждения, рабочие места необходимо ограждать в соответствии с требованиями СНиП 12-03.

13.2.3. Для прохода работников, выполняющих работы на крыше с уклоном более 20 град., а также на крыше с покрытием, не рассчитанным на нагрузки от веса работающих, необходимо применять трапы шириной не менее 0,3 м с поперечными планками для упора ног. Трапы на время работы должны быть закреплены.

13.2.4. При выполнении работ на крыше с уклоном более 20 град. работники должны применять предохранительные пояса согласно требованиям СНиП 12-03.

13.2.5. Применяемые для подачи материалов при устройстве кровель краны малой грузоподъемности должны устанавливаться и эксплуатироваться в соответствии с инструкцией завода-изготовителя. Подъем груза следует осуществлять в контейнерах или таре.

13.2.6. Вблизи здания в местах подъема груза и выполнения кровельных работ необходимо обозначить опасные зоны, границы которых определяются согласно СНиП 12-03.

13.2.7. Размещать на крыше материалы допускается только в местах, предусмотренных ППР, с применением мер против их падения, в том числе от воздействия ветра.

Запас материала не должен превышать сменной потребности.

Во время перерывов в работе технологические приспособления, материалы и инструмент должны быть закреплены или убраны с крыши.

Открыть полный текст документа

Бетонные водоотводные лотки SteePro DN150 с уклоном 0,5% водоотведения под уклоном

Грамотное проектирование системы линейного водоотведения способно сэкономить значительный объем земляных работ, а, следовательно, оптимизировать реализацию проекта как по времени, так и по затратам. Но для оптимального функционирования, водоотводные лотки должны располагать определенным уклоном для обеспечения стекания жидкостей в канализацию. Рельеф местности далеко не всегда позволяет сделать это, и тогда уклон нужно каким-то образом обеспечить. С точки зрения земляных работ, оптимальным будет использование бетонных лотков с уклоном днища.

Сделать такие лотки можно только из бетона (или полимербетона): в силу конструкционных особенностей пластика, с гарантией обеспечить шаг в 5 миллиметров разницы по высоте практически невозможно, поэтому пластиковых водоотводных лотков с уклоном не существует. Мы производим водоотводные лотки с уклоном из высококачественного бетона методом вибропрессования: он прочен, надежен, и обеспечивает бесперебойную работу системы водоотведения. Бетонные лотки с уклоном могут использоваться как с решетками, таки без них.

Бетонные лотки с уклоном SteePro позволяют монтировать систему водоотвода с постоянным уклоном вне зависимости от рельефа местности. Там, где уклон обеспечен рельефом – можно использовать лотки с постоянным уклоном, там, где его нет – можно использовать лотки с разностью внутренней высоты желоба.

Ниже приведена таблица лотков водоотводных с уклоном по дну. Разность составляет 0,5%, т.е., все лотки имеют разность высот на входе и выходе 5 мм. Все лотки промаркированы, и, зная, что лоток с уклоном 01 имеет высоту 155/160 мм, то лоток с уклоном 20 – высоту 345/350. Таким образом, имея перед глазами эту таблицу, можно сравнительно просто рассчитать требуемое количество лотков с уклоном (или без) исходя из их параметров. Все лотки имеют гидравлическое сечение DN150, и различаются высотой на входе и выходе.

Если вам требуется построить систему линейного водоотвода, и для этого необходимы лотки с уклоном желоба — свяжитесь с нами, мы изготовим необходимое оборудование!

почему выгодно получать профильное образование с первого класса?: Общество: Облгазета

В гимназии №39 в Екатеринбурге на французском языке не только проходят занятия, но и дублируются все названия на указателях. В холле первого этажа красуется стена с названиями главных жизненных ценностей — также на двух языках. Фото: Павел Ворожцов

Наличие у школы профиля стало считаться критерием качества и дополнительным очком в её пользу. В этом году среди первоклассников французской гимназии №39 в Екатеринбурге 40 процентов не проживает в микрорайоне. Желающих сюда попасть всегда было так много, что в здании, рассчитанном на 550 детей, учатся 850 человек. Сейчас в регионе огромный выбор школ с уклоном на любой вкус — от математики до ИЗО, одни родители отдают туда детей «для расширения кругозора», другие считают учёбу здесь первым шагом к будущей профессии.

Екатеринбург. Учить языки стало модно, и школы с углублённым изучением иностранных языков попали в волну популярности.

В гимназии №39 романтичный язык Флобера и Дюма изучают уже со второго класса.

— С пятого добавляется английский язык, а с седьмого класса начинаются уроки литературы, экономики и истории на французском. После окончания дети сдают международный экзамен DELF, — рассказывает Виктория Велижанина,заместитель директора французской гимназии по иностранным языкам.

Виктория Станиславовна признаётся, что раньше педагоги настаивали на том, чтобы сделать экзамен по иностранному обязательным, но со временем пришло понимание, что не всем ученикам понадобится этот документ, а вот лишняя нагрузка может негативно сказаться на обучении. Тем не менее большая часть выпускников языковые сертификаты DELF всё равно получает. Если уровень языка достаточно высокий, у ребёнка есть серьёзный шанс поступить в иностранные вузы и колледжи. Например, в этом году во Францию уехали учиться двое выпускников, а одна ученица девятого класса ещё только пробует поступить — сдаёт экзамены.

О возможности последующего образования за рубежом говорят и в другой екатеринбургской гимназии — №37 — немецкой. Обе гимназии работают с посольствами, что позволяет принимать у нас иностранцев, а нашим ученикам выезжать в зарубежные школы. Группы школьников из 37-й гимназии во время каникул ездят в немецкий Марбург. Ребята из французской гимназии — в Клермон-Ферран.

Но даже никуда не выезжая, у ребят есть возможность общаться с носителями языка. Например, во французскую гимназию каждый год на целый месяц из Франции приезжает волонтёр, который ведёт у школьников уроки. Такие встречи дают мотивацию изучать язык, понимая, что он позволяет лучше узнать мир.

— Дети могут сдать экзамены на немецкий языковой диплом. Это не обязательно, но это шанс, который даётся бесплатно, почему им не воспользоваться? За этим дипломом кроются большие, глубокие знания, которые никогда лишними не будут, — рассказывает Марина Дворянинова, заместитель директора немецкой гимназии.

Каменск-Уральский. В городах области наиболее распространены школы с техническим и естественным уклонами — эти знания здесь более востребованы, нежели языки и искусство. Часто над школами берут шефство местные предприятия, предлагая выпускникам целевое обучение в престижных вузах с последующим трудоустройством.

— Лицей в течение семи лет сотрудничает с одним из крупнейших предприятий города, производственным объединением «Октябрь», и уже год работает с Синарским трубным заводом. По пять-семь человек из тех, кто оканчивает наш лицей, идут по целевому направлению в столичные вузы, добрая половина поступает в университеты Екатеринбурга с последующим обязательством вернуться работать на предприятие, — рассказывает директор технического лицея №10 Каменска-Уральского Мария Якутина.

Лесной. Взаимодействие профильных школ и предприятий становится особенно тесным в закрытых городах. Лицей в Лесном, например, сотрудничает не только с градообразующим комбинатом «Электрохимприбор», но и с медсанчастью, судом, кредитными организациями, малым бизнесом, телецентром. Таким образом, в учебном заведении с естественнонаучным уклоном у школьников есть широкие возможности узнать разные профессии изнутри, помогают в этом экскурсии и занятия на предприятиях. Как рассказала «ОГ» директор лицея Елена Лепихина, специалисты химкомбината в Лесном работают напрямую не только с педагогами, но и непосредственно с самими учениками, составляют для них кейсовые задания, сопровождают на выездных естественнонаучных сменах «Надежда Росатома». Медсанчасть отправляет выпускников по целевому направлению в медицинский университет Екатеринбурга. Естественно, что желающие попасть в лицей всегда есть.

Мнения против

Елена БЕЛОУСОВА, кандидат педагогических наук, преподаватель Уральского государственного педагогического университета:

— Ошибочно считать, что чем раньше ребёнок начнет изучать углублённо некоторые предметы школьной программы, тем лучше. Ни о каком профильном обучении с 1-го класса не должно быть и речи: в этом возрасте и по государственному закону «Об образовании», и по законам развития ребёнка начинать профильное обучение нельзя. Я бы даже сказала, опасно. При увеличении количества уроков по одному предмету в начальной школе, изучение других предметов оказывается на обочине.

Нельзя в 1-м—4-м классах русский язык и литературу изучать углублённо, а по математике не потрудиться вы-учить таблицу умножения. Весь объём знаний, положенный по государственным стандартам в начальной школе, обязателен к освоению. Или вот решат мама с педагогом — мол, растёт математический гений, давайте всё время отдадим под углублённое изучение олимпиадных задач. А русский и чтение забросят?! В начальной школе закладывается основа под здание образования, все предметы требуют одинаково усиленного изучения. Исключений тут нет.

Лилия ГАЗИМОВА, школьный психолог:

— Абсолютное большинство детей в возрасте до 14 лет не способно назвать свою будущую профессию — да этого от них и не требуется. Так что учебный план 5-го — 7-го классов должен включать полный перечень предметов. Более полезны различные кружки и секции. Чем более разносторонни интересы ребёнка в этом возрасте, тем более осознанным будет его выбор профиля к восьмому классу. Это создаст основу его профессионального самоопределения. То есть в первом, в пятом классах выбор профиля за ребёнка фактически делают взрослые. А вот в восьмом классе многие подростки способны сами выбрать интересные для них предметы. Именно в их изучении они и будут более успешны. Но даже и сейчас говорить о выборе профиля ещё рано.

С 8-го класса начинается обучение в классах и группах предпрофильной подготовки. Но грамотно поступают те школы и родители, где ребёнку до 10-го класса оставляют право сменить направление. Начиная с 8-го класса в учебный план, помимо общих предметов, могут вводиться спецкурсы и курсы по выбору.

Каждый из них непродолжителен (1–2 часа в неделю в течение учебного года или полугодия). Хорошо, если курсы организованы на всю классную параллель и непродолжительны по времени. Тогда каждый школьник в течение года может посетить несколько разных программ. В этом случае меньше риск ошибиться с выбором профиля в выпускных классах, а после — в профессии.

• Опубликовано в №173 от 19.09.2017 

Особенности участка с уклоном

Для строительства жилых домов используются участки, имеющие самый разнообразный рельеф. Не только равнина хороша для застройки, но и склоны гор также могут стать превосходным местом для будущего жилья. Естественно, что в обоих случаях имеются собственные преимущества и недостатки. Их следует учитывать во время строительства, особенно, если вы выбрали участок под уклоном.

Излишне крутые склоны холмов не всегда пригодны для строительства. В данном случае степень уклона определяется, как перепад между верхней и нижней точками участка, отнесенный к расстоянию, на котором происходит перепад высот. Измеряется степень уклона в процентах. Уклон земельного участка может быть:

• 0-3% — ровная местность;
• 3-8% — малый уклон;
• 9-20% — уклон среднего значения;
• 20% и более – крутой склон.

Для разных построек существуют различные требования, касающиеся местности. В некоторых случаях участок с уклоном более 20% считается непригодным для строительства. Однако с сегодняшними технологиями наши возможности существенно возросли, поэтому сейчас даже многоэтажки вырастают на живописном склоне горы со степенью уклона 45% и более. С другой стороны, совершенно нет смысла изощряться, если пространство предназначено для сельскохозяйственных нужд.

Участок с уклоном – достоинство или недостаток?

Террасирование участка с уклоном – наиболее распространенный прием, если местность имеет сложный рельеф. Террасы хорошо подойдут для застройки, на них также можно разбить сад с красивым ландшафтным дизайном. А вот заниматься возделыванием земли с целью получения прибылей здесь нет смысла, так как вода будет вымывать плодородную почву, какими бы агротехническими хитростями вы ни воспользовались.

Проект дома на местности с перепадами высоты до 3% может быть самым разнообразным. На нем также можно сэкономить, ведь для ровной местности существует огромное множество типовых проектов. Если дренаж участка с уклоном происходит естественным образом, то на ровной поверхности его необходимо создать дополнительно. Для этих целей организовывается подсыпка под дом из камней, грунта, цемента и гравия так, чтобы дом стоял на платформе высотой 50 см. Площадь подсыпки делается больше площади фундамента, так чтобы она заканчивалась на расстоянии одного-двух метров от края дома.

Участки, расположенные на склонах, менее востребованы, ведь в этом случае затраты на строительство могут в несколько раз превосходить строительство обычного типового дома на плоской местности. Однако и в этом можно найти свой плюс – за такую невостребованную землю можно неплохо поторговаться с собственником, взяв ее по более выгодной цене. Кроме того, дизайн участка с уклоном всегда своеобразен и органичен. Дом, стоящий на возвышенности, как правило, имеет красивый вид из окна. Также в случае паводка такой дом не затопляется водами, ведь они свободно стекают по склону далее, а не задерживаются в грунте.

Еще одно преимущество крутых склонов в том, что с одной из сторон они обязательно защищают здание от ветра. В некоторых случаях дом может находиться в окружении трех естественных стен, что тоже хорошо. Для любителей диковинных украшений сада наклонная местность — настоящий рай, ведь на ней можно организовать не только альпинарии и террасы, но и весьма эффектные водоемы с водопадами.

Строим дом на наклонных участках

При строительстве жилья и сельскохозяйственных построек следует пользоваться главным принципом: для дома выбираются самые высокие и сухие места. В этом случае не возникнет проблем с отводом воды и строительными работами, легче будет сделать канализацию и заложить цокольный этаж. К слову о водах, стекающих по склону, — их достаточно просто отвести и применить для полива цветов и деревьев, имеющихся на участке.

После того как место для коттеджа намечено, можно запланировать расположение подсобного хозяйства. Компостную яму, душевые и туалет следует размещать не ближе, чем в 15 м от дома. Идеально, если по уровню они будут находиться ниже, чем основная постройка.

Южный склон всегда лучше освещен солнцем, поэтому если есть возможность, разместите на юге, юго-востоке или востоке жилые комнаты дома. Террасы на участке с уклоном на юг также хороши, ведь они вдоволь освещаются солнечным светом.

Думаете, у вас нет предвзятости? Подумай еще раз

Небольшое хулиганство в школе может привести к потере детей. Сколько? Во многих случаях это зависит от цвета кожи учащегося. Темнокожие студенты чаще подвергаются наказанию за нарушение порядка или громкость. Белые студенты, действующие таким же образом, с большей вероятностью отделаются предупреждением.

Это не означает, что учителя и администрация являются расистами. По крайней мере, большинство из них не намерено быть несправедливым. Большинство хотят лучшего для всех учащихся, независимо от их расы или этнической принадлежности.И они обычно считают, что относятся ко всем студентам одинаково.

Но все люди придерживаются убеждений и взглядов на группы людей на основе их расы или этнической принадлежности, пола, веса тела и других черт. Эти убеждения и отношения к социальным группам известны как предубеждений . Предубеждения — это убеждения, которые не основаны на известных фактах о ком-то или об определенной группе людей. Например, одним из распространенных предубеждений является то, что женщины слабы (несмотря на то, что многие из них очень сильны).Другой аргумент в том, что черные нечестны (хотя большинство — нет). Другая причина заключается в том, что люди с ожирением ленивы (когда их вес может быть вызван любым из ряда факторов, включая болезнь).

Люди часто не осознают своих предубеждений. Это называется бессознательной или неявной предвзятостью . И такие неявные предубеждения влияют на наши решения, хотим ли мы, чтобы они это сделали.

Учителя и родители, подпишитесь на шпаргалку

Еженедельные обновления, которые помогут вам использовать Science News для студентов в учебной среде

Спасибо за регистрацию!

При регистрации возникла проблема.

Неявные предубеждения не делают кого-то хорошим или не очень, — говорит Шерил Статс. Она занимается исследованием расы и этнической принадлежности в Университете штата Огайо в Колумбусе. Скорее, предубеждения частично развиваются, когда наш мозг пытается понять мир.

Наш мозг обрабатывает 11 миллионов бит информации каждую секунду. (Бит — это мера информации. Этот термин обычно используется для компьютеров.) Но мы можем сознательно обрабатывать только 16-40 бит. Таким образом, каждый бит, о котором мы знаем, наш мозг имеет дело с сотнями тысяч за кулисами.Другими словами, подавляющая часть работы, которую выполняет наш мозг, осуществляется бессознательно. Например, когда человек замечает, что автомобиль останавливается на пешеходном переходе, этот человек, вероятно, замечает машину, но не осознает, что дует ветер, поет птицы или что-то другое происходит поблизости.

Чтобы помочь нам быстро обработать всю эту информацию, наш мозг ищет ярлыки. Один из способов сделать это — отсортировать вещи по категориям. Собаку можно отнести к категории животных. Это также может быть классифицировано как приятное или опасное, в зависимости от опыта наблюдателей или даже рассказов, которые они слышали.

В результате в головах людей складываются разные концепции. Например, они могут связать понятие «собака» с чувством «хорошо» или «плохо». Эта быстрая и грязная обработка мозга ускоряет мышление, чтобы мы могли быстрее реагировать. Но это также может позволить укорениться несправедливым предубеждениям.

«Неявные предубеждения развиваются в течение жизни из-за воздействия сообщений», — говорит Стаатс. Эти сообщения могут быть прямыми, например, когда кто-то делает сексистский или расистский комментарий во время семейного ужина.Или они могут быть косвенными — стереотипами, которые мы усвоили при просмотре телевизора, фильмов или других средств массовой информации. Наш собственный опыт усугубит наши предубеждения.

Хорошая новость в том, что люди могут научиться распознавать свои скрытые предубеждения, пройдя простой онлайн-тест. Позже люди могут предпринять некоторые шаги, чтобы преодолеть свои предубеждения.

«Люди говорят, что не« видят »цвет, пол или другие социальные категории, — говорит Эми Хиллард. Однако, отмечает она, они ошибаются.Хиллард — психолог в колледже Адриана в Мичигане. Она отмечает, что исследования подтверждают идею о том, что люди не могут быть по-настоящему «слепыми» по отношению к группам меньшинств. Каждый мозг автоматически отмечает, к каким социальным группам принадлежат другие люди. И достаточно лишь незначительных сигналов, чтобы наш разум вызвал или активировал культурных стереотипов об этих группах. Этими сигналами могут быть пол человека или цвет кожи. По словам Хиллард, даже такая простая вещь, как имя человека, может вызывать стереотипы. Это верно даже для людей, которые говорят, что верят, что все люди равны.

Многие люди не осознают, что стереотипы могут возникать автоматически, — объясняет Хиллард. Когда они не знают, они с большей вероятностью позволят этим стереотипам управлять своим поведением. Более того, когда люди пытаются притвориться, будто все одинаковы — вести себя так, будто у них нет предубеждений, — это не работает. Эти усилия обычно приводят к обратным результатам. Вместо того, чтобы относиться к людям более одинаково, люди еще сильнее прибегают к своим неявным предубеждениям.

Гонка — одна большая область, в которой люди могут проявлять предвзятость. Некоторые люди явно настроены против чернокожих. Это означает, что они сознательно расисты. Большинство людей нет. Но даже судьи, которые посвящают свою жизнь справедливости, могут демонстрировать скрытую предвзятость по отношению к черным. Как показали исследования, они, как правило, выносили более суровые приговоры темнокожим мужчинам, чем белым, совершившим то же преступление.

И белые — не единственные люди, которые имеют предубеждение против черных.У черных тоже — и не только в плане наказания.

Рассмотрим это исследование 2016 года: оно показало, что учителя ожидают, что белые ученики успеют лучше, чем черные. Сет Гершенсон — исследователь политики в области образования в Американском университете в Вашингтоне, округ Колумбия.Он входил в группу, которая изучила более 8000 студентов и двух преподавателей каждого из этих студентов.

Они посмотрели, принадлежат ли учитель и ученик к одной расе. И примерно у одного из 16 белых учеников учитель не был белым.У шести из 16 чернокожих учеников учитель не был черным. Затем Гершенсон спросил, ожидают ли учителя, что их ученики пойдут в колледж и закончат его.

Белые учителя возлагали гораздо меньшие надежды на чернокожих учеников, чем черные учителя. Белые учителя сказали, что, по их мнению, у чернокожего студента в среднем один из трех шанс окончить колледж. Черные учителя тех же учеников дали гораздо более высокую оценку; они думали, что почти половина из них сможет получить высшее образование. Для сравнения, почти шесть из 10 учителей — как черных, так и белых — ожидали, что белые студенты получат высшее образование, говорит Гершенсон.Короче говоря, обе группы учителей проявили некоторую предвзятость.

«Мы обнаружили, что белые учителя значительно более предвзяты, чем черные учителя», — отмечает он. Однако учителя не подозревали, что они были предвзяты.

Неявная предвзятость также является проблемой для женщин. Возьмем, к примеру, необоснованное утверждение, что женщины плохо разбираются в науке, технологиях, инженерии или математике (STEM). Женщины могут (и часто это делают) преуспеть во всех этих областях.Фактически, женщины получают 42 процента докторских степеней в области естественных и технических наук. И все же только 28 процентов людей, которые получают работу в областях STEM, — женщины. А женщины, которые работают в STEM, как правило, зарабатывают меньше, чем мужчины того же ранга. Они также получают меньше наград и реже продвигаются по службе, чем мужчины, с которыми они работают.

В одном исследовании 2016 года исследователи из Колумбийского университета в Нью-Йорке исследовали то, что было сказано в этих рекомендациях. Команда изучила 1224 рекомендательных письма, написанных профессорами из 54 разных стран. Во всем мире и мужчины, и женщины чаще описывали студентов мужского пола как «отлично» или «блестяще». Напротив, в письмах, написанных для студенток, они описывались как «очень умные» или «очень знающие».«В отличие от терминов, используемых для обозначения мужчин, эти фразы не выделяют женщин среди конкурентов», — говорят исследователи.

Предубеждения против женщин случаются не только в науке. Исследование Сесилии Хёнджунг Мо показывает, что люди также предвзято относятся к женщинам, занимающим руководящие должности. Мо — политолог из Университета Вандербильта в Нэшвилле, штат Теннеси,

Женщины составляют 51 процент населения США. Тем не менее, они составляют лишь 20 процентов людей, работающих в Конгрессе США.Это большая разница. Одной из причин разрыва может быть то, что на политические посты баллотируется меньше женщин, чем мужчин. Но Мо считает, что это еще не все.

В одном исследовании 2014 года она попросила 407 мужчин и женщин пройти компьютерный тест на неявную предвзятость. Это называется тестом на неявные ассоциации, или IAT. Этот тест измеряет, насколько сильно люди связывают определенные понятия, такие как «мужчина» или «женщина», со стереотипами, такими как «руководитель» или «помощник».

Во время теста людей просят быстро сортировать слова или картинки по категориям.Они сортируют предметы, нажимая две компьютерные клавиши: одну левой рукой, а другую — правой. В тесте Мо участникам приходилось нажимать правильную клавишу каждый раз, когда они видели фотографию мужчины или женщины. Им приходилось выбирать из одних и тех же двух ключей каждый раз, когда они видели слова, относящиеся к лидерам и последователям. В середине тестов исследователи поменяли, какие концепции были объединены вместе на одной и той же клавише на клавиатуре.

История продолжается под видео.

Люди реагировали быстрее, когда фотографии мужчин и слова, связанные с лидерством, имели один и тот же ключ, обнаружил Мо. Когда фотографии женщин и слова, связанные с лидерством, были соединены вместе, большинству людей потребовалось больше времени, чтобы ответить. «Обычно людям легче сочетать такие слова, как« президент »,« губернатор »и« исполнительный директор », с мужчинами, и такие слова, как« секретарь »,« помощник »и« помощник », с женщинами, — говорит Мо. «Многим людям было намного труднее связывать женщин с лидерством.«Не только мужчины испытывали трудности с установлением такой связи. Женщины тоже боролись.

Мо также хотел узнать, как эти неявные предубеждения могут быть связаны с поведением людей. Поэтому она попросила участников исследования проголосовать за вымышленных кандидатов на политический пост.

Она дала каждому участнику информацию о кандидатах. В некоторых случаях кандидат-мужчина и кандидат-женщина имели одинаковую квалификацию на эту должность. В других случаях один кандидат был более квалифицированным, чем другой.Результаты Мо показали, что скрытые предубеждения людей связаны с их избирательным поведением. Люди, которые демонстрировали более сильную предвзятость в отношении женщин в IAT, с большей вероятностью голосовали за кандидата-мужчину — даже когда женщина была на более квалифицированной .

История продолжается под изображением.

Одно из самых сильных социальных предубеждений направлено против ожирения. Скорее всего, вы испытываете неприязнь к людям с избыточным весом, — говорит Маддалена Марини. Она работает психологом в Гарвардском университете в Кембридже, штат Массачусетс. По ее словам, неявная предвзятость в отношении веса кажется универсальной. «Он есть у всех.Даже люди с избыточным весом или ожирением ».

Чтобы прийти к такому выводу, она и ее команда использовали данные с веб-сайта Гарвардского проекта Implicit. Этот сайт позволяет людям сдавать IAT. В настоящее время на сайте существует 13 видов этих тестов на неявную предвзятость. Каждый проверяет свой тип смещения. Более 338 000 человек со всего мира прошли тест на отклонение веса в период с мая 2006 года по октябрь 2010 года, то есть времени, предшествующего исследованию Марини. Этот IAT был похож на гоночный.Но он попросил участников классифицировать слова и изображения, которые связаны с хорошим и плохим, с худым и толстым.

После прохождения теста IAT участники ответили на вопросы о своем индексе массы тела . Это мера, используемая для определения того, имеет ли кто-то нормальный вес.

История продолжается под изображением.

Марини обнаружила, что у более тяжелых людей меньше предубеждений по отношению к людям с избыточным весом или ожирением. «Но в среднем они по-прежнему предпочитают худых людей», — отмечает она. Просто они не чувствуют этого так сильно, как худые люди. «Люди с избыточным весом и ожирением склонны отождествлять себя со своей весовой группой и предпочитают ее», — говорит Марини. Но на них может влиять негатив на национальном уровне, из-за которого они предпочитают худых людей.

человека из 71 страны. Это позволило Марини выяснить, было ли скрытое предубеждение против тяжелых людей каким-либо образом связано с тем, были ли проблемы с весом более распространенными в их стране. Для этого она прочесала общедоступные базы данных на предмет измерений веса из каждой страны. Она обнаружила, что страны с высоким уровнем ожирения имеют самые сильные предубеждения против ожирения.

Она не понимает, почему страны с ожирением имеют такое сильное неявное предубеждение против людей с избыточным весом.По словам Марини, это может быть связано с тем, что в этих странах больше обсуждают проблемы со здоровьем, связанные с ожирением. Она также может исходить из того, что люди видят больше рекламы «диетических планов, здоровой пищи и абонементов в тренажерный зал, направленных на снижение ожирения», — отмечает она. Или, возможно, люди в этих странах просто видят, что люди с высоким социальным статусом, хорошим здоровьем и красотой, как правило, худые.

Предвзятость по весу, кажется, более общепринята, чем предвзятость по признаку расы или пола. Другими словами, люди склонны чувствовать себя свободнее при словесном выражении предвзятости в отношении веса.Это согласно исследованию, проведенному Шоном Феланом в 2013 году. Он работает политическим исследователем в клинике Mayo Clinic в Рочестере, штат Миннесота. Студенты-медики часто открыто выражают предвзятость в отношении веса, считает он. А это может привести к ухудшению медицинского обслуживания людей с избыточным весом. «Медицинские работники проявляют меньше уважения к пациентам с ожирением», — сообщает он. Он также отмечает, что исследования показывают, что «врачи тратят меньше времени на информирование пациентов с ожирением об их здоровье», чем с пациентами, не страдающими ожирением.

Антония Гонсалес — психолог из Канады в Университете Британской Колумбии в Ванкувере.«Мы можем думать, что относимся ко всем одинаково», — говорит она, но «бессознательные предубеждения могут формировать наше поведение так, как мы не всегда осознаем». Знание о том, что вы можете быть предвзятым, «является первым шагом к пониманию того, как вы относитесь к другим людям, и к попытке изменить свое собственное поведение», — говорит она.

Гонсалес знает об изменении поведения. В исследовании 2016 года с участием детей в возрасте от 5 до 12 лет она обнаружила, что их неявное предубеждение против чернокожих может измениться. Детям рассказывали положительные истории о людях, например, о пожарном, который много работает, чтобы защитить свою общину.Некоторые дети видели фотографию белого мужчины или женщины, когда слышали эту историю. Другие видели фото черного человека. После рассказа каждый ребенок прошел тест IAT. Дети, которые узнали о черном человеке, были менее предвзятыми при прохождении теста по сравнению с детьми, которые слышали о белом человеке.

«Информация о людях из разных социальных групп, которые проявляют позитивное поведение, может помочь вам подсознательно ассоциировать эту группу с позитивом», — говорит Гонсалес. «Это одна из причин, почему разнообразие в СМИ так важно», — отмечает она.Это помогает нам «узнавать о людях, которые бросают вызов традиционным стереотипам ».

Хиллард из колледжа Адриана также обнаружил, что обучение разнообразию может помочь взрослым противодействовать предвзятости в отношении женщин. «Первый шаг — это осознание», — говорит она. Как только мы узнаем о своих предубеждениях, мы сможем их заблокировать.

Это также помогает сделать шаг назад и подумать о том, могут ли стереотипы предоставить хорошую информацию, на которую можно действовать, отмечает она. Может ли стереотип, который должен быть верным в отношении значительной части населения, например «все женщины» или «все цветные люди», действительно быть верным?

По словам Стаатса, главное — принять разнообразие, а не делать вид, что его не существует.Один из лучших способов сделать это — проводить время с людьми, которые отличаются от вас. Это поможет вам увидеть их как отдельных лиц, а не как часть стереотипной группы.

«Хорошая новость в том, что наш мозг податлив, », — говорит она. «Мы можем изменить наши ассоциации».

Все немного предвзяты

КОРОТКО

• У всех нас есть предубеждения, которые влияют на все аспекты нашей жизни и жизни других людей, с которыми мы взаимодействуем.
• Как их идентифицировать и какие шаги мы можем предпринять, чтобы их преодолеть?

У всех есть предубеждения. Это правда. Однако предвзятость не делает вас плохим человеком, и не все предубеждения негативны или вредны. Это , а не признание предубеждений, которые могут привести к неправильным решениям на работе, в жизни и в отношениях.

Моей первой реакцией на это представление о том, что у всех нас есть предубеждения, было: «Конечно, не я!» В конце концов, я вырос в семье, где разнообразие и инклюзивность были частью наших основных ценностей.Мой отец был главой Антидиффамационной лиги (ADL), организации, чья миссия заключается в обеспечении справедливости и справедливого отношения ко всем людям. Я был председателем совета директоров ADL и помогал обучать других бороться с предрассудками и дискриминацией. Так откуда же у меня могут быть предубеждения?

Хотя у людей есть как явные, так и неявные предубеждения, неявные из них вызывают наибольшее беспокойство, потому что именно их мы не осознаем.

Что такое неявное смещение?

Что такое неосознанная (или неявная) предвзятость? Институт Кирвана (по изучению расы и этнической принадлежности) в Университете штата Огайо определяет эти предубеждения как «установки или стереотипы, которые бессознательно влияют на наше понимание, решения и действия.Эти скрытые предубеждения, которых мы все придерживаемся, не обязательно совпадают с нашими собственными заявленными убеждениями ».

Я начал анализировать, как предубеждения влияют на многие аспекты нашей работы и нашей жизни, когда я начал обучать навыкам защиты интересов, относящимся к выбору присяжных, несколько лет назад. Мы выявили множество предубеждений, связанных со стереотипами: учителя были слишком мягкими; инженеры и ученые слишком жесткие; пожилые люди слишком критичны; молодые люди слишком незрелые. Это были задействованные сознательные части нашего мозга — i.е., явные предубеждения. Затем я начал замечать, что, когда я преподавал на юридическом факультете и обращался к свидетелям-экспертам и судьям, я всегда использовал местоимение «он». И это несмотря на то, что я был судьей и сам давал показания в качестве свидетеля-эксперта. Это скрытая или бессознательная предвзятость.

Изучая предубеждения в юридической профессии, я начал задавать больше вопросов своим коллегам и друзьям. Я узнал, что гендерные предубеждения присущи многим профессиям, в том числе:

• женщины-юристы, в том числе я, ошибочно приняты за кого-то, кроме адвоката по делу
• женщин-пилотов приняли за бортпроводников
• медсестры-мужчины часто принимают за врачей, а врачи-женщины принимают за медсестер
• женщины в строительной отрасли, которые обычно не считаются подрядчиками или генеральными менеджерами

Список можно продолжать и продолжать.

Проблема расы и скрытой предвзятости также была в последнее время в заголовках газет, будь то группа афроамериканцев, которых попросили покинуть Starbucks, или, что еще хуже, афроамериканец, застреленный, полагая, что у него было оружие. . Однако скрытая предвзятость касается не только расы или пола. Мы видим неявную предвзятость во многих местах, в отношении многих характеристик — возраста, религии, веса, внешности, инвалидности, акцентов, гендерной идентичности, сексуальности, родителей-одиночек, домработниц, мам и пап, детей с розовыми волосами, людей с татуировками и т. Д. пирсинг, люди с наклейками на бамперах на автомобилях — этот список можно продолжать и продолжать.

Почему мы должны заботиться о своих предубеждениях?

Если мы выступаем в суде, эти предубеждения могут повлиять на то, как мы выбираем присяжных, как мы собираем нашу команду юристов, как мы готовим наши дела, как мы работаем с нашими клиентами и свидетелями и как мы взаимодействуем с нашими коллегами. Как судья, я работаю над тем, чтобы решения, которые я принимаю, включая решения о достоверности, и вынесенные мной приговоры основаны на соответствующих фактах, а не на скрытых предубеждениях, о которых я, возможно, даже не подозреваю.

На рабочем месте бессознательные предубеждения могут повлиять на решения о найме и продвижении по службе, рабочие задания и карьерный рост и, к сожалению, могут стать частью притеснений, враждебной рабочей среды и судебных исков о дискриминации.Эти предубеждения также могут вызвать проблемы и разрушить отношения, а также повлиять на репутацию бизнеса. Кроме того, эти неявные предубеждения имеют смертельные последствия, когда они затрагивают таких лиц, как полицейские, которые должны быстро оценивать ситуации и принимать жизненно важные решения — решения, которые могут быть результатом скрытой предвзятости.

Эти предубеждения могут быть невероятно болезненными для жертв предубеждений. Один из моих дорогих друзей, судья районного суда, в прошлом общественный защитник, поделился историей с группой юристов.Он рассказал им, как, будучи афроамериканским общественным защитником в зале суда, было несколько случаев, когда судьи, другие юристы и сотрудники спрашивали его, где его адвокат, предполагая, что, поскольку он афроамериканец, он должен быть ответчик по делу. Люди, которые делали такие предположения, необязательно были расистами или предвзятыми, но явно действовала скрытая предвзятость. Когда он поделился этой историей, по его лицу текли слезы. Другой мой друг, латиноамериканец, поделился своим опытом в суде 15 лет назад, когда судья спросил его, говорит ли он по-английски (просто из-за своей фамилии).Независимо от цели этих вопросов, боль была ощутима для обоих этих людей.

Возможно ли преодолеть наши скрытые предубеждения?

Как распознать и преодолеть наши собственные предубеждения? Во-первых, мы должны быть готовы признать, что у нас есть предубеждения. Чем больше мы убеждаем себя в своей беспристрастности, тем больше у нас может быть слепых пятен, когда дело доходит до признания наших собственных неявных предубеждений. Отличное место для начала — это пройти Гарвардские тесты на неявную ассоциацию (Project Implicit).Это онлайн-тесты, предназначенные для измерения неявных предубеждений примерно в 28 различных категориях. Хотя результаты могут поначалу шокировать, наука предполагает, что тест абсолютно верен.

Мы также должны признать, что старая пословица «доверяй своей интуиции» не может помешать нам признать скрытую предвзятость. Мы должны сосредоточиться на том, как мы формируем мнение о людях. Иногда это означает спрашивать себя, были бы наши мнения такими же, если бы человек был другой расы, пола или религии или одевался бы по-другому.Другими словами, было бы наше мнение таким же, если бы человек был частью другой группы? Исследования показывают, что мы наиболее подвержены риску принятия решения, которое является результатом неявной предвзятости, когда мы устали, в стрессе и вынуждены принимать быстрые решения. Сколько мы знаем юристов, которые подходят под это описание? Возможно, мы не в состоянии контролировать, сколько мы спим или какой стресс испытываем, но мы можем контролировать, насколько быстро мы принимаем решения, которые могут быть результатом неявной предвзятости.

Хотя мы должны быть готовы выявлять и устранять свои собственные предубеждения, мы также должны распознавать предубеждения других и быть готовыми их устранять.Это, наверное, самая сложная и самая неудобная часть преодоления предвзятости.

Задача других — определить, когда что-то сказать, как это сказать и кому. Я прилагаю все усилия, чтобы не обращать внимания на предвзятость других людей в глазах других. Я пытаюсь найти место, чтобы поговорить наедине, и, возможно, начинаю разговор с чего-то вроде: «Я знаю, что вы не хотели заставить меня (или другого человека) чувствовать себя плохо, но мне нужно поделиться с вами эффектом, который эти слова или действия имели.«Я знаю, что легче сказать, чем сделать, но если кто-то не осознает, что у него или нее есть определенная предвзятость, это будет только продолжать причинять боль другому человеку или группе лиц и может привести к серьезным проблемам для работодателя. или организации.

Наконец, с точки зрения конкретных шагов, которые мы можем предпринять, чтобы прервать предвзятость, важно помнить, что предубеждения развиваются в молодом возрасте и часто являются результатом нашей склонности окружать себя людьми, которые больше всего на нас похожи.Фактически, исследования показывают, что мы склонны воспринимать кого-либо, кроме нас, как угрозу, потому что наш мозг говорит нам об этом. «Способность отличать« нас от них »является фундаментальной для человеческого мозга», — написал Дэвид Амодио, доцент кафедры психологии и нейронологии Нью-Йоркского университета, в своей статье 2014 года «Нейробиология предрассудков и стереотипов». Однако это не означает, что мы не можем начать распознавать и преодолевать свои неявные предубеждения. Вот несколько предложений:

• Знайте свои первоначальные мысли о людях и на чем они действительно основаны
• Будьте внимательны к окружающим вас людям и замечайте, как часто вы разговариваете с людьми, которые отличаются от вас
• Окружите себя разнообразным сочетанием культурных и социальных ситуаций и людей
• Поделитесь своим опытом предвзятости с другими
• Обучать других элементам инклюзивной работы, школы и общественной среды
• Ищите общие черты, которые существуют независимо от расы, религии, пола, культуры и т. Д.
• Если вы что-то видите, скажите что-нибудь, надеюсь, в манере, учитывающей чувства всех участников
• Не предполагайте дурных намерений
• Замедлите процесс принятия решений

Реальность такова, что все мы говорим или делаем то, что хотели бы вернуть. К сожалению, есть тенденция делать вид, что этого не было сказано или этого не было, или надеяться, что, возможно, человек этого не слышал. Но это произошло, мы сказали это, и человек это услышал, так что признайте это, извинитесь, ДВИГАЙТЕСЬ И ИЗМЕНЯЙТЕСЬ.Мой опыт показывает, что большинство людей действительно ценят это и могут двигаться дальше, когда кто-то признает ошибку и извиняется за нее.

Наконец, поставив перед собой задачу выявить и преодолеть наши собственные неявные предубеждения и помочь другим распознать их предубеждения, мы можем начать закладывать основу для гармоничной и продуктивной работы и личного окружения.

Карен Штайнхаузер — практикующий поверенный, судья и адъюнкт-профессор права юридического колледжа Денверского университета в Денвере, штат Колорадо.Она проводит мастер-классы и семинары для юристов и неюристов, государственных учреждений и частного бизнеса в области скрытой / неосознанной предвзятости.

Бессознательное смещение | iversity.ucsf.edu

Рене Наварро, фармацевт, доктор медицины, вице-канцлер по вопросам разнообразия и информирования приветствует вас в инициативе UCSF по борьбе с неосознанной предвзятостью. (Стенограмма)

Предубеждение — это предубеждение в пользу или против одного предмета, человека или группы по сравнению с другим, обычно считающееся несправедливым.Предвзятость может быть у человека, группы или учреждения и может иметь негативные или позитивные последствия.

Есть виды предубеждений

1. Сознательное смещение (также известное как явное смещение ) и
2. Бессознательное смещение (также известное как неявное смещение )

Бессознательные предубеждения — это социальные стереотипы об определенных группах людей, которые люди формируют за пределами их собственного сознательного осознания. У каждого есть подсознательные представления о различных социальных группах и группах идентичности, и эти предубеждения проистекают из склонности человека организовывать социальные миры путем категоризации.

Бессознательные предубеждения гораздо более распространены, чем сознательные предрассудки, и часто несовместимы с сознательными ценностями.Определенные сценарии могут активировать бессознательные установки и убеждения. Например, предубеждения могут быть более распространенными, когда вы выполняете несколько задач одновременно или работаете в условиях нехватки времени.

Этот веб-сайт поддерживался Национальным центром развития трансляционных наук, Национальными институтами здравоохранения через номер гранта UCSF-CTSI UL1 TR000004. Его содержание является исключительной ответственностью авторов и не обязательно отражает официальную точку зрения NIH.

Объяснение неявного смещения — Институт восприятия

Мысли и чувства являются «неявными», если мы их не осознаем или ошибаемся относительно их природы.У нас есть предубеждение, когда вместо нейтральности мы предпочитаем (или отвращаемся) к человеку или группе людей. Таким образом, мы используем термин «неявная предвзятость», чтобы описать, когда мы имеем отношение к людям или ассоциируем с ними стереотипы без нашего сознательного знания. Довольно банальный пример этого можно увидеть в исследованиях, которые показывают, что белые люди часто ассоциируют преступность с чернокожими, даже не подозревая, что они это делают.

Науки о разуме обнаружили, что большинство наших действий происходит без наших сознательных мыслей, что позволяет нам функционировать в нашем чрезвычайно сложном мире.Однако это означает, что наши неявные предубеждения часто предсказывают наше поведение более точно, чем наши сознательные ценности. Многочисленные исследования также показали, что люди с более высоким уровнем неявной предвзятости в отношении чернокожих с большей вероятностью отнесут неоружие к оружию (например, телефон вместо пистолета или расческу для ножа), а в компьютерном моделировании с большей вероятностью стрелять в безоружного человека. Точно так же белые врачи, которые неявно связывали чернокожих пациентов с «меньшей склонностью к сотрудничеству», с меньшей вероятностью направляли чернокожих пациентов с острыми коронарными симптомами на тромболизис для получения специальной медицинской помощи.

Социологи находятся на ранних стадиях определения того, как «дебиазировать». Ясно, что средства массовой информации и деятели культуры должны сыграть свою роль в прекращении закрепления стереотипов в новостях и массовой культуре. Тем временем организации и отдельные лица могут определить области риска, в которых наши скрытые предубеждения могут повлиять на наше поведение и суждения. Установление определенных процедур принятия решений и поощрение людей к осознанию рисков неявной предвзятости может помочь нам избежать действий в соответствии с предубеждениями, противоречащими нашим сознательным ценностям и убеждениям.

Неявная предвзятость — это универсальное явление, не ограниченное расой, полом или даже страной происхождения. Пройдите этот тест, чтобы узнать, как он работает для вас: Тест на неявное смещение

Implicit Bias лежит в основе наших ранее опубликованных отчетов. Совсем недавно в книге «Трансформация восприятия» документируется, как неявная предвзятость формирует жизнь чернокожих мужчин и мальчиков, а «Рассказывая нашу собственную историю: роль повествования в расовом исцелении» объединяет понимание скрытых предубеждений с обсуждением того, как повествование может помочь устранить вред дискриминации.

<< Вернуться к ИССЛЕДОВАНИЯ: НАУКА И ВОСПРИЯТИЕ.

Определить предвзятость — Как оценить источники информации

Почему мы должны проверять предвзятость информации на веб-странице?

Вы бы доверяли информации, не подкрепленной фактами или логическими рассуждениями? Пристрастный автор может не обращать внимания на все факты или приводить логические аргументы в поддержку своего мнения.

Предвзятость — это когда заявление отражает пристрастие, предпочтение или предубеждение в пользу или против человека, объекта или идеи. Многое из того, что вы читаете и слышите, выражает предвзятость. Предвзятость — это когда писатель или оратор использует набор фактов, выбор слов, а также качество и тон описания, чтобы передать определенное чувство или отношение. Его цель — передать определенное отношение или точку зрения на предмет. Читая или слушая предвзятые материалы, имейте в виду следующие вопросы:

• Какие факты упущены автором?
• Какая дополнительная информация необходима?
• Какие слова вызывают положительное или отрицательное впечатление?
• Какое впечатление у меня было бы, если бы использовались разные слова?

Предвзятая информация пытается изменить ваше мнение о том, как вы думаете.Знание о предвзятости и умение правильно идентифицировать, анализировать и усваивать предвзятую информацию — это умение, которое нужно ценить. Он ставит вас за то, как вы думаете, а не за мир печати и средств массовой информации. (см. Колледж Куэста, критически оценивающий логику и достоверность информации)

Какие индикаторы предвзятости на веб-странице?

• Язык документа часто — крайний ; утверждения имеют коннотацию «все или ничего».
• Аргумент больше обращается к эмоциям, чем к логике.
• Вещи сформулированы с намерением излишне упрощать или излишне обобщать.
• Автор хочет представить ограниченный взгляд на тему.

Вы должны ожидать предвзятости на веб-страницах, посвященных тому, чтобы что-то вам продать. Кроме того, веб-страницы, посвященные спорным темам, могут иметь предвзятость.

Вопросы, которые следует учитывать при поиске индикаторов предвзятости:

• Какова политическая точка зрения автора?
• Что получит автор?
• Кто платит за сайт?
• Предлагает ли автор альтернативные точки зрения?
  • Если да, то представлены ли эти взгляды объективно или с пренебрежением?

Автор: Lora K.Кайслер и Деннис О’Коннор из проекта по распространению информации в 21 веке. Школы Иллинойса.

Лучшие практики и политики по снижению вреда для потребителей

Введение

Частный и государственный секторы все чаще обращаются к системам искусственного интеллекта (ИИ) и алгоритмам машинного обучения для автоматизации простых и сложных процессов принятия решений. ¹ Массовая оцифровка данных и новые технологии, которые их используют, разрушают большинство секторов экономики, включая транспорт, розничную торговлю, рекламу, энергетику и другие области.ИИ также оказывает влияние на демократию и управление, поскольку развертываются компьютеризированные системы для повышения точности и повышения объективности государственных функций.

Доступность массивных наборов данных позволила легко получать новые идеи с помощью компьютеров. В результате алгоритмы, представляющие собой набор пошаговых инструкций, которым компьютеры следуют для выполнения задачи, стали более сложными и широко распространенными инструментами для автоматического принятия решений. ² Хотя алгоритмы используются во многих контекстах, мы фокусируемся на компьютерных моделях, которые делают выводы на основе данных о людях, включая их личности, демографические атрибуты, их предпочтения и их вероятное будущее поведение, а также объекты, связанные с ними. ³

«Алгоритмы используют объемы макро- и микроданных, чтобы влиять на решения, влияющие на людей в целом ряде задач, от создания рекомендаций из фильмов до помощи банкам в определении кредитоспособности людей».

В мире до алгоритмов люди и организации принимали решения о найме, рекламе, вынесении уголовных приговоров и кредитовании. Эти решения часто регулируются федеральными законами, законами штата и местными законами, которые регулируют процессы принятия решений с точки зрения справедливости, прозрачности и беспристрастности.Сегодня некоторые из этих решений полностью принимаются или на них влияют машины, масштаб и статистическая точность которых обещают беспрецедентную эффективность. Алгоритмы используют объемы макро- и микроданных, чтобы влиять на решения, влияющие на людей в целом ряде задач, от создания рекомендаций из фильмов до помощи банкам в определении кредитоспособности людей. ⁴ В машинном обучении алгоритмы полагаются на несколько наборов данных или обучающих данных, которые определяют, какие выходные данные являются правильными для некоторых людей или объектов.На основе этих обучающих данных он затем изучает модель, которую можно применить к другим людям или объектам, и делать прогнозы о том, какими должны быть правильные выходные данные для них. ⁵

Однако, поскольку машины могут по-разному обращаться с людьми и объектами, находящимися в одинаковом положении, исследования начинают выявлять некоторые тревожные примеры, когда реальность алгоритмического принятия решений не оправдывает наших ожиданий. Учитывая это, некоторые алгоритмы рискуют воспроизвести и даже усилить человеческие предубеждения, особенно те, которые затрагивают защищенные группы. ⁶ Например, автоматическая оценка риска, используемая судьями США для определения пределов освобождения под залог и вынесения приговора, может привести к неверным выводам, что приведет к значительным совокупным последствиям для определенных групп, таким как более длительные сроки тюремного заключения или более высокие сроки освобождения под залог для цветных.

В этом примере решение порождает «предвзятость» — термин, который мы определяем в широком смысле, поскольку он относится к результатам, которые систематически менее благоприятны для отдельных лиц в определенной группе и где нет существенных различий между группами, оправдывающих такой вред. ⁷ Предвзятость в алгоритмах может возникать из-за нерепрезентативных или неполных обучающих данных или из-за неверной информации, отражающей историческое неравенство. Если оставить без внимания предвзятые алгоритмы, они могут привести к решениям, которые могут иметь коллективное разрозненное влияние на определенные группы людей даже без намерения программиста проводить различие. Изучение предполагаемых и непредвиденных последствий алгоритмов необходимо и своевременно, особенно потому, что текущая государственная политика может быть недостаточной для выявления, смягчения и устранения последствий для потребителей.

Поскольку алгоритмы используются во множестве приложений, мы утверждаем, что операторы и другие заинтересованные стороны должны проявлять усердие в упреждающем обращении с факторами, способствующими предвзятости. Выявление и своевременное реагирование на алгоритмическую предвзятость потенциально может предотвратить вредное воздействие на пользователей и тяжелую ответственность перед операторами и создателями алгоритмов, включая программистов, правительство и лидеров отрасли. Эти субъекты составляют аудиторию ряда предложений по смягчению последствий, которые будут представлены в этом документе, потому что они либо создают, лицензируют, распространяют, либо им поручено регулировать или законодательно закреплять алгоритмическое принятие решений для уменьшения дискриминационных намерений или последствий.

Наше исследование представляет основу для алгоритмической гигиены , которая определяет некоторые конкретные причины предубеждений и использует передовой опыт для их выявления и смягчения. Мы также представляем набор рекомендаций государственной политики, которые способствуют справедливому и этичному развертыванию технологий искусственного интеллекта и машинного обучения.

Этот документ основан на мнениях 40 лидеров мнений из различных академических дисциплин, секторов промышленности и организаций гражданского общества, которые участвовали в одном из двух круглых столов. ⁸ Участники круглого стола активно обсуждали концепции, связанные с алгоритмическим дизайном, подотчетностью и справедливостью, а также технические и социальные компромиссы, связанные с различными подходами к обнаружению и смягчению предвзятости.

Наша цель — сопоставить проблемы, с которыми компьютерные программисты и лидеры отрасли сталкиваются при разработке алгоритмов, с проблемами политиков и групп гражданского общества, которые оценивают их последствия. Чтобы сбалансировать инновации искусственного интеллекта и алгоритмов машинного обучения с защитой прав личности, мы представляем набор рекомендаций государственной политики, передовых методов саморегулирования и стратегий, ориентированных на потребителя, — все они способствуют справедливому и этичному развертыванию этих технологий. .

Наши рекомендации по государственной политике включают обновление законов о недискриминации и гражданских правах для применения к цифровым технологиям, использование нормативных «песочниц» для стимулирования экспериментов по борьбе с предвзятостью и безопасных гаваней для использования конфиденциальной информации для выявления и смягчения предубеждений. Мы также описываем набор передовых практик саморегулирования, таких как разработка заявления о влиянии предвзятости, инклюзивных принципов проектирования и кросс-функциональных рабочих групп. Наконец, мы предлагаем дополнительные решения, ориентированные на алгоритмическую грамотность среди пользователей и формальные механизмы обратной связи с группами гражданского общества.

В следующем разделе представлены пять примеров алгоритмов, объясняющих причины и источники их предвзятости. Позже в статье мы обсудим компромиссы между справедливостью и точностью в смягчении алгоритмической предвзятости, а затем предложим надежные передовые практики саморегулирования, рекомендации государственной политики и ориентированные на потребителя стратегии для устранения предвзятости в Интернете. В заключение мы подчеркнем важность упреждающего подхода к ответственному и этичному использованию машинного обучения и других автоматизированных инструментов принятия решений.

Примеры алгоритмических предубеждений

Алгоритмическая предвзятость может проявляться по-разному с разной степенью последствий для исследуемой группы. Рассмотрим следующие примеры, которые иллюстрируют как ряд причин, так и следствий, которые либо непреднамеренно применяют различное лечение к группам, либо намеренно оказывают на них разное воздействие.

Интернет-магазин Amazon, в котором 60% сотрудников во всем мире составляют мужчины и где мужчины занимают 74% руководящих должностей в компании, недавно прекратил использование алгоритма найма после обнаружения гендерной предвзятости. ⁹ Данные, которые инженеры использовали для создания алгоритма, были получены из резюме, отправленных в Amazon за 10-летний период, преимущественно от белых мужчин. Алгоритм был обучен распознавать образцы слов в резюме, а не соответствующие наборы навыков, и эти данные сравнивались с преимущественно мужским инженерным отделом компании, чтобы определить, подходит ли кандидат. В результате программа искусственного интеллекта наказывала любое резюме, содержащее слово «женское» в тексте, и понижала рейтинг женщин, посещавших женские колледжи, что приводило к гендерной предвзятости. ¹⁰

Исследователи Принстонского университета использовали готовое программное обеспечение для машинного обучения искусственного интеллекта, чтобы проанализировать и связать 2,2 миллиона слов. Они обнаружили, что европейские имена воспринимались как более приятные, чем имена афроамериканцев, и что слова «женщина» и «девушка» чаще ассоциировались с искусством, а не с наукой и математикой, которые, скорее всего, были связаны с мужчинами. . ¹¹ Анализируя эти словесные ассоциации в данных обучения, алгоритм машинного обучения учел существующие расовые и гендерные предубеждения, проявляемые людьми. Если выученные ассоциации этих алгоритмов использовались как часть алгоритма ранжирования в поисковых системах или для генерации предложений слов как часть инструмента автозаполнения, это могло иметь кумулятивный эффект усиления расовых и гендерных предубеждений.

Латанья Суини, исследователь из Гарварда и бывший технический директор Федеральной торговой комиссии (FTC), обнаружила, что поисковые запросы афроамериканцев в Интернете с большей вероятностью возвращали этому человеку рекламу из службы, которая ведет записи об арестах, по сравнению с результаты объявления для белых имен. ¹² Ее исследование также показало, что такая же дифференцированная трактовка имела место при микротаргетинге кредитных карт с более высоким процентом и других финансовых продуктов, когда компьютер сделал вывод, что испытуемые были афро-американцами, несмотря на то, что они имели такое же происхождение, как и белые. ¹³ Во время публичной презентации на слушаниях в Федеральной торговой комиссии по большим данным Суини продемонстрировал, как веб-сайт, посвященный празднованию столетнего юбилея черного братства, постоянно получал рекламные предложения о покупке «записей об аресте» или получении кредита с высокой процентной ставкой. карточные предложения. ¹⁴

Исследователь из Массачусетского технологического института Джой Буоламвини обнаружила, что алгоритмы трех коммерчески доступных программных систем распознавания лиц не распознают лица с более темной кожей. ¹⁵ Как правило, в большинстве наборов данных для обучения распознаванию лиц более 75 процентов составляют мужчины и более 80 процентов — белые. Когда человек на фотографии был белым мужчиной, программа в 99% случаев точно определяла человека как мужчину.Согласно исследованию Буоламвини, процент ошибок продукта для трех продуктов был меньше одного процента в целом, но увеличился до более чем 20 процентов в одном продукте и до 34 процентов в двух других при идентификации темнокожих женщин как женщин. ¹⁶ В ответ на результаты анализа лица Буоламвини и IBM, и Microsoft взяли на себя обязательство повысить точность своего программного обеспечения для распознавания лиц с более темной кожей.

Признание возможности и причин предвзятости — первый шаг в любом подходе к смягчению последствий.

Алгоритм COMPAS (Профилирование исправительных правонарушителей для альтернативных санкций), который используется судьями для прогнозирования того, должны ли обвиняемые быть задержаны или освобождены под залог до суда, был признан предвзятым по отношению к афроамериканцам, согласно отчету ProPublica. ¹⁷ Алгоритм присваивает оценку риска вероятности совершения обвиняемым правонарушения в будущем, полагаясь на объемные данные, доступные в записях об арестах, демографические данные обвиняемого и другие переменные.По сравнению с белыми, у которых была одинаковая вероятность повторного совершения преступления, афроамериканцы с большей вероятностью получали более высокий балл риска, что приводило к более длительным срокам содержания под стражей в ожидании суда. ¹⁸ Northpointe, фирма, которая продает результаты алгоритма, предлагает доказательства для опровержения таких утверждений и утверждает, что для оценки справедливости продукта используются неверные метрики — тема, к которой мы вернемся позже в статье.

Хотя эти примеры предвзятости не являются исчерпывающими, они предполагают, что эти проблемы являются эмпирической реальностью, а не просто теоретическими проблемами.Они также иллюстрируют, как эти результаты возникают, и в некоторых случаях без злого умысла со стороны создателей или операторов алгоритма. Признание возможности и причин предвзятости — первый шаг в любом подходе к смягчению последствий. По этому поводу участник круглого стола Рикардо Баеза-Ятс из NTENT заявил, что «[компании] по-прежнему будут иметь проблемы с обсуждением алгоритмической предвзятости, если они не будут ссылаться на саму фактическую предвзятость».

Причины предвзятости

Барокас и Селбст указывают на то, что предвзятость может закрасться на всех этапах проекта, «… будь то определение проблемы, которую необходимо решить таким образом, чтобы по-разному воздействовать на классы, неспособность распознать или устранить статистические предубеждения, воспроизвести прошлые предрассудки или рассмотреть недостаточно богатый набор факторов.” ¹⁹ Участники круглого стола уделяли особое внимание предвзятости, возникающей из-за недостатков данных, используемых для обучения алгоритмов. «Некорректные данные — большая проблема, — заявила участница круглого стола Люси Вассерман из Google, — особенно для групп, над защитой которых прилагают все усилия». Хотя причин много, мы сосредоточимся на двух из них: исторических человеческих предубеждений и неполных или нерепрезентативных данных .

Исторические человеческие предубеждения сформированы широко распространенными и часто глубоко укоренившимися предубеждениями против определенных групп, которые могут привести к их воспроизведению и усилению в компьютерных моделях.В алгоритме COMPAS, если афроамериканцы с большей вероятностью будут арестованы и заключены в тюрьму в США из-за исторического расизма, различий в полицейской практике или других неравенств в системе уголовного правосудия, эти реалии будут отражены в данных обучения и использоваться вносить предложения о задержании подсудимого. Если в модель учесть исторические предубеждения, она будет делать такие же неправильные суждения, как и люди.

Алгоритм приема на работу Amazon выявил аналогичную траекторию, когда мужчины были эталоном профессиональной «пригодности», что привело к снижению рейтинга кандидатов-женщин и их характеристик.Эти исторические реалии часто отражаются в разработке и выполнении алгоритмов, и они усугубляются отсутствием разнообразия, которое существует в областях компьютерной науки и науки о данных. ²⁰

Кроме того, человеческие предубеждения могут усиливаться и сохраняться без ведома пользователя. Например, афроамериканцы, которые в первую очередь являются мишенью для опционов по кредитным картам с высоким процентом, могут обнаружить, что нажимают на этот тип рекламы, не осознавая, что они будут продолжать получать такие хищные предложения в Интернете.В этом и других случаях алгоритм может никогда не накапливать противоречащие фактам рекламные предложения (например, варианты кредита с более низкой процентной ставкой), которые потребитель мог бы иметь право и предпочел. Таким образом, разработчикам алгоритмов и операторам важно следить за такими потенциальными петлями отрицательной обратной связи, которые со временем приводят к тому, что алгоритм становится все более предвзятым.

Недостаток обучающих данных — еще одна причина алгоритмической ошибки.Если данные, используемые для обучения алгоритма, более репрезентативны для одних групп людей, чем для других, прогнозы модели также могут быть систематически хуже для непредставленных или недостаточно представительных групп. Например, в экспериментах Буоламвини по анализу лиц плохое распознавание лиц с более темной кожей было в значительной степени из-за их статистической недопредставленности в данных обучения. То есть алгоритм предположительно уловил определенные черты лица, такие как расстояние между глазами, форма бровей и вариации оттенков кожи лица, как способы обнаружения мужских и женских лиц.Однако черты лица, которые были более репрезентативными в данных обучения, не были столь разнообразными и, следовательно, менее надежными для различения цвета лица, что даже приводило к ошибочной идентификации темнокожих женщин как мужчин.

Тернер Ли утверждал, что часто отсутствие разнообразия среди программистов, разрабатывающих обучающую выборку, может приводить к недопредставлению конкретной группы или конкретных физических атрибутов. ²¹ Выводы Буоламвини были связаны с ее тщательностью в тестировании, выполнении и оценке различных проприетарных программ для анализа лица в различных условиях, исправляя отсутствие разнообразия в их выборках.

И наоборот, алгоритмы со слишком большим объемом данных или избыточным представлением могут склонить решение к конкретному результату. Исследователи из Джорджтаунской школы права обнаружили, что около 117 миллионов взрослых американцев участвуют в сетях распознавания лиц, используемых правоохранительными органами, и что афроамериканцы с большей вероятностью будут выделены в первую очередь из-за того, что их перепредставлены в базах данных портретов. ²² Следовательно, у афроамериканцев было больше возможностей для ложного сопоставления, что произвело предвзятый эффект.

Стратегии обнаружения смещения

Понимание различных причин предубеждений — первый шаг к внедрению эффективной алгоритмической гигиены. Но как операторы алгоритмов могут оценить, действительно ли их результаты предвзяты? Даже когда ошибки в обучающих данных исправлены, результаты все равно могут быть проблематичными, потому что контекст имеет значение на этапе обнаружения смещения.

«Даже когда ошибки в обучающих данных исправлены, результаты могут быть проблематичными, потому что контекст имеет значение на этапе обнаружения смещения.”

Во-первых, все подходы к обнаружению должны начинаться с осторожного обращения с конфиденциальной информацией пользователей, включая данные, идентифицирующие членство человека в группе, защищенной на федеральном уровне (например, раса, пол). В некоторых случаях операторы алгоритмов могут также беспокоиться о принадлежности человека к какой-либо другой группе, если они также подвержены несправедливым результатам. Примером этого могут быть приемные комиссары колледжей, обеспокоенные тем, что алгоритм исключает абитуриентов из малообеспеченных или сельских районов; это люди, которые могут не находиться под защитой государства, но подвержены определенному ущербу (например,г., финансовые затруднения).

В первом случае системная предвзятость в отношении защищаемых классов может привести к коллективным, разрозненным воздействиям , которые могут иметь основу для юридически признанного вреда, такого как отказ в выдаче кредита, расовое профилирование в Интернете или массовое наблюдение. ²³ В последнем случае результаты алгоритма могут давать неравных результатов, или неравные частоты ошибок для разных групп, но они не могут нарушать законодательные запреты, если не было намерения проводить различие.

Эти проблемные результаты должны привести к дальнейшему обсуждению и осознанию того, как алгоритмы работают с конфиденциальной информацией, а также к компромиссам в отношении справедливости и точности моделей.

Хотя интуитивно привлекательно думать, что алгоритм может не замечать чувствительные атрибуты, это не всегда так. ²⁴ Критики указали, что алгоритм может классифицировать информацию на основе онлайн-прокси для чувствительных атрибутов, что приводит к предвзятости в отношении группы даже без принятия решений, непосредственно основанных на членстве в этой группе.Барокас и Селбст определяют онлайн-прокси как «факторы, используемые в процессе оценки алгоритма, которые являются просто заменой для защищенных групп, например, почтовый индекс в качестве прокси для расы или рост и вес в качестве заместителей для пола». ²⁵ Они утверждают, что прокси-серверы, часто связанные с алгоритмами, могут приводить как к ошибкам, так и к дискриминационным результатам, например, в случаях, когда почтовый индекс используется для определения решений о цифровом кредитовании или гонка приводит к разным результатам. ²⁶ Рекламная платформа Facebook содержала прокси-серверы, которые позволяли продавцам жилья микротаргетировать предпочтительных арендаторов и покупателей, щелкая по точкам данных, включая предпочтения по почтовому индексу. ²⁷ Таким образом, возможно, что алгоритм, который полностью игнорирует чувствительный атрибут, может фактически дать тот же результат, что и алгоритм, который использует атрибут дискриминационным образом.

«Хотя интуитивно привлекательно думать, что алгоритм может не замечать чувствительные атрибуты, это не всегда так».

Например, Amazon приняла корпоративное решение исключить определенные районы из своей системы доставки Prime в тот же день. Их решение основывалось на следующих факторах: имел ли конкретный почтовый индекс достаточное количество членов Prime, находился ли рядом со складом и имелось ли достаточное количество людей, желающих доставить по этому почтовому индексу. ²⁸ Хотя эти факторы соответствовали модели рентабельности компании, они привели к исключению бедных, преимущественно афроамериканских кварталов, преобразовав эти данные в прокси для расовой классификации. Результаты, даже непреднамеренные, дискриминировали расовые и этнические меньшинства, которые не были включены.

Аналогичным образом, алгоритм сопоставления вакансий может не получать поле пола в качестве входных данных, но он может давать разные оценки соответствия для двух резюме, которые отличаются только заменой имени «Мэри» на «Марк», потому что алгоритм обучен проводите эти различия с течением времени.

Существуют также аргументы в пользу того, что ослепление алгоритма к чувствительным атрибутам может вызвать алгоритмическое смещение в некоторых ситуациях. Корбетт-Дэвис и Гоэл в своем исследовании алгоритма COMPAS отмечают, что даже после учета «законных» факторов риска эмпирически установлено, что женщины реже совершают повторные преступления, чем мужчины во многих юрисдикциях. ²⁹ Если алгоритму запрещено сообщать разные оценки риска для двух обвиняемых по уголовным делам, которые различаются только по полу, судьи могут с меньшей вероятностью освободить обвиняемых-женщин, чем обвиняемых-мужчин, с равными фактическими рисками совершения другого преступления до суда.Таким образом, исключение алгоритма из любого типа чувствительного атрибута не может устранить систематическую ошибку.

Хотя участники круглого стола не пришли к согласию по поводу использования онлайн-прокси в моделировании, они в основном согласились с тем, что операторы алгоритмов должны быть более прозрачными при обращении с конфиденциальной информацией, особенно если потенциальный прокси-сервер сам по себе может наносить юридический классификационный ущерб. ³⁰ Также обсуждалось, что использование чувствительных атрибутов как часть алгоритма может быть стратегией для обнаружения и, возможно, устранения преднамеренных и непреднамеренных предубеждений.Поскольку в настоящее время это может быть ограничено правилами конфиденциальности, такими как Общие правила защиты данных Европейского Союза (GDPR) или предлагаемое федеральное законодательство США о конфиденциальности, можно привести аргумент в пользу использования нормативных песочниц и безопасных гаваней, чтобы разрешить использование конфиденциальных данных. информация при выявлении и устранении предубеждений, которые будут включены в наши рекомендации по политике.

При обнаружении систематической ошибки компьютерные программисты обычно проверяют набор выходных данных, создаваемых алгоритмом, на предмет аномальных результатов.Сравнение результатов для разных групп может быть полезным первым шагом. Это можно сделать даже с помощью моделирования. Участник круглого стола Рич Каруана из Microsoft предложил компаниям рассмотреть возможность моделирования прогнозов (как истинных, так и ложных), прежде чем применять их к реальным сценариям. «Нам почти необходим вторичный процесс сбора данных, потому что иногда модель [выдает] нечто совершенно иное», — поделился он. Например, если средний балл алгоритма подбора вакансий для кандидатов-мужчин выше, чем для женщин, может потребоваться дополнительное исследование и моделирование.

Однако обратная сторона этих подходов состоит в том, что не все неравные результаты несправедливы. Участник круглого стола Солон Барокас из Корнельского университета резюмировал это, сказав: «Может быть, мы обнаружим, что у нас есть очень точная модель, но она все равно дает несопоставимые результаты. Это может быть прискорбно, но справедливо ли это? » Альтернативой учету неравных результатов может быть рассмотрение равенства количества ошибок и того, больше ли ошибок у одной группы людей, чем у другой.По этому поводу Изабель Клуманн из Facebook поделилась, что «у общества есть ожидания. Один из них не заключается в непропорциональном заключении в тюрьму одной группы меньшинства [в результате алгоритма] ».

Как показали дискуссии вокруг алгоритма COMPAS, даже частота ошибок не является простой лакмусовой бумажкой для смещенных алгоритмов. Компания Northpointe, разработавшая алгоритм COMPAS, опровергает утверждения о расовой дискриминации. Они утверждают, что среди обвиняемых, которым присвоен одинаковый высокий рейтинг риска, афроамериканцы и белые обвиняемые имеют почти равные уровни рецидивизма, так что по этой оценке нет ошибки в решении алгоритма. ³¹ По их мнению, судьи могут рассматривать свой алгоритм без какой-либо ссылки на гонку в решениях об освобождении под залог и освобождении.

Как правило, невозможно иметь одинаковые коэффициенты ошибок между группами для всех различных коэффициентов ошибок. ³² ProPublica сосредоточилась на одном уровне ошибок, а Northpointe — на другом. Таким образом, необходимо установить некоторые принципы, для которых частота ошибок должна быть уравновешена в каких ситуациях, чтобы быть справедливыми.

Однако различение того, как алгоритм работает с конфиденциальной информацией, и потенциальных ошибок может быть проблематичным для операторов алгоритмов, политиков и групп гражданского общества. ³³ «Компании потеряют много, если мы не будем проводить различие между ними», — сказала Джули Брилл из Microsoft. По крайней мере, участники круглого стола согласились с тем, что алгоритмы не должны увековечивать историческое неравенство и что необходимо проделать большую работу для решения проблемы онлайн-дискриминации. ³⁴

Компромиссы справедливости и точности

Далее необходимо обсуждение компромиссов и этики. Здесь следует сосредоточить внимание на оценке как социальных представлений о «справедливости», так и возможных социальных издержек. В своем исследовании алгоритма COMPAS Корбетт-Дэвис, Гоэль, Пирсон, Феллер и Хук видят «внутреннее противоречие между минимизацией насильственных преступлений и удовлетворением общих представлений о справедливости». ³⁵ Они пришли к выводу, что оптимизация с точки зрения общественной безопасности приводит к решениям, которые наказывают цветных подсудимых, удовлетворяя при этом определениям правовой и социальной справедливости, и может привести к большему количеству освобождений подсудимых с высоким риском, что отрицательно скажется на общественной безопасности. ³⁶ Более того, негативное воздействие на общественную безопасность может также непропорционально сильно повлиять на афроамериканские и белые районы, что также приведет к издержкам справедливости.

Если цель состоит в том, чтобы избежать усиления неравенства, что же тогда должны делать разработчики и операторы алгоритмов, чтобы смягчить потенциальные предубеждения? Мы утверждаем, что разработчики алгоритмов должны сначала найти способы уменьшить неравенство между группами, не жертвуя общей производительностью модели, особенно когда кажется, что существует компромисс.

Несколько участников круглого стола утверждали, что существуют возможности для повышения справедливости и точности алгоритмов. Для программистов исследование очевидных ошибок в программном обеспечении может выявить, почему модель не была максимальной для общей точности. Устранение этих ошибок может повысить общую точность. Наборы данных, которые могут быть недостаточно репрезентативными для определенных групп, могут потребовать дополнительных обучающих данных для повышения точности принятия решений и уменьшения несправедливых результатов.Эксперименты Буоламвини по распознаванию лиц являются хорошими примерами такого подхода к справедливости и точности.

Участница круглого стола Сара Холланд из Google указала на толерантность к риску, связанную с подобными компромиссами, когда она поделилась, что «повышение риска также связано с поднятием вопросов справедливости». Таким образом, компании и другие операторы алгоритмов должны определить, оправданы ли социальные издержки компромиссов, вовлечены ли заинтересованные стороны в решение с помощью алгоритмов или необходимы ли люди, принимающие решения, для разработки решения.

Этические рамки имеют значение

В основе этих компромиссов в отношении справедливости и точности должно быть обсуждение этических рамок и потенциальных препятствий для задач и систем машинного обучения. В настоящее время предпринимаются несколько текущих и недавних международных и базирующихся в США усилий по разработке стандартов этического управления при использовании ИИ. ³⁷ Ожидается, что в ближайшее время Организация экономического сотрудничества и развития (ОЭСР), состоящая из 35 членов, опубликует свои собственные руководящие принципы этического ИИ. ³⁸ Европейский Союз недавно выпустил «Руководящие принципы этики для надежного ИИ», в которых выделяются семь принципов управления: (1) человеческое вмешательство и надзор, (2) техническая надежность и безопасность, (3) конфиденциальность и управление данными, (4) прозрачность , (5) разнообразие, недискриминация и справедливость, (6) экологическое и социальное благополучие и (7) подотчетность. ³⁹ Этические рамки ЕС отражают четкий консенсус в отношении того, что «несправедливо проводить дискриминацию — неэтично». В рамках этих руководящих принципов государства-члены связывают разнообразие и недискриминацию с принципами справедливости, обеспечивая включение и разнообразие на протяжении всего жизненного цикла системы искусственного интеллекта.Их принципы интерпретируют справедливость через призму равного доступа, инклюзивных процессов проектирования и равного обращения.

Тем не менее, даже несмотря на эти правительственные усилия, все еще на удивление сложно определить и измерить справедливость. ⁴⁰ Хотя не всегда возможно удовлетворить все понятия справедливости одновременно, компании и другие операторы алгоритмов должны знать, что не существует простой метрики для измерения справедливости, которую может применить инженер-программист, особенно при проектировании. алгоритмов и определение соответствующих компромиссов между точностью и справедливостью.Справедливость — это человеческая, а не математическая решимость, основанная на общих этических убеждениях. Таким образом, алгоритмические решения, которые могут иметь серьезные последствия для людей, потребуют участия человека.

Например, хотя расхождения в обучающих данных в алгоритме COMPAS можно исправить, человеческая интерпретация справедливости все еще имеет значение. По этой причине, хотя такой алгоритм, как КОМПАС, может быть полезным инструментом, он не может заменить принятие решений, которое остается на усмотрение человеческого арбитра. ⁴¹ Мы считаем, что тщательное тестирование алгоритма может бросить вызов различным определениям справедливости, что является полезным упражнением для компаний и других операторов алгоритмов.

«Для операторов и разработчиков алгоритмов важно всегда спрашивать себя: оставим ли мы некоторые группы людей хуже в результате конструкции алгоритма или его непредвиденных последствий? “

При принятии решения о создании и выводе алгоритмов на рынок необходимо учитывать этику вероятных результатов, особенно в тех областях, где правительства, гражданское общество или политики видят потенциал нанесения ущерба и где существует риск сохранения существующих предубеждений или принятия защищенных группы, более уязвимые к существующему социальному неравенству.Вот почему важно, чтобы операторы и разработчики алгоритмов всегда задавали себе вопрос: Оставим ли мы некоторые группы людей хуже в результате конструкции алгоритма или его непредвиденных последствий?

Мы предлагаем, чтобы этот вопрос был одним из многих, которые создатели и операторы алгоритмов должны учитывать при разработке, выполнении и оценке алгоритмов, которые описаны в следующих предложениях по смягчению последствий. Наше первое предложение касается обновления U.S. Законы о недискриминации применимы к цифровому пространству.

Предложения по смягчению последствий

Чтобы завоевать доверие политиков, программисты, компании и другие операторы алгоритмов должны соблюдать законы и постановления США, которые в настоящее время запрещают дискриминацию в общественных местах. Исторически сложилось так, что законы и постановления о недискриминации недвусмысленно определяют пороговые значения и параметры для несопоставимого отношения к защищаемым классам.Закон о гражданских правах 1964 года «запрещает дискриминацию по признаку пола, а также расы при приеме на работу, продвижении по службе и увольнении». Закон о справедливом жилищном обеспечении 1968 года запрещает дискриминацию классов, находящихся под федеральной защитой, при продаже, аренде и финансировании жилья, а также в других сделках, связанных с жильем. Принятый в 1974 г. Закон о равных возможностях кредита запрещает кредитору дискриминировать любого заявителя по кредитным операциям любого типа на основании защищенных характеристик. Хотя эти законы не обязательно смягчают и устраняют другие неявные или неосознанные предубеждения, которые могут быть встроены в алгоритмы, компании и другие операторы должны избегать нарушения этих установленных законом ограничений при разработке алгоритмов, а также смягчать их неявную озабоченность по поводу предотвращения прошлой дискриминации. продолжение.

Участница круглого стола Венди Андерсон из офиса конгрессмена Вэл Демингс заявила: «[Типично] законодатели слышат только тогда, когда происходит что-то плохое. Нам нужно найти способ защитить тех, кто в этом нуждается, не подавляя инноваций ». Конгресс может разъяснить, как эти законы о недискриминации применяются к типам жалоб, недавно обнаруженных в цифровом пространстве, поскольку большинство этих законов были написаны до появления Интернета. ⁴² Такое законодательное действие может обеспечить более четкие ограничения, которые срабатывают, когда алгоритмы способствуют юридически признанному ущербу.Более того, когда создатели и операторы алгоритмов понимают, что это могут быть более или менее не подлежащие обсуждению факторы, технический дизайн будет более продуманным, отойдя от моделей, которые могут вызывать и усугублять явную дискриминацию, например, рамки дизайна, которые исключают, а не включают определенные входы или не проверяются на предвзятость. ⁴³

После того, как идея алгоритма была проверена на соответствие законам о недискриминации, мы предлагаем операторам алгоритмов разработать заявление о влиянии предвзятости, которое мы предлагаем в качестве шаблона вопросов, которые можно гибко применять, чтобы направлять их через проектирование, реализацию и мониторинг. фазы.

В качестве практики саморегулирования заявление о влиянии смещения может помочь исследовать и предотвратить любые потенциальные смещения, которые заложены в алгоритмическом решении или являются его результатом. В качестве передовой практики операторы алгоритмов должны провести мозговой штурм по основному набору исходных предположений о цели алгоритма до его разработки и выполнения. Мы предлагаем операторам применять заявление о влиянии смещения для оценки цели, процесса и производства алгоритма, где это уместно.Участники круглого стола также отметили важность создания кросс-функциональной и междисциплинарной команды для создания и реализации заявления о влиянии предвзятости.

• Институт AI Now Нью-Йоркского университета

Институт AI Now при Нью-Йоркском университете уже представил структуру модели, которую правительственные органы могут использовать для создания алгоритмических оценок воздействия (AIA), которые оценивают потенциальные пагубные последствия алгоритма таким же образом, как окружающая среда, конфиденциальность, данные или права человека. заявления о воздействии. ⁴⁴ Хотя могут быть различия в реализации, учитывая тип прогнозной модели, AIA включает в себя несколько раундов проверки внутренней, внешней и общественной аудиторией. Во-первых, предполагается, что после этого обзора компания с помощью более технических внешних экспертов разработает список потенциального вреда или предвзятости в своей самооценке. Во-вторых, если кажется, что произошла предвзятость, AIA требует, чтобы уведомление было направлено затронутым группам населения, и открывается период комментариев для ответа.В-третьих, процесс AIA рассчитывает на то, что федеральные и другие организации поддержат право пользователей оспаривать алгоритмические решения, которые кажутся несправедливыми.

Хотя процесс AIA поддерживает существенную петлю обратной связи, может отсутствовать как необходимая предусмотрительность, ведущая к решению, так и надзор за положениями алгоритма. Более того, предлагаемое нами заявление о влиянии предвзятости начинается с структуры, которая определяет , какие автоматизированных решений должны быть подвергнуты такой проверке, стимулированию операторов и взаимодействию с заинтересованными сторонами.

• Какие автоматизированные решения?

В случае определения того, какие автоматизированные решения требуют такой проверки, операторы алгоритмов должны начинать с вопросов о том, будет ли возможен отрицательный или непредвиденный результат в результате алгоритма, для кого и серьезность последствий для членов затронутых группа, если не обнаружена и не устранена. Анализ установленных правовых мер защиты в отношении справедливого жилья, занятости, кредита, уголовного правосудия и здравоохранения должен служить отправной точкой для определения того, какие решения следует рассматривать с особой осторожностью при разработке и тестировании любого алгоритма, используемого для прогнозирования результатов или принятия важных решений о приемлемости о доступе к пособию.Это особенно верно, учитывая правовые предписания против использования данных, которые могут иметь разрозненное влияние на защищаемый класс или другой установленный ущерб. Таким образом, мы предлагаем операторам постоянно ставить под сомнение потенциальные правовые, социальные и экономические последствия и потенциальные обязательства, связанные с этим выбором, при определении того, какие решения следует автоматизировать и как автоматизировать их с минимальными рисками.

• Каковы стимулы для пользователей?

Поощрения также должны побуждать организации к активному устранению алгоритмической предвзятости.И наоборот, операторы, которые создают и внедряют алгоритмы, обеспечивающие более справедливые результаты, также должны быть признаны политиками и потребителями, которые будут больше доверять им в их практике. Когда компании применяют эффективную алгоритмическую гигиену до, во время и после внедрения алгоритмического принятия решений, они должны быть вознаграждены и, возможно, публично признаны за передовой опыт.

• Как вовлекаются заинтересованные стороны?

Наконец, последний элемент, инкапсулированный в заявлении о влиянии смещения, должен включать участие заинтересованных сторон, которые могут помочь компьютерным программистам в выборе входных и выходных данных для определенных автоматизированных решений.«Технология успешна, когда пользователи понимают продукт лучше, чем его дизайнеры», — сказал Рич Каруана из Microsoft. Вовлечение пользователей на раннем этапе и на протяжении всего процесса приведет к усовершенствованию алгоритмов, что в конечном итоге приведет к улучшению взаимодействия с пользователем.

Обязанности заинтересованных сторон могут также распространяться на организации гражданского общества, которые могут внести вклад в обсуждение структуры алгоритма. «Компании [должны] привлекать гражданское общество», — поделилась Миранда Боген из Upturn. «В противном случае они пойдут со своими жалобами в прессу и регулирующие органы.«Возможным решением для операторов алгоритмов могло бы стать создание консультативного совета организаций гражданского общества, который, работая вместе с компаниями, может быть полезным при определении объема процедуры и прогнозирования предубеждений на основе их базового опыта.

• Шаблон отчета о воздействии смещения

Эти три основополагающих элемента для заявления о влиянии смещения отражены в дискретном наборе вопросов, на которые операторы должны ответить на этапе проектирования, чтобы отфильтровать потенциальные смещения (таблица 1).В качестве основы саморегулирования компьютерные программисты и другие операторы алгоритмов могут создать инструмент этого типа до разработки и выполнения модели.

Разнообразие дизайна

Операторы алгоритмов должны также учитывать роль разнообразия в своих рабочих группах, данные обучения и уровень культурной чувствительности в своих процессах принятия решений.Предварительное использование разнообразия при разработке алгоритмов вызовет и потенциально предотвратит пагубные дискриминационные последствия для определенных защищаемых групп, особенно расовых и этнических меньшинств. Хотя непосредственные последствия предубеждений в этих областях могут быть небольшими, огромное количество цифровых взаимодействий и выводов может составить новую форму системной предвзятости. Следовательно, операторы алгоритмов не должны сбрасывать со счетов возможность или преобладание предвзятости и должны стремиться к тому, чтобы для разработки алгоритма использовались разнообразные кадры, интеграция инклюзивных пространств в свои продукты или использование «разнообразия в дизайне», когда преднамеренные и прозрачные действия будут быть приняты для обеспечения того, чтобы культурные предубеждения и стереотипы были устранены заблаговременно и надлежащим образом.Добавление инклюзивности в дизайн алгоритма может потенциально проверить культурную инклюзивность и чувствительность алгоритмов для различных групп и помочь компаниям избежать того, что может быть спорным и затруднительным алгоритмическим результатом.

Заявление о влиянии смещения не должно быть исчерпывающим инструментом. Для алгоритмов, ставящих на карту больше, постоянный анализ их выполнения должен быть включен в процесс. Цель здесь — отслеживать разрозненные воздействия модели, граничащие с неэтичным, несправедливым и несправедливым принятием решений.Когда процесс выявления и прогнозирования цели алгоритма будет достигнут, надежная петля обратной связи поможет в обнаружении предвзятости, что приводит к следующей рекомендации, продвигающей регулярные аудиты.

Другие передовые методы саморегулирования

Формальный и регулярный аудит алгоритмов для проверки смещения — еще одна передовая практика для обнаружения и смягчения смещения. О важности этих аудитов участник круглого стола Джон Клейнберг из Корнельского университета поделился, что «у алгоритма нет другого выбора, кроме как заранее продумать».«Аудиты побуждают анализировать как входные данные, так и выходные решения, и, когда они проводятся сторонним оценщиком, они могут дать представление о поведении алгоритма. Хотя для некоторых аудитов могут потребоваться технические знания, это не всегда так. Программное обеспечение для распознавания лиц, которое ошибочно идентифицирует цветных людей в большей степени, чем белых, — это случай, когда заинтересованное лицо или пользователь может определить предвзятые результаты, ничего не зная о том, как алгоритм принимает решения. «Мы должны ожидать, что компьютеры будут иметь контрольный след», — поделилась участница круглого стола Миранда Боген из Upturn.Разработка регулярного и тщательного аудита данных, собранных для алгоритмической работы, наряду с ответами разработчиков, гражданского общества и других лиц, на которых влияет алгоритм, позволит лучше выявлять и, возможно, предотвращать предубеждения.

«Разработка регулярного и тщательного аудита данных, собранных для алгоритмической работы, наряду с ответами разработчиков, гражданского общества и других лиц, на которых влияет алгоритм, позволит лучше выявить и, возможно, предотвратить предвзятость».

Опыт государственных служащих округа Аллегейни свидетельствует о важности аудита третьей стороной.В 2016 году Департамент социальных служб запустил инструмент поддержки принятия решений — Allegheny Family Screening Tool (AFST), чтобы получить оценку, по которой дети, скорее всего, будут изгнаны из своих домов в течение двух лет или будут повторно направлены. окружное управление по делам детей в связи с подозрением в жестоком обращении. Округ взял на себя ответственность за использование инструмента, работал совместно с разработчиком и заказал независимую оценку его прямого и косвенного воздействия на процесс проверки на жестокое обращение, включая точность решений, рабочую нагрузку и последовательность.Должностные лица округа также запросили у экспертов дополнительные независимые исследования, чтобы определить, дискриминирует ли программное обеспечение определенные группы. В 2017 году результаты действительно выявили некоторые статистические диспропорции с более высоким уровнем ошибок по расовым и этническим группам. Белые дети, у которых был самый высокий риск жестокого обращения, с меньшей вероятностью были удалены из дома по сравнению с афроамериканскими детьми с аналогичными оценками риска. ⁴⁵ Округ отреагировал на эти выводы в рамках перестройки инструмента, и в ноябре 2018 года была внедрена вторая версия. ⁴⁶

Facebook недавно завершил аудит гражданских прав, чтобы определить, как он справляется с проблемами и отдельными лицами из защищенных групп. ⁴⁷ После раскрытия того, как платформа решала различные проблемы, включая подавление избирателей, модерацию контента, конфиденциальность и разнообразие, компания взяла на себя обязательство провести обновленный аудит своей внутренней инфраструктуры для рассмотрения жалоб, связанных с нарушением гражданских прав, и решения проблем разнообразия в дизайн своей продукции по умолчанию. Недавние действия Facebook по запрету белого националистического контента или борьбе с кампаниями по дезинформации являются одними из результатов этих усилий. ⁴⁸

Участники круглого стола в целом признали идею о том, что организации должны использовать межфункциональные команды. Но движение в этом направлении может быть затруднено в уже разрозненных организациях, несмотря на технические, социальные и, возможно, юридические последствия, связанные с разработкой и исполнением алгоритма. Не все решения потребуют такого анализа между группами, но когда эти решения несут риск реального вреда, их следует использовать.В целях снижения предвзятости и управления рисками, связанными с алгоритмом, совместные рабочие группы могут компенсировать слепые пятна, которые часто упускаются в небольших, сегментированных беседах и обзорах. Объединение экспертов из различных отделов, дисциплин и секторов поможет разработать стандарты подотчетности и стратегии для смягчения предубеждений в Интернете, в том числе в инженерном, юридическом, маркетинговом, стратегическом и коммуникационном направлениях.

Межфункциональные рабочие группы — независимо от того, руководят ли они внутренними или внешними экспертами — могут попытаться выявить предвзятость до и во время развертывания модели.Кроме того, партнерство между частным сектором, академическими кругами и организациями гражданского общества также может способствовать большей прозрачности в применении ИИ в различных сценариях, особенно тех, которые влияют на защищенные классы или распространяются в общественных интересах. Кейт Кроуфорд, исследователь ИИ и основатель AI Now Partnership, предположила, что «замкнутые циклы не открыты для алгоритмического аудита, обзора или публичного обсуждения», потому что они обычно усугубляют проблемы, которые они пытаются решить. ⁴⁹ Далее по этому поводу участница круглого стола Наташа Дуарте из Центра демократии и технологий обратилась к проблеме Аллегени, сказав: «[C] компании должны быть более открытыми при описании ограничений своих технологий, а правительство должно знать, какие вопросы спрашивать в своих оценках », что говорит о важности более тесного сотрудничества в этой области.

Даже с учетом всех перечисленных выше мер предосторожности все еще существует определенный риск того, что алгоритмы будут принимать необъективные решения.Люди будут продолжать играть роль в выявлении и исправлении предвзятых результатов еще долгое время после того, как алгоритм будет разработан, протестирован и запущен. Хотя больше данных может использоваться для автоматизированного принятия решений, этот процесс должен дополнять, а не полностью заменять человеческое суждение. Участник круглого стола Алекс Пейсахович из Facebook поделился: «Нам не нужно устранять модераторов-людей. Нам нужно нанять больше сотрудников и заставить их сосредоточиться на крайних случаях ». Такое мнение становится все более важным в этой области, поскольку сравнительные преимущества людей и алгоритмов становятся более различимыми, а использование того и другого улучшает результаты для онлайн-пользователей.

Однако последствия для конфиденциальности возникнут, когда больше людей будут участвовать в управлении алгоритмами, особенно если при создании модели или при проверке предсказаний алгоритма на предмет предвзятости задействована более конфиденциальная информация. Сроки проведения круглых столов, которые также произошли в связи с принятием GDPR в ЕС, говорят о необходимости усиления принципов конфиденциальности потребителей, когда пользователи имеют право выбирать, какими данными они хотят делиться с компаниями.Поскольку в настоящее время в США обсуждается необходимость принятия федерального законодательства о конфиденциальности, доступ к персональным данным и их использование могут стать еще более трудными, что потенциально может сделать алгоритмические модели более предвзятыми. Поскольку ценности создателей и пользователей алгоритмов меняются со временем, люди должны решать конфликты между результатами и заявленными целями. В дополнение к периодическим аудитам участие человека обеспечивает постоянную обратную связь по эффективности усилий по снижению предвзятости.

Другие рекомендации государственной политики

Как указано в документе, политики играют решающую роль в выявлении и смягчении предубеждений, обеспечивая при этом, чтобы технологии продолжали приносить положительные экономические и социальные выгоды.

Нормативные «песочницы» воспринимаются как одна из стратегий создания временных отсрочек от регулирования, позволяющих технологиям и правилам, связанным с их использованием, развиваться вместе. Эти правила могут применяться к алгоритмической предвзятости и другим областям, где рассматриваемая технология не имеет аналогов, охватываемых существующими правилами. Вместо того, чтобы расширять сферу действия существующих правил или создавать правила в ожидании потенциального вреда, песочница позволяет внедрять инновации как в технологии, так и в ее регулировании.Даже в жестко регулируемой отрасли создание «песочниц», в которых можно тестировать инновации наряду с более легкими правилами касания, может принести пользу.

«Вместо того, чтобы расширять сферу действия существующих правил или создавать правила в ожидании потенциального вреда, песочница позволяет внедрять инновации как в технологии, так и в ее регулировании».

Например, компании финансового сектора, использующие технологии или финтех, показали, как нормативные «песочницы» могут стимулировать инновации в разработке новых продуктов и услуг. ⁵⁰ Эти компании широко используют алгоритмы для всего, от выявления мошенничества до принятия решения о предоставлении кредита. Некоторые из этих действий повторяют действия обычных банков, и они по-прежнему подпадают под существующие правила, но в песочнице будут разрешены новые способы решения задач. ⁵¹ Поскольку «песочницы» дают новаторам большую свободу действий при разработке новых продуктов и услуг, им потребуется активный контроль до тех пор, пока технологии и нормативные требования не станут зрелыми. Министерство финансов США недавно сообщило не только о преимуществах, которые получили страны, внедрившие нормативные песочницы в сфере финансовых технологий, но и рекомендовало U.S. применяют «песочницы» для финансовых технологий, чтобы стимулировать инновации. ⁵² Учитывая широкую полезность алгоритмов для стимулирования инноваций в различных регулируемых отраслях, участники круглых столов рассмотрели потенциальную полезность расширения регуляторных песочниц на другие области, где алгоритмы могут помочь стимулировать инновации.

Могут также использоваться регулирующие безопасные гавани, где регулирующий орган может указать, какие виды деятельности не нарушают существующие правила. ⁵³ Преимущество этого подхода заключается в повышении нормативной определенности для разработчиков и операторов алгоритмов.Например, раздел 230 Закона о порядочности в коммуникациях снял с веб-сайтов ответственность за действия их пользователей — положение, широко известное благодаря развитию таких интернет-компаний, как Facebook и Google. Позже это исключение сузилось, чтобы исключить торговлю людьми в целях сексуальной эксплуатации с принятием Закона о запрете сексуальной торговли в Интернете и Закона о борьбе с торговлей людьми в Интернете. Применение аналогичного подхода к алгоритмам могло бы освободить их операторов от ответственности в определенных контекстах, сохраняя при этом защиту в других, где вред легче идентифицировать.В соответствии с предыдущим обсуждением использования определенных защищенных атрибутов, можно было бы рассмотреть безопасные гавани в тех случаях, когда сбор конфиденциальной личной информации используется для конкретных целей обнаружения и смягчения предвзятости.

Широко распространенная алгоритмическая грамотность имеет решающее значение для смягчения предвзятости. Учитывая более широкое использование алгоритмов во многих аспектах повседневной жизни, все потенциальные субъекты автоматизированных решений выиграют от знания того, как эти системы функционируют.Подобно тому, как компьютерная грамотность теперь считается жизненно важным навыком в современной экономике, вскоре может потребоваться понимание того, как алгоритмы используют свои данные.

Субъекты, принимающие автоматизированные решения, заслуживают знать, когда предвзятость отрицательно сказывается на них, и как реагировать, когда это происходит. Отзывы пользователей могут поделиться информацией и предвидеть области, в которых может проявиться предвзятость в существующих и будущих алгоритмах. Со временем создатели алгоритмов могут активно запрашивать обратную связь от широкого круга субъектов данных, а затем предпринимать шаги для просвещения общественности о том, как работают алгоритмы, чтобы помочь в этих усилиях.Государственные агентства, регулирующие предвзятость, также могут работать над повышением алгоритмической грамотности в рамках своей миссии. Как в государственном, так и в частном секторе те, кто больше всего потеряет от необъективного принятия решений, также могут сыграть активную роль в его выявлении.

Заключение

В декабре 2018 года президент Трамп подписал Закон о первом шаге, новое законодательство в области уголовного правосудия, которое поощряет использование алгоритмов по всей стране. ⁵⁴ В частности, система будет использовать алгоритм для первоначального определения, кто может использовать кредиты заработанного времени — сокращение срока наказания за завершение образовательных, профессиональных или реабилитационных программ — за исключением заключенных, считающихся более подверженными риску.Существует вероятность того, что эти алгоритмы увековечивают расовые и классовые различия, которые уже встроены в систему уголовного правосудия. В результате афроамериканцы и бедняки в целом с большей вероятностью будут отбывать более длительные сроки тюремного заключения.

«Когда алгоритмы разрабатываются ответственно, они могут избежать печальных последствий усиленной системной дискриминации и неэтичных приложений».

Как указано в документе, эти типы алгоритмов должны вызывать беспокойство, если не существует процесса, который включает техническую осмотрительность, справедливость и равенство от разработки до исполнения.То есть, когда алгоритмы разрабатываются ответственно, они могут избежать печальных последствий усиленной системной дискриминации и неэтичных приложений.

Для одних решений лучше всего подходят алгоритмы и другие инструменты искусственного интеллекта, в то время как другие могут потребовать вдумчивого рассмотрения перед проектированием компьютерных моделей. Кроме того, тестирование и проверка определенных алгоритмов также позволит выявить и, в лучшем случае, смягчить дискриминационные результаты. Для операторов алгоритмов, стремящихся снизить риск и осложнения плохих результатов для потребителей, продвижение и использование предложений по смягчению последствий может создать путь к алгоритмической справедливости, даже если справедливость никогда не будет полностью реализована.

Институт Брукингса — некоммерческая организация, занимающаяся независимыми исследованиями и политическими решениями. Его миссия — проводить качественные независимые исследования и на основе этих исследований предоставлять инновационные практические рекомендации для политиков и общественности. Выводы и рекомендации любой публикации Brookings принадлежат исключительно ее авторам и не отражают точку зрения Учреждения, его руководства или других ученых.

Amazon, Facebook, Google, IBM и Microsoft предоставляют общую неограниченную поддержку The Brookings Institution.Пол Резник также является консультантом Facebook, но эта работа является независимой, и его взгляды, выраженные здесь, являются его собственными. На находки, интерпретации и выводы, опубликованные в этой статье, пожертвования не повлияли. Brookings осознает, что ценность, которую он предоставляет, заключается в его абсолютной приверженности качеству, независимости и влиянию. Мероприятия, поддерживаемые донорами, отражают это обязательство.

Приложение: Список участников круглого стола

Список литературы

Ангвин, Джулия и Терри Пэррис-младший.«Facebook позволяет рекламодателям исключать пользователей по расе». Текст / HTML. ProPublica, 28 октября 2016 г. https://www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race.

Ангвин, Джулия, Джефф Ларсон, Сурья Матту и Лаура Киршнер. «Машинный уклон». ProPublica, 23 мая 2016 г. Доступно по адресу https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (последний доступ 19 апреля 2019 г.).

Барокас, Солон и Эндрю Д. Селбст, «Разрозненное влияние больших данных», Научная статья SSRN (Рочестер, штат Нью-Йорк: Сеть социальных исследований, 2016 г.Доступно на https://papers.ssrn.com/abstract=2477899.

Бласс, Андреа и Юрий Гуревич. Алгоритмы: поиск абсолютных определений. Бюллетень Европейской ассоциации теоретической информатики 81, 2003 г. https://www.microsoft.com/en-us/research/wp-content/uploads/2017/01/164.pdf (последний доступ 12 апреля 2019 г.).

Бреннан, Тим, Уильям Дитрих и Беата Эрет. «Оценка прогностической достоверности системы оценки рисков и потребностей КОМПАС». Уголовное правосудие и поведение 36 (2009): 21–40.

Чессел, Мэнди. «Этика для больших данных и аналитики». IBM, без даты. Доступно по адресу https://www.ibmbigdatahub.com/sites/default/files/whitepapers_reports_file/TCG%20Study%20Report%20-%20Ethics%20for%20BD%26A.pdf (последнее посещение — 19 апреля 2019 г.).

Ходош, Сара. «Суды используют алгоритмы для определения приговора, но случайные люди получают те же результаты». Popular Science, 18 января 2018 г. Доступно по адресу https://www.popsci.com/recidivism-algorithm-random-bias (последний доступ 15 октября 2018 г.).

Корбетт-Дэвис, Сэм, Эмма Пирсон, Ави Феллер и Шарад Гоэль. «Компьютерная программа, используемая для принятия решений об освобождении под залог и вынесении приговора, была названа предвзятой против чернокожих. На самом деле все не так ясно «. Washington Post (блог), 17 октября 2016 г. Доступно по адресу https://www.washingtonpost.com/news/monkey-cage/wp/2016/10/17/can-an-algorithm-be-racist-our-analysis -is-more-cautious-than-propublicas / (последнее посещение — 19 апреля 2019 г.).

Корбетт-Дэвис, Сэм, Эмма Пирсон, Ави Феллер, Шарад Гоэль и Азиз Хук.«Принятие алгоритмических решений и цена справедливости». ArXiv: 1701.08230 [Cs, Stat], 27 января 2017 г. https://doi.org/10.1145/3097983.309809.

Кортленд, Рэйчел. «Детективы с предвзятостью: исследователи, стремящиеся сделать алгоритмы справедливыми», журнал Nature 558, вып. 7710 (июнь 2018 г.): 357–60. Доступно по адресу https://doi.org/10.1038/d41586-018-05469-3 (последний доступ 19 апреля 2019 г.).

ДеАнджелиус, Стивен Ф. «Искусственный интеллект: как алгоритмы делают системы умными», журнал Wired, сентябрь 2014 г.Доступно по адресу https://www.wired.com//insights/2014/09/artificial-intelligence-algorithms-2/ (последнее посещение — 12 апреля 2019 г.).

Элехальде-Руис, Алексия. «Конец резюме? Наем сотрудников происходит в разгар технологической революции с алгоритмами, чат-ботами ». Чикаго Трибьюн (19 июля 2018 г.). Доступно по адресу http://www.chicagotribune.com/business/ct-biz-artificial-intelligence-hiring-20180719-story.html.

Юбэнкс, Вирджиния. «Модель прогнозирования жестокого обращения с детьми терпит неудачу в бедных семьях», Wired, 15 января 2018 г.Доступно по адресу https://www.wired.com/story/excerpt-from-automating-inequality/ (последнее посещение — 19 апреля 2019 г.).

Слушание FTC № 7: Проблемы конкуренции и защиты потребителей алгоритмов, искусственного интеллекта и прогнозной аналитики, § Федеральная торговая комиссия (2018). https://www.ftc.gov/system/files/documents/public_events/1418693/ftc_hearings_session_7_transcript_day_2_11-14-18.pdf.

Гарбаде, Майкл Дж. «Устранение путаницы: искусственный интеллект против машинного обучения против различий в глубоком обучении», Наука о данных, 14 сентября 2018 г.Доступно по адресу https: // todatascience // clearing-the-confusion-ai-vs-machine-learning-vs-deep-learning-sizes-fce69b21d5eb (последнее посещение — 12 апреля 2019 г.).

Griggs v. Duke Power Company, Oyez. Доступно на https://www.oyez.org/case/ 1970/124 (последний доступ 1 октября 2018 г.)

Герен, Лиза. «Дискриминация по разным последствиям». www.nolo.com. Доступно по адресу https://www.nolo.com/legal-encyclopedia/disparate-impact-discrimination.htm (последний доступ 24 апреля 2019 г.).

Хадхази, Адам.«Предвзятые боты: системы искусственного интеллекта отражают человеческие предрассудки». Принстонский университет, 18 апреля 2017 г. Доступно по адресу https://www.princeton.edu/news/2017/04/18/biased-bots-artificial-intelligence-systems-echo-human-prejudices (последнее посещение — 20 апреля 2019 г. ).

Гамильтон, Изобель Ашер. «Почему совершенно неудивительно, что ИИ для найма персонала Amazon был настроен против женщин». Business Insider, 13 октября 2018 г. Доступно по адресу https://www.businessinsider.com/amazon-ai-biased-against-women-no-surprise-sandra-wachter-2018-10 (последний доступ 20 апреля 2019 г.).

Хардести, Ларри. «Исследование обнаруживает предвзятость по признаку пола и типа кожи в коммерческих системах искусственного интеллекта». MIT News, 11 февраля 2018 г. Доступно по адресу http://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212 (последнее посещение — 19 апреля 2019 г.).

Группа экспертов высокого уровня по искусственному интеллекту. «Рекомендации по этике надежного ИИ (проект)». Европейская комиссия, 18 декабря 2018 г.

Ингольд, Дэвид и Спенсер Сопер. «Amazon не принимает во внимание гонку своих клиентов.Должен ли он? » Bloomberg.com, 21 апреля 2016 г. http://www.bloomberg.com/graphics/2016-amazon-same-day/.

Кирнс, Майкл. «Конфиденциальность данных, машинное обучение и конфиденциальность потребителей». Школа права Университета Пенсильвании, май 2018 г. Доступно по адресу https://www.law.upenn.edu/live/files/7952-kearns-finalpdf (последнее посещение — 12 апреля 2019 г.).

Кляйнберг, Джон, Сендхил Муллайнатан и Маниш Рагхаван, «Неотъемлемые компромиссы в справедливом определении оценок риска». В Трудах инноваций в теоретической информатике (ITCS), 2017.Доступно по адресу https://arxiv.org/pdf/1609.05807.pdf (по состоянию на 19 апреля 2019 г.).

Ларсон, Джефф, Сурья Матту и Джулия Ангвин. «Непредвиденные последствия географического нацеливания». Technology Science, 1 сентября 2015 г. Доступно по адресу https://techscience.org/a/20150

/ (последний доступ 19 апреля 2019 г.).

Локлир, Мэллори. «Facebook публикует обновленную информацию о своем аудите гражданских прав». Engadget (блог), 18 декабря 2018 г. Доступно по адресу https://www.engadget.com/2018/12/18/facebook-update-civil-rights-audit/ (последнее посещение — 19 апреля 2019 г.).

Лопес, немец. «Разъяснение Закона о первом шаге, законопроекта Конгресса о реформе уголовного правосудия». Vox, 3 декабря 2018 г. Доступно по адресу https://www.vox.com/future-perfect/2018/12/3/18122392/first-step-act-criminal-justice-reform-bill-congress (последнее посещение — апрель. 16, 2019).

Мнучин, Стивен Т. и Крейг С. Филлипс. «Финансовая система, которая создает экономические возможности — небанковские финансы, финтех и инновации». Вашингтон, округ Колумбия: Министерство финансов США, июль 2018 г.Доступно по адресу https://home.treasury.gov/sites/default/files/2018-08/A-Financial-System-that-Creates-Economic-Opportunities—Nonbank-Financials-Fintech-and-Innovation_0.pdf (последний доступ 19 апреля 2019 г.).

Райзман, Диллон, Джейсон Шульц, Кейт Кроуфорд и Мередит Уиттакер. «Алгоритмическая оценка воздействия: практическая основа подотчетности государственного агентства». Нью-Йорк: AI Now, апрель 2018 г.

Ромеи, Андреа и Сальваторе Руджьери. «Анализ данных о дискриминации: многопрофильная библиография.”В Дискриминации и конфиденциальности в информационном обществе, под редакцией Барта Кастерса, Т. Колдерса, Б. Шермера и Т. Зарски, 109–35. Исследования в области прикладной философии, эпистемологии и рациональной этики. Springer, Berlin, Heidelberg, 2013. Доступно по адресу https://doi.org/10.1007/978-3-642-30487-3_6 (по состоянию на 19 апреля 2019 г.).

Шац, Брайан. AI в Постановлении Правительства от 2018 г., Pub. L. No. S.B. 3502 (2018). https://www.congress.gov/bill/115th-congress/senate-bill/3502.

Шпилькамп, Матиас.«Нам нужно пролить больше света на алгоритмы, чтобы они могли помочь уменьшить предвзятость, а не закрепить ее». Обзор технологий Массачусетского технологического института. По состоянию на 20 сентября 2018 г. Доступно по адресу https://www.technologyreview.com/s/607955/inspecting-algorithms-for-bias/ (по состоянию на 19 апреля 2019 г.).

Стек, Лиам. «Facebook объявляет о новой политике запрета контента белых националистов». The New York Times, 28 марта 2019 г., сек. Бизнес. Доступно по адресу https://www.nytimes.com/2019/03/27/business/facebook-white-nationalist-supremacist.html (по состоянию на 19 апреля 2019 г.).

Суини, Латанья и Цзиньян Занг. «Насколько правильными могут быть решения по анализу больших данных при размещении рекламы?» Презентация Powerpoint, представленная на конференции Федеральной торговой комиссии, Вашингтон, округ Колумбия, «Большие данные: инструмент для включения или исключения». 15 сентября 2014 г. Доступно по адресу https://www.ftc.gov/systems/files/documents/public_events/313371/bigdata-slides-sweeneyzang-9_15_14.pdf (по состоянию на 12 апреля 2019 г.).

Суини, Латания. «Дискриминация при размещении онлайн-рекламы.”Рочестер, штат Нью-Йорк: Сеть исследований в области социальных наук, 28 января 2013 г. Доступно по адресу https://papers.ssrn.com/abstract=2208240 (последний доступ 12 апреля 2019 г.).

Сиделл, Лора. «Это не я, детка: исследователи обнаружили недостатки в полицейской технологии распознавания лиц». NPR.org, 25 октября 2016 г. Доступно по адресу https://www.npr.org/sections/alltechconsidered/2016/10/25/499176469/it-aint-me-babe-researchers-find-flaws-in-police -facial-распознавание (последний доступ: 19 апреля 2019 г.).

«Глобальный проект по этике данных.”Data for Democracy, n.d. https://www.datafordemocracy.org/project/global-data-ethics-project (последний доступ 19 апреля 2019 г.).

Тобин, Ариана. «HUD подает в суд на Facebook за дискриминацию в сфере жилья и заявляет, что алгоритмы компании усугубили проблему». ProPublica (28 марта 2019 г.). Доступно по адресу https://www.propublica.org/article/hud-sues-facebook-housing-discrimination-advertising-algorithms (последний доступ 29 апреля 2019 г.).

Тернер Ли, Никол. «Инклюзия в технологии: как разнообразие приносит пользу всем американцам», § Подкомитет по защите потребителей и торговле, Комитет Палаты представителей США по энергетике и торговле (2019).Также доступно на веб-сайте Brookings: https://www.brookings.edu/testimonies/inclusion-in-tech-how-diversity-benefits-all-americans/ (последнее посещение — 29 апреля 2019 г.).

Тернер Ли, Никол. Обнаружение расовой предвзятости в алгоритмах и машинном обучении. Журнал информации, коммуникации и этики в обществе 2018, Vol. 16 Выпуск 3, стр. 252-260. Доступно по адресу https://doi.org/10.1108/JICES-06-2018-0056/ (последний доступ 29 апреля 2019 г.).

«Понимание предвзятости в алгоритмическом дизайне», Impact.Engineered, 5 сентября 2017 г. Доступно по адресу https://medium.com/impact-engineered/understanding-bias-in-algorithmic-design-db9847103b6e (последний доступ 12 апреля 2019 г.).

Винсент, Джеймс. «Amazon, как сообщается, отказывается от инструмента найма внутреннего ИИ, который был настроен против женщин». The Verge, 10 октября 2018 г. Доступно по адресу https://www.theverge.com/2018/10/10/17958784/ai-recruiting-tool-bias-amazon-report (последний доступ 20 апреля 2019 г.).

Зафар, Мухаммад Билал, Изабель Валера Мартинес, Мануэль Гомес Родригес и Кришна Гуммади.«Ограничения справедливости: механизм справедливой классификации». В материалах 20-й Международной конференции по искусственному интеллекту и статистике (AISTATS). Форт-Лодердейл, Флорида, 2017.

Зарский, Тал. «Понимание дискриминации в оцениваемом обществе». Научная статья ССРН. Рочестер, штат Нью-Йорк: Сеть исследований в области социальных наук, 15 января 2015 г. https://papers.ssrn.com/abstract=2550248.

Глава 4. Ошибка измерения и систематическая ошибка

Эпидемиологические исследования измеряют характеристики популяций.Интересующим параметром может быть уровень заболеваемости, распространенность воздействия или, чаще, некоторая мера связи между воздействием и заболеванием. Поскольку исследования проводятся на людях и имеют все сопутствующие практические и этические ограничения, они почти всегда подвержены предвзятости.

Ошибка отбора

Ошибка отбора возникает, когда изучаемые предметы не являются репрезентативными для целевой популяции, в отношении которой необходимо сделать выводы. Предположим, что исследователь хочет оценить распространенность чрезмерного употребления алкоголя (более 21 единицы в неделю) среди взрослых жителей города.Он может попытаться сделать это, выбрав случайную выборку из всех взрослых, зарегистрированных у местных терапевтов, и отправив им по почте анкету об их привычках к употреблению алкоголя. При таком дизайне одним из источников ошибок будет исключение из выборки исследования тех жителей, которые не зарегистрированы у врача. Эти исключенные субъекты могут иметь разные модели употребления алкоголя, чем те, которые были включены в исследование. Кроме того, не все субъекты, выбранные для исследования, обязательно заполнят и вернут анкеты, а у лиц, не ответивших на вопросы, могут быть другие привычки употребления алкоголя, чем у тех, кто затрудняется ответить.Оба эти недостатка являются потенциальными источниками систематической ошибки отбора. При определении выборки для исследования всегда следует учитывать возможность систематической ошибки отбора. Кроме того, если ответы неполные, необходимо оценить масштаб предвзятости. Проблемы неполного ответа на опросы рассматриваются далее в.

Ошибка информации

Другой основной класс систематической ошибки возникает из-за ошибок в измерении воздействия или заболевания. В исследовании по оценке относительного риска врожденных пороков развития, связанных с воздействием на мать органических растворителей, таких как уайт-спирит, матерям уродливых детей задавали вопросы об их контакте с такими веществами во время беременности, и их ответы сравнивали с ответами контрольных матерей с нормальным здоровьем. младенцы.При таком дизайне существовала опасность того, что «больные» матери, которые были сильно мотивированы выяснить, почему их дети родились с аномалией, могли вспомнить прошлое воздействие более полно, чем контрольная группа. Если это так, это приведет к смещению с тенденцией к завышению оценок риска.

Другое исследование изучало риск остеоартрита тазобедренного сустава в зависимости от физической активности на работе, случаи были выявлены из записей о госпитализации в больницу для замены тазобедренного сустава. Здесь была возможность предвзятости, потому что испытуемые, выполняющие тяжелую физическую работу, могли быть более ограниченными из-за данного уровня артрита и поэтому с большей готовностью обращались за лечением.

Предвзятость обычно невозможно полностью исключить из эпидемиологических исследований. Поэтому цель должна состоять в том, чтобы свести его к минимуму, выявить те предубеждения, которых нельзя избежать, оценить их потенциальное влияние и учесть это при интерпретации результатов. Девиз эпидемиолога вполне мог быть «грязные руки, но чистый ум» (manus sordidae, mens pura).

Ошибка измерения

Как указано выше, ошибки в измерении воздействия или заболевания могут быть важным источником систематической ошибки в эпидемиологических исследованиях Поэтому при проведении исследований важно оценивать качество измерений.Действителен идеальный метод обследования (то есть он точно измеряет то, что предназначено для измерения). Иногда доступен надежный стандарт, по которому можно оценить достоверность метода обследования. Например, валидность сфигмоманометра можно измерить, сравнив его показания с внутриартериальным давлением, а валидность маммографического диагноза рака груди можно проверить (если женщина согласна) с помощью биопсии. Однако чаще всего нет надежного эталона. Достоверность анкеты для диагностики стенокардии не может быть полностью изучена: клиническое мнение экспертов различается, и даже коронарные артериограммы могут быть нормальными в истинных случаях или ненормальными у людей без симптомов.Патолог может описать изменения при вскрытии, но они мало что могут сказать о симптомах или функциональном состоянии пациента. Измерения заболеваемости при жизни часто не могут быть полностью подтверждены.

Таким образом, на практике может потребоваться косвенная оценка действительности. Обычно используются два подхода. Методику, которая была упрощена и стандартизирована, чтобы сделать ее пригодной для использования в обследованиях, можно сравнить с лучшей традиционной клинической оценкой. Например, самостоятельно заполняемый психиатрический опросник можно сравнить с мнением большинства экспертов психиатрической комиссии.В качестве альтернативы, измерение может быть подтверждено его способностью предсказывать будущее заболевание. Тем не менее, проверка с помощью предсказательной способности может потребовать изучения многих предметов.

Анализ валидности

Когда техника или тест используются для разделения субъектов (например, как случаи или не случаи, выявленные или не выявленные), его достоверность анализируется путем классификации субъектов как положительных или отрицательных, в первую очередь с помощью метода опроса и, во-вторых, согласно стандартному эталонному тесту. Результаты могут быть представлены в таблице непредвиденных обстоятельств, как показано ниже.

Из этой таблицы можно вывести четыре важных статистических показателя:

Чувствительность — чувствительный тест обнаруживает высокое значение Ион истинных случаев, и это качество измеряется здесь a / a + c.

Специфичность — конкретный тест дает несколько ложных срабатываний, и это качество измеряется d / b + d.

Систематическая ошибка. Для эпидемиологических показателей особенно важно, чтобы тест давал правильное общее количество случаев. Это измеряется соотношением общего числа положительных результатов опроса и контрольных тестов, или (a + b) / (a ​​+ c).

Прогностическая ценность — это доля действительно положительных положительных результатов теста. Это важно при скрининге и будет обсуждаться далее в главе 10.

Следует отметить, что как систематическая ошибка, так и прогностическая ценность зависят от относительной частоты истинно положительных и истинно отрицательных результатов в исследуемой выборке (то есть от распространенности заболевания или воздействия, которое измеряется).

Чувствительный или специфический? Вопрос выбора

Если критерии положительного результата теста строгие, то ложноположительных результатов будет немного, но тест будет нечувствительным. И наоборот, если критерии ослаблены, будет меньше ложноотрицательных результатов, но тест будет менее конкретным.При обследовании рака груди альтернативные диагностические критерии сравнивались с результатами эталонного теста (биопсия). Клиническая пальпация врачом дала наименьшее количество ложноположительных результатов (специфичность 93%), но пропустила половину случаев (чувствительность 50%). Затем критерии для постановки диагноза «случай» были смягчены, чтобы включить все положительные результаты, выявленные при пальпации врача, пальпации медсестры или рентгеновской маммографии: тогда несколько случаев были пропущены (чувствительность 94%), но специфичность упала до 86%.

Выбрав правильный тест и пороговые значения, можно достичь баланса чувствительности и специфичности, который лучше всего подходит для конкретного исследования.В обследовании для определения распространенности это может быть, когда ложные срабатывания уравновешивают ложноотрицательные. В исследовании по сравнению показателей в разных популяциях абсолютные показатели менее важны, основная задача состоит в том, чтобы избежать систематической ошибки при сравнении: конкретный тест вполне может быть предпочтительным, даже ценой некоторой потери чувствительности.

Повторяемость

Когда нет удовлетворительного стандарта, по которому можно было бы оценить достоверность метода измерения, часто бывает полезно изучить его повторяемость.Последовательные результаты не обязательно означают, что метод действителен: лабораторный тест может давать постоянно ложноположительные результаты, или очень повторяемый психиатрический опросник может быть нечувствительной мерой, например, «стресса». Однако плохая повторяемость указывает либо на плохую достоверность, либо на то, что измеряемая характеристика изменяется со временем. В любом из этих обстоятельств результаты следует интерпретировать с осторожностью.

Повторяемость может быть проверена внутри наблюдателей (то есть, один и тот же наблюдатель, выполняющий измерения в двух разных случаях), а также между наблюдателями (сравнивая измерения, сделанные разными наблюдателями на одном и том же предмете или образце).Оценка повторяемости может быть встроена в исследование — выборка людей, проходящих повторное обследование, или образец рентгенограмм, образцов крови и т. Д., Тестируемых в двух экземплярах. Даже небольшая выборка ценна при условии, что (1) она репрезентативна и (2) дублирующие тесты действительно независимы. Если тестирование проводится «в автономном режиме» (возможно, как часть пилотного исследования), то требуется особая осторожность, чтобы гарантировать, что все испытуемые, наблюдатели и рабочие условия адекватно репрезентативны для основного исследования.Когда материал можно транспортировать и хранить, например, образцы глубокой заморозки плазмы, гистологические срезы и всевозможные записи и фотографии, гораздо легче проверить повторяемость. Однако такие тесты могут исключить важный источник отклонений наблюдателя, а именно методы получения образцов и записей.

Причины различий в повторных измерениях

Независимые повторные измерения у одних и тех же субъектов обычно различаются не только в самых мрачных ожиданиях.Чтобы интерпретировать результаты и искать средства правовой защиты, полезно разделить общую изменчивость на четыре компонента:

Вариация внутри наблюдателя — обнаружение собственной непоследовательности может быть травмирующим; он подчеркивает отсутствие четких критериев измерения и интерпретации, особенно при работе с серой зоной между «нормальным» и «ненормальным». Это в значительной степени случайное, то есть непредсказуемое направление.

Вариация между наблюдателями — сюда входит первый компонент (нестабильность отдельных наблюдателей), но добавляется к нему дополнительный систематический компонент из-за индивидуальных различий в методах и критериях.К сожалению, это может быть большим по сравнению с реальной разницей между группами, которые предполагается идентифицировать. Этой проблемы можно избежать либо с помощью одного наблюдателя, либо, если материал можно транспортировать, отправив его все на центральную экспертизу. В качестве альтернативы, предвзятость в опросе может быть нейтрализована случайным распределением субъектов наблюдателям. Каждый наблюдатель должен быть идентифицирован по кодовому номеру в протоколе обследования; анализ результатов наблюдателем затем укажет на любые серьезные проблемы и, возможно, позволит внести некоторую статистическую поправку на систематическую ошибку.

Случайное изменение объекта — При многократном измерении у одного и того же человека физиологические переменные, такие как артериальное давление, имеют тенденцию к примерно нормальному распределению вокруг среднего значения объекта. Тем не менее, опросы обычно сводятся к единственному измерению, и неточность не будет замечена, если не будет изучена степень вариативности предмета. Случайная вариация субъектов имеет некоторые важные последствия для скрининга, а также для клинической практики, когда вспоминают людей с экстремальными исходными ценностями.Благодаря статистической причуде эта группа затем, кажется, улучшается, потому что в ее состав входят некоторые, чье среднее значение является нормальным, но у которых случайно были более высокие значения при первом обследовании: в среднем их последующие значения обязательно имеют тенденцию к падению (регрессия к среднему). Величина этого эффекта зависит от количества случайных вариаций объекта. Неправильного толкования можно избежать путем повторных обследований для установления адекватного исходного уровня или (в интервенционном исследовании) путем включения контрольной группы.

Предвзятые (систематические) вариации испытуемых — Кровяное давление во многом зависит от температуры в комнате для осмотра, а также от менее стандартизированных эмоциональных факторов.Обследования для выявления диабета обнаруживают гораздо более высокую распространенность во второй половине дня, чем утром; а стандартный опросник по бронхиту, возможно, дает больше положительных ответов зимой, чем летом. Таким образом, условия и сроки расследования могут иметь большое влияние на истинное состояние человека и на его или ее реакцию. Насколько это возможно, исследования должны быть разработаны для контроля этого — например, путем тестирования на диабет в одно время суток. В качестве альтернативы можно измерить такую ​​переменную, как комнатная температура, и учесть ее при анализе.

Анализ повторяемости

Воспроизводимость измерений непрерывных числовых переменных, таких как артериальное давление, можно суммировать с помощью стандартного отклонения повторных измерений или их коэффициента вариации (среднего стандартного отклонения). Когда были выполнены пары измерений одним и тем же наблюдателем в двух разных случаях или двумя разными наблюдателями, диаграмма рассеяния будет удобно показывать степень и характер изменения наблюдателя.

Для качественных признаков, таких как клинические симптомы и признаки, результаты сначала представлены в виде таблицы непредвиденных обстоятельств:

Общий уровень согласия может быть представлен долей общего количества в ячейках a и d.К сожалению, эта мера больше зависит от распространенности заболевания, чем от повторяемости метода. Это потому, что на практике легко согласиться с прямым отрицанием; разногласия зависят от распространенности сложных пограничных случаев. Вместо этого, повторяемость обычно суммируется статистикой, которая измеряет уровень согласия сверх того, что можно было бы ожидать от преобладания атрибута.