Интерфейсная борьба с расизмом

Нашёл интересный пример влияния на пользовательское поведение через небольшие изменения интерфейса.

Снижение количества расистских сообщений

Nextdoor — социальная сеть для соседей. В разделе «Преступления и безопасность» участники сообщают о подозрительной активности в окрестностях.

Проблема в том, что сообщения часто основываются только на цвете кожи «подозрительных личностей». Генеральному директору и сооснователю Nextdoor Нираву Толии узнать об этом было особенно неприятно, так как… вот его фото:

Нирав Толия

Конечно, одними только технологиями с расизмом не справиться. Но небольшие интерфейсные изменения помогли компании значительно изменить ситуацию. Дизайнеры разработали несколько тестовых вариантов:

1. Добавили в форму текст: «Спросите себя, действительно ли подозрительно то, что вы видели, если не брать во внимание расу или этническую группу».

2. Добавили варианты для выбора, о чём пользователь собирается сообщить:

Форма нового сообщения

3. Добавили автоматический поиск слов в сообщении по специально составленному «расистскому словарю». При нахождении таких слов просили пользователя сообщить больше данных о подозрительном человеке:

Уточняющие вопросы

Дизайнеры вдохновлялись работой психолога Дженнифер Эберхардт из Стэнфорда, изучавшей расовые вопросы в судебной системе и помогавшей полицейским в борьбе с расистскими предрассудками.

«Мы попробовали создать точки принятия решения», — сказал Толия. — «Чтобы люди могли остановиться и подумать, нет ли в их сообщении скрытой предвзятости».

Самым эффективным оказался вариант с подсказкой, какое поведение стоит считать подозрительным, и формой ввода дополнительных данных о человеке, если пользователь упомянул расу.

Тестирование

Сотрудники Netxdoor и люди со стороны прочитали все сообщения из раздела «Преступления и безопасность», содержавшие слова из «расистского словарика», и оценили их корректность.

Некорректными считались сообщения:

  • Или не содержавшие описания человека. Например: «чернокожий мужчина разбил окно в машине»;
  • Или детально описывавшие человека, не делавшего ничего криминального. Например: «латиноамериканский мужчина высотой 6 футов в жёлтой футболке прогуливался и выглядел подозрительно».

Респонденты не знали, когда было добавлено сообщение: до или после редизайна. Анализ тысяч сообщений показал снижение количества некорректных на 75% после введения нового интерфейса.

Дополнительное действие при добавлении увеличило количество неотправленных сообщений на 50%. Возможно, люди осознавали, что сообщение звучит расистски, и решали не отправлять его. Многие компании беспокоятся из-за снижения пользовательской активности, но не Nextdoor.

«Меньшее количество контента — это цена, которую мы платим за более полезный и конструктивный контент», — говорит Толия.

Вывод

Конечно, проблема расизма для России не особо актуальна, но полезные выводы из кейса сделать можно.

Чтобы пользователи поступали так, как вы хотите:

  1. Определите, когда они решают, как им поступить.
  2. Подскажите им, как поступить следует (с вашей точки зрения).
  3. Помогите поступить правильно.

Также опубликовано на Медиуме.