Этика модерации контента: принципы Санта-Клары

Представьте себе ситуацию: вы публикуете пост в социальной сети, а через несколько минут он исчезает. Вместо него появляется уведомление: «Контент нарушает правила сообщества». Но что именно вы нарушили? Кто принял это решение — человек или алгоритм? И можно ли его оспорить?

Сегодня подобные ситуации происходят каждый день. Интернет давно перестал быть пространством, где можно публиковать что угодно без последствий. Практически у каждой платформы — будь то социальная сеть, видеохостинг или форум — есть собственные правила. За их соблюдением следит система модерации. Но чем больше людей пользуются Интернетом, тем сложнее ответить на вопрос: где проходит граница между защитой пользователей и ограничением выражения мнений?

Именно этому посвящены Santa Clara Principles — международные принципы прозрачной и справедливой модерации контента.

Почему модерация вообще необходима

Если бы платформы никак не контролировали публикации, Интернет мог бы довольно быстро превратиться в место, где процветают мошенничество, угрозы, травля и призывы к насилию. Модерация помогает защищать пользователей от действительно нежелательного и даже опасного контента.

Но проблема в том, что далеко не все такие случаи настолько очевидны.

Например, где заканчивается резкая критика и начинается оскорбление? Можно ли удалить публикацию с ложной информацией, если человек искренне считает ее правдивой? А что делать с сарказмом, который алгоритм принимает за серьезное высказывание?

Ответов, которые устроили бы всех, не существует. Поэтому каждое решение о модерации — это не только технический, но и этический выбор.

Кто принимает решения

Многие представляют модерацию как работу человека, который вычитывает сообщения и удаляет неподходящие. На самом деле все устроено гораздо сложнее.

Большую часть контента сначала проверяют автоматические системы. Они ищут запрещенные изображения, подозрительные ссылки, оскорбительные выражения и другие признаки нарушения установленных правил. Если алгоритм «уверен», что публикация нарушает требования платформы, он может сразу скрыть ее автоматически.

Однако, даже самые современные алгоритмы не умеют понимать контекст так же хорошо, как люди. Они могут не распознать шутку, иронию или цитату. Поэтому в более сложных случаях решение принимают модераторы.

Но и человек не всегда способен вынести абсолютно объективное решение. На его восприятие влияют культурные особенности, язык, контекст и даже формулировки внутренних правил платформы. Именно поэтому одни и те же публикации иногда по-разному оцениваются на разных площадках.

В чем главная проблема

Авторы Santa Clara Principles считают, что основная проблема заключается отнюдь не только в ошибках модерации.

Не менее важно то, что пользователь зачастую вообще не понимает, почему его публикацию удалили. Он получает короткое уведомление о нарушении правил без объяснений, какое именно правило было нарушено, кто принял решение, и можно ли его пересмотреть.

Представьте, что вам выписали штраф, но не объяснили, за что именно. Вполне вероятно, что такое решение может показаться несправедливым. В Интернете многие сталкиваются с похожей ситуацией.

Поэтому доверие пользователей зависит не только от самих решений модератора, но и от того, насколько понятным оказывается процесс их принятия.

Что делает модерацию справедливой

Santa Clara Principles сформулировали несколько ключевых принципов, которые помогают сделать модерацию более прозрачной.

Во-первых, правила должны быть понятными. Пользователь должен заранее знать, какой контент считается недопустимым. Если требования сформулированы слишком расплывчато, возрастает риск произвольных решений.

Во-вторых, платформа должна объяснять причины удаления публикации. Недостаточно просто написать, что контент нарушил правила сообщества. Желательно указать, какое именно правило было нарушено и каким образом.

Третий принцип — возможность обжаловать решение. Даже самые современные алгоритмы и опытные модераторы ошибаются. Если пользователь уверен, что его публикацию удалили несправедливо, у него должна быть возможность подать апелляцию и добиться повторной проверки.

Еще один важный момент — открытость. Авторы считают, что платформам полезно публиковать статистику модерации: сколько материалов было удалено, по каким причинам, сколько решений удалось успешно обжаловать. Такая информация помогает понять, насколько последовательно работают правила и не злоупотребляет ли модератор своими полномочиями.

Почему идеальной модерации не существует

Иногда кажется, что достаточно создать более разборчивый искусственный интеллект, — и проблема исчезнет. На практике же всё оказывается гораздо сложнее.

Даже человек не всегда способен однозначно определить, нарушает ли конкретное сообщение правила сообщества. Интернет объединяет людей из разных стран, культур и с разными взглядами. То, что в одной стране считается допустимой формой самовыражения, в другой может восприниматься как оскорбление.

Поэтому задача модерации состоит не в том, чтобы никогда не ошибаться. Гораздо важнее сделать систему такой, чтобы ошибки можно было исправлять, а сами решения модератора были понятными и объяснимыми.

Главное — доверие

Проблемы модерации давно перестали быть исключительно технической задачей. Сегодня это вопрос взаимного доверия между платформой и ее пользователями.

Люди готовы соблюдать правила, если понимают, зачем они существуют, как принимаются решения и что делать в случае ошибки. Когда же процесс остается непрозрачным, даже справедливое решение может показаться дискриминационным.

Именно поэтому Santa Clara Principles делают акцент не на том, чтобы удалить как можно больше контента, а на том, чтобы сделать модерацию честной, открытой и понятной для всех участников.

Полностью избавиться от споров вокруг модерации пользовательского контента в Интернете вряд ли получится. Но чем прозрачнее работают платформы и чем больше возможностей у пользователей понять и оспорить решение, тем выше шанс сохранить баланс между безопасностью и свободным выражением мнений.

Источник: Santa Clara Principles on Transparency and Accountability in Content Moderation

Изображение для иллюстрации. Источник: Duck.ai