Модерация в Ansible

Что мы удаляем, как это устроено технически и чего в этой системе пока нет. Без цифр, которых мы не измеряем.

Что запрещено

Публичные площадки — каналы, супергруппы, наборы стикеров, боты — не должны содержать призывов к насилию, материалов о насилии над детьми и торговли запрещённым. Это относится к публичной части: переписка один на один и секретные чаты не просматриваются, и технически не могут — в секретных чатах у сервера нет ключа.

Как поступает сигнал

• Жалобы пользователей — из клиента, метод messages.report и его аналоги для каналов и профилей. Жалоба попадает в очередь с указанием объекта и причины.
• Проверка администратором — решение принимает человек через админ-панель. Каждое действие пишется в журнал аудита: кто, что, над каким объектом, с какого адреса. Журнал денормализован намеренно — запись должна оставаться читаемой после того, как токен администратора отозван.

Что мы можем сделать технически

• Заморозить аккаунт — замороженный не может совершать действий, меняющих состояние; проверка стоит в единственной точке входа RPC, поэтому покрывает все три транспорта сразу.
• Скрыть или удалить публичный объект — канал, набор стикеров, бота.
• Отозвать приложение — у каждого сторонника API есть api_id, выданный через my.ansible.su. Флаг banned отключает его от сети в пределах полуминуты, и это отдельный от аккаунтов рычаг: злоупотребляющий клиент выключается, не затрагивая его пользователей.
• Отозвать ссылку-приглашение — отозванная перестаёт открываться, и страница ссылки отвечает на неё так же, как на несуществующую: иначе она стала бы способом перебирать хеши.

Границы, которые мы не переступаем

Мы не читаем личную переписку и не сканируем её содержимое. У сквозного шифрования в секретных чатах это свойство математическое, а не обещание: сервер передаёт байты, не имея ключа. Для облачных чатов доступ технически возможен, и честно сказать об этом важнее, чем утверждать обратное — но он не используется для модерации, потому что предметом модерации является публичное.

Что сервер видит в любом случае — метаданные: кто с кем и когда обменивался сообщениями, какого они размера. Это свойство любой сети доставки.

Про статистику

Публичной панели с цифрами у нас пока нет. Разметка и графики на этой странице готовы, но источника данных за ними ещё нет — счётчики удалённого и заблокированного мы не публикуем, пока не будем уверены, что они считаются одинаково от месяца к месяцу. Поставить сюда произвольные числа было бы хуже, чем их отсутствие.

Как сообщить

Из приложения — «Пожаловаться» в меню сообщения, чата или профиля. По вопросам, которые не решаются жалобой, — через FAQ.