«Машины ярости»: Meta* и TikTok жертвовали безопасностью ради конкуренции

Расследование BBC, основанное на показаниях информаторов, проливает свет на темную сторону алгоритмов. Компании сознательно допускали распространение вредоносного контента, поскольку гнев лучше всего удерживает пользователей.

Инженер Meta* рассказал BBC, что руководство потребовало ослабить ограничения на «пограничный» контент — от женоненавистничества до теорий заговора.

Внутренние документы, которыми поделился исследователь Мэтт Мотил, показывают: алгоритмы «вознаграждают негатив», предлагая создателям «путь максимизации прибыли за счет благополучия аудитории». Данные свидетельствовали: комментарии в Reels содержат на 75% больше издевательств, чем в основной ленте Instagram*.

Информатор от TikTok под псевдонимом Ник показал внутреннюю панель жалоб. Система присваивала высший приоритет делам политиков, в то время как сообщения о кибербуллинге подростков или публикации их сексуализированных изображений получали более низкий статус.

По словам Ника, компания стремилась поддерживать «прочные отношения» с властями, чтобы избежать регулирования. Безопасность детей оказалась на втором плане. Сокращение модераторов и замена людей ИИ усугубили ситуацию: объем опасного контента растет, а эффективность борьбы падает.

Как результат, алгоритмы формируют мировоззрение. 19-летний Калум рассказал BBC, что с 14 лет был «радикализирован алгоритмом»: соцсети подсовывали ему контент, который злил, что привело к принятию расистских взглядов.

Ожидаемо, Meta* назвала обвинения отвергает, указывая на инвестиции в безопасность и защиту подростков. TikTok счел претензии «сфабрикованными», заявив об инвестициях в технологии, предотвращающие вред.

* компания Meta признана экстремистской и запрещена на территории РФ

ОГОНЬ