ИИ и защита потребителей: почему старые правила больше не работают?
Продолжаем
книжный клуб по учебнику Cambridge University Press об искусственном интеллекте. Ранее мы публиковали видеообзоры разделов от партнеров
о философском осмыслении ИИ и
конкуренции на этом рынке.
Сегодня
аналитик D&A Partners Ясмин Комшилова разбирает главу
AI and Consumer Protection. Блок рассказывает о том, как ИИ меняет отношения между бизнесом и потребителями и почему классическое потребительское право оказывается не готово к этим изменениям.
Главная идея
ИИ стал важным инструментом для потребителей, поскольку помогает быстрее получать доступ к информации в самых разных сферах повседневной жизни.
Одновременно ИИ усиливает информационное неравенство между бизнесом и потребителем. Компании получают все больше данных о пользователях, тогда как потребитель сталкивается с проблемой «черного ящика»: логика алгоритма, которая привела к конкретному решению, остается неизвестной.
Что меняется для потребителя?
Персонализация предложений
ИИ позволяет компаниям прогнозировать, какую максимальную цену конкретный потребитель готов заплатить. Для этого система может анализировать историю покупок, устройство, геолокацию, время захода на сайт, скорость принятия решения, реакцию на скидки и даже то, насколько часто пользователь сравнивает цены.
В результате два человека могут видеть разные условия на один и тот же продукт. Например, пользователь, который часто покупает билеты в последний момент, может получить более высокую цену, потому что алгоритм считает его менее чувствительным к стоимости.
Манипуляция выбором
Темные паттерны с помощью ИИ могут выйти на новый уровень. Бизнес и раньше мог менять «архитектуру выбора»: цвет кнопки, расположение опций, порядок предложений.
ИИ позволяет делать это точнее. Он может тестировать, какие приемы лучше работают на конкретном пользователе, и постепенно усиливать давление. При этом человек будет считать решение своим собственным.
Дискриминация
Алгоритмы обучаются на данных, которые могут содержать социальные и поведенческие искажения. Поэтому автоматизированные решения иногда воспроизводят существующие предубеждения и приводят к несправедливым результатам.
Например, если кредитный алгоритм обучался на данных, где определенные группы людей исторически реже получали займы, система может продолжить считать таких потребителей более рискованными, даже если конкретный человек платежеспособен.
При этом такая дискриминация часто остается скрытой. Алгоритм может не использовать напрямую запрещенные признаки, например происхождение или пол, но опираться на косвенные данные, которые приводят к тому же результату.
Почему действующего регулирования недостаточно?
Сейчас многие потребители уже научились распознавать классические темные паттерны, например, перепроверять галочки, чтобы случайно не подписаться на рассылку.
Однако один на один с ИИ даже внимательный пользователь может оказаться уязвимым. Интерфейс специально сконструирован для управления его личным вниманием и умеет персонализировать предложения. В новой цифровой эре против потребителя работает система, обученная на огромном количестве данных и постоянно оптимизирующая способы воздействия.
Авторы приходят к выводу, что классических инструментов потребительского права уже недостаточно. Даже новые акты, такие как
DMA, DSA и
AI Act, решают проблему лишь частично. Вот что эксперты предлагают:
Потребительское право следует применять в связке с правом конкуренции и защитой данных, чтобы оценивать не только информирование потребителя, но и то, как платформа использует данные, интерфейс и рыночную власть для влияния на его выбор.
Необходимо пересмотреть представление о «среднем потребителе», потому что в новой цифровой среде человек не всегда может действовать как рациональный участник рынка.
Регулирование должно смещаться от модели информирования потребителя к выявлению и запрету наиболее опасных ИИ-практик, поскольку простое информирования об использовании алгоритма не дает потребителю реальной защиты.