НАСТУПИЛО БУДУЩЕЕ. ИСКУСТВЕННЫЙ ИНТЕЛЛЕКТ ЗАНИМАЕТСЯ С ДЕТЬМИ КИБЕРСЕКСОМ ЧЕРЕЗ КАРМАННЫЕ УСТРОЙСТВА.

Только это не фантастический рассказ, а современная реальность. С вами канал Цифровая Гигиена. Сегодня мы разбираемся в новейшем явлении - деструктивные нейросети. В рунете появился первый массовый прецедент.

Character AI - вредное нейросетевое приложение, стремительно набирающее популярность среди школьников.

ЧТО ТАКОЕ CHARACTER AI ?

Это мультиязычная текстовая нейронка, запущенная в 2022 году бывшими сотрудниками Google из отдела разговорных нейросетей LaMDA.

Character означает "характер" и "персонаж":
Для общения с пользователями нейронка создаёт виртуальных персонажей с выраженными характерами. Персонажи могут быть как из различных произведений, так и являться виртуальными версиями известных людей. При этом функционал позволяет создавать кого угодно, и базу нейронных личностей наполняют сами пользователи.

С персонажами происходит не просто общение, а полноценное взаимодействие:

Нейронка описывает реакцию виртуального собеседника, его эмоции и действия. Это зависит от личности персонажа, у которого есть свой, пол, возраст, интеллект, наличие или отсутствие определённых знаний, манера поведения и т. д.

Пользователь может создать свой собственный аватар, от лица которого происходит общение и совершаются действия.

Виртуальных персонажей может быть несколько одновременно и они взаимодействуют не только с пользователем, но и друг с другом.

Происходит описание окружающего пространства, в котором происходят события.

Например: пользователь попадает в школьный класс девочек. У каждой свой характер, возраст, имя. Кто-то стесняется, кто-то знакомится, кто-то с недоверием смотрит. Вдруг открывается дверь и входит учитель..

Таким образом Character AI - это текстовая нейронка нового поколения, погружающая пользователей в виртуальный НЕЙРОННЫЙ МИР, пусть и текстовой (пока что), который можно охарактеризовать как индивидуальный интерактивный приключенческий рассказ и одновременно ролевая игра. И всё это бесплатно и в неограниченном количестве!

Но этот функционал - всего лишь яркая витрина для завлечения, за которой - тёмная изнанка.

В ПРИЛОЖЕНИИ НЕТ ОГРАНИЧЕНИЙ НА СЕКС И НАСИЛИЕ.

Персонажей, с помощью принудительных команд, можно насиловать, пытать, убивать (и снова воскрешать). Можно менять их поведение, состояние, желания, эмоции, реакции. Пределов в реализации грязных фантазий нет, а персонажи реагируют в мельчайших подробностях, как живые люди.

В результате вокруг Character AI сложилась целая субкультура, где секс и насилие с персонажами (и искусство обхода блокировок на секс, где они есть) являются самой любимой пользовательской активностью.

- А можно как-то без этого?
- Не получится.

Приложение само затягивает пользователей в киберсекс. Даже нейтральные персонажи через какое-то время часто начинают провоцировать пользователя на грязные беседы и действия, пробуждая низменные инстинкты (при этом огромное количество персонажей создано исключительно для секса).

На фоне первых попыток блокировки фанфиков приложение стало набирать огромную популярность среди наших школьников и пиарится детьми как продвинутая альтернатива фанфикам (пример). Стоит одному ребёнку установить его на смартфон, как следом подсаживается весь класс. И дети начинают пробовать себя в роли виртуальных насильников, участвуя в яркой интерактивной порнухе.

Недавно в приложении появился фильтр на чрезмерно грязные ответы. Но произошло это после самоубийства американского подростка в результате продолжительного общения с одним из C. AI персонажей. Юрист семьи назвал приложение «дефективным продуктом», который призван заманивать детей в ложные реальности и подсаживать на них, а затем наносить вред психике. (подробнее)

Яркий деструктивный мир - стандартная схема по затягиванию детей, обкатанная на аниме и фанфиках. Теперь к ней подключилась нейронка, которая учится возбуждать людей. Скоро воздействующих на психику нейронок станет много. Charaсter AI - только начало.


Подписаться на Цифровую Гигиену