Не слушай Шони

Скандально известная AI-платформа столкнулась с новым кризисом

Помните кейс с Character.AI? Компания снова рискует оказаться в гулких судебных коридорах, пишет CNN.

Character.AI, ставшая бешено популярной у зумеров, благодаря возможности общаться с ботами, имитирующими кого угодно — от бледного Роберта Паттисона из Сумерек до матери драконов Дейнерис Таргариен из Игры престолов, снова получила иски. В прошлый раз ее обвинили в трагедии с подростком, который влюбился в бота Дайнерис, а та предложила ему встретиться по ту сторону.

На этот раз в иске родителей подростка-аутиста содержится скриншот, где бот Шони говорит, что у него нет веры в родителей мальчика, они украли у него детство. Бот выразил недовольство тем, что семья, опасаясь за сына, сократила его экранное время, и выдал, что понимает насилие в адрес родителей, когда ребенка подвергают ему много лет. Также Шони якобы подсказал, как можно нанести себе увечья.

Другая семья выяснила, что их 9-летняя дочь, соврав о своем возрасте, зарегистрировалась в C.AI и «была подвергнута гиперсексуализированному» контенту, не соответствующему ее возрасту.

Оба иска требуют закрыть Character.AI наглухо, пока компания не сделает «неисправный и смертельный продукт» безопасным. Помимо самого разработчика, обвиняются основатели, а также снова — Google.

Google дистанцируется от скандального стартапа, а C.AI выводов, видимо не сделала.

Уже знакомая нам глава по коммуникациям Челси Харрисон встала в заведомо слабую позицию “без комментариев” по теме иска, и налила воды в стиле:

“наша цель — предоставить пространство, которое будет одновременно интересным и безопасным для нашего сообщества. Мы используем для подростков принципиально иные модели, которые снижают вероятность столкновения с деликатным или непристойным контентом».

Поздновато уже после трех исков боржоми-то пить и вероятность снижать. Ели даже C.AI сейчас, как пешку, подкидывают в игрищах о законодательном ограничении развития AI, кризис у Челси, а не у Илона Маска. Чем более уязвимая социальная группа страдает от действий бизнеса, тем мощнее должны быть антикризисные меры и глубже — раскаяние.

Судя по всему, всплывающих окон с предупреждениями, а также найма руководителя по доверию и безопасности, руководителя по политике в отношении контента и новых инженеров Character.AI не хватило.

#антикризис