ИИ-ботам на колготы

Пора ли уже начинать считать риском ИИ-ботов

Reuters разжился эксклюзивом и поймал Цукерберга за кудри: пользователи (и сами сотрудники Meta*, что особенно мило) клепали чат-ботов с внешностью Тейлор Свифт, Энн Хэтэуэй, Скарлетт Йоханссон и других красоток, которых забыли спросить.

В итоге часть звезд позируют в микро-объемах одежды, Свифт зовёт на свидание, Хэтэуэй шлёт фото из ванной, а Meta* выдает заготовку: ой, сбой модерации, вообще-то у нас сексуальный контент запрещен. Ни звёздам, ни пользователям никаких ивинений, хотя на компанию косо поглядывает профсоюз и представители закона, ибо в Калифорнии использовать чужую публичность нельзя.

Как по мне репутационным провалом, как пишут СМИ, это назвать сложно, скорее ямка. Но беспокоит другое.

В отличие от картонного Брэда Питта, который всё же развёл леди на $1,2 млн, адаптивный ИИ-бот работает в реальном времени: подстраивается, говорит то, что ты хочешь услышать, нажимая нужные кнопки в твоем мозгу. Это уже симулякр личности звезды. Сегодня он шутит про аперольку, а завтра — предложит вложиться в проект или перевести денег в фонд.

Ладно, фиг с ним со звездами — если Юра Борисов попросит денег на шампунь, мы как-нибудь его раскусим. Но представьте, что «клон» вашего босса доверительно поговорит с бухгалтером или клон репетитора убедит в чем-нибудь школьника, как писал Руслан?

Похоже учить близких и сотрудников распознавать ИИ-фейки это уже следующий шаг после идентификации «обычных мошенников». Как проверяете, тот ли человек, за кого он себя выдает, вам пишет?

* — запрещена в РФ

#кейс