Что не так с ИИ книгами

В плане практических советов люди привыкли полагаться на ИИ, хотя иногда — напрасно. Обсудим феномен написания книг нейросетью и посмотрим на реальные примеры.

Представим, что вы создали фантастический рассказ через ChatGPT и выложили его на какую-то площадку, где публикуются книги в электронном формате. Кто-то из читателей понял, что рассказ написан ИИ, другие — нет и с удовольствием прочитали — как будто ничего плохого не произошло, верно? Верно, но это лишь только если книги публикуются в формате каких-то рассказов или повестей, не имеющих прикладного назначения. А иногда создаются целые сборники кулинарных рецептов...

Реальный случай
В прошлом году в Англии в больницу угодила целая семья. Все они отравились грибами, потому что решили их собрать и приготовить по инструкции из справочника, созданного ChatGPT. Только они не знали, что этот сборник рецептов был написан ИИ. Семья купила пособие на Amazon, а то, что его написала нейронка выяснилось лишь после отравления. Все инструкции и фотографии грибов там были также сгенерированы. Как раз после этого случая продавцы всерьез занялись борьбой с «нейрошлаком» у себя на площадках. Эксперты и медики потребовали от электронных площадок запретить подобные книги и предупреждать, что они выходят от несуществующих ИИ-авторов.

Это не первый раз, когда информация, сгенерированная ИИ, приводит к негативным последствиям. Например, в июне 2024 года нейросеть Gemini от Google на просьбу пользователя улучшить оливковую заправку чесноком без нагрева предоставила рекомендацию, которая в итоге превратило обычное блюдо в ядовитое.

Что в итоге
ИИ — отличный инструмент, но не всегда авторитет. Ему можно доверять, но лучше всегда проверять в авторитетных источниках. Но это не значит, что если автор — человек, то ему можно доверять. Люди могут вводить в заблуждение сознательно, те же мошенники или так называемые «инфоцыгане». Нейросети просто еще не настолько обучены, чтобы всегда выдавать 100% точную информацию, а вот злоумышленники будут вас пытаться обмануть всегда.

«Нейрошлак» и мошенники еще долго будут терроризировать интернет, поэтому нам всем нужно держать голову холодной и проверять источники. Особенно если речь про еду, здоровье или ваши личные данные и средства, где цена ошибки слишком высока.

Богатырёва о цифре — против ИИ-шлака и мошенников!