Нет данных — нет проблемы. Продолжение

Ошибка дизайна промптов. Системный промпт агенту был написан в эмоциональном ключе, с капсом и матом, в стиле «NEVER FUCKING GUESS!».

Звучит вроде мотивирующе, но работает плохо. ИИ не испугается, а капс и ругательства не делают промпты более точными. Конкретные запреты приводят в типичную ловушку промтов «не делай»: при перечислении недопустимых действий можно легко оставить за бортом все, о чем не подумали.

Итак, безопасность агентов должна быть встроена в обработчики деструктивных операций на уровне кода, который ИИ-агент не сможет обойти, а не на уровне промта, который модель якобы должна прочитать и строго соблюдать.

Ну и вишенка на торте. Про маленький автопрокатный SaaS еще неделю назад знали полтора человека, а теперь говорят из каждого утюга. Ничего не утверждаю, но замечу, что «There's no such thing as bad publicity», то есть любой PR — это хороший PR, но тут уж пусть меня поправят коллеги из iTrend .

Денис Бойцов, операционный директор iTrend

Есть такое выражение «Геростратова слава». Оно означает, что известность достигнута либо в скандале, либо путем совершения чего-нибудь непотребного. Примерно это настигло PocketOS. Но то, как они выкручиваются, достойно учебников по пиару.

Исходный пост основателя компании построен как настоящий детектив. В начале сторилайна абзац лида — от описания ситуации стынет кровь. Затем абзац о том, что у них за компания, чем она занимается и как ее клиенты уже 5 лет жить без них не могут. А дальше — 3 экрана эмоциональных накатов и на ИИ-агент, и на поставщика инфраструктуры, и на черта лысого. Только PocketOS хорошие. И написано так душевно, от первого лица — читаешь и веришь. Мало кто умеет облажаться так красиво.

#созвонились_обсудили