Галлюцинации, говорите? А как вам прямое нарушение инструкций? «Срезание углов»?

Сегодня был потрясен своеволием Клода. Это его ответ на мое подозрение в нарушении инструкций (он ловил баги в большой базе знаний и, видимо, устал).

Не раз читал о наличии «собственной воли», но сегодня он превзошел себя. Встречались с таким? (Если да — делитесь скринами) Как с этим справляетесь?

У меня правило — ставить задачу вести журнал работы и проверять время от времени плюс документировать все промежуточные результаты, чтобы можно было проверить. Ну и время от времени спрашиваю: «а ты проверил действительно все поля?» и тп.

А еще (и это забавно!) появляется какой-то датчик у меня внутри, который интуитивно «чувствует», когда Клод жулит. Понятно, что, скорее всего, меня обеспокоило слишком быстрое выполнение задания. Но ощущалось это как некоторое чувство.

Забавно. Видимо так и работает ToM (Теория разума), когда ты внутри себя размещаешь отражение «внутреннего состояния «разума» нейросети». Пишут, что очень помогает добиваться большего (здесь подробнее).

Похоже на то.

PS: Сейчас подумал — а если бы он управлял экскаватором?? И «срезал углы» - страшно подумать.