Недетерминированное поведение программ.

Пару дней назад заполнял заявки на одном сайте. Там была плохо сделанная форма — из раза в раз вводил длинный числовой код. Который, по уму, давно надо было запомнить в профиле. Ну, явный глюк.

И вот на четвертую заявку — поле уже заполнено. Я вдруг подумал: это очень похоже на поведение AI. Как будто система увидела, что я делаю из раза в раз, осознала ошибку и исправилась.

Конечно, не так. Просто плавающий баг.

Но я подумал: если бы в тот момент работал с Claude — не удивился бы совсем. Мы уже привыкли, что диалоговые системы ведут себя непредсказуемо.

И вот инсайт, поиграю в визионера.

На следующем этапе развития AI эти элементы будут встроены повсюду. И при попытке что-то отладить у нас технически не будет возможности посмотреть исходный код и разобраться.

Я мыслю как программист. Пришел баг-репорт — я иду воспроизводить. Поведение софта сложное, но детерминированное: никаких случайностей, всё определяется кодом однозначно. Значит, можно пойти и отладить.

А по мере внедрения AI — не будет никакого "пошел и отладил". Будет вероятностная картина: в этот раз поле заполнено, в следующий — нет.

Мне кажется, это довольно мощное качественное изменение, к которому нам только предстоит привыкнуть.

Я в MAX и VK. Подписывайтесь😉