Aiптимизм

Если вы еще не читаете моего старого знакомого и коллегу Андрея Авраменко – самое время начать. Андрей, правда, в последние месяцы все сильнее дрейфует из скучных финансов в интересный искусственный интеллект – вот и один из последних постов об этом.

Ко мне все чаще обращаются клиенты со словами «а вот ChatGPT мне сказал…» и очень часто это оказывается, мягко говоря, неблизко относительно реальности. Причина очень проста: любая модель хорошо выдернет из своей памяти (прочитавшей весь Интернет) то, что хорошо описано в сети – например, это отличный способ быстро найти нужный пункт в законе, даже если вы сам закон не помните, поговорить о направлениях возможной работы перед походом к врачу, позадавать вопросы на общую эрудицию. Как только тема становится узкоспециализированной, с ограниченными и фрагментарными сообщениями в публичном пространстве, вероятностный характер ответа сразу дает сбой и модель начинает выдавать отсебятину – вроде предложений отправить SWIFT через Т-Банк в 2026.

Причина – в абсолютном отсутствии reasoning. Если собаку мы наделяем интеллектом двухлетнего ребенка, то типичный ИИ-агент владеет познаниями сотен профессоров, но напрочь лишен способности рассуждать в контексте мотивации к решению задачи – хотя в этом отношении Claude смог обмануть самого популяризатора науки Докинза.

Нельзя сказать, что я против ИИ – я сам часто начинаю исследование незнакомой темы с пристрелки с LLM. Но забавно видеть, как то, что почти 10 лет назад было создано как очень продвинутый переводчик, теперь позиционируется как штука, которая всех заменит или уже заменяет. Пока многочисленные сообщения вроде истории с Oracle, где якобы уволили из-за ИИ толпу людей, которые его и обучали, выглядит как отличный способ сказать «мы не делаем массовые сокращения из-за проблем, это просто эффективность». Если на этом моменте появилось жгучее желание объяснить автору, где он неправ – буду очень рад услышать примеры готовых корпоративных и розничных решений, который прямо заменили целую бизнес-функцию, а не добавили сотрудниками умного ассистента.

Один мой талантливый хороший друг с год назад увлекся ИИ вплоть до стремления сделать разворот в карьере в сторону лаборатории искусственного интеллекта. Начал с самых основ: курса г-на Карпатого (один из основателей OpenAI и экс-глава ИИ в Tesla), где разбирал все аспекты работы моделей и перемножал очень много матриц. Если в начале курса наши разговоры были вокруг «до AGI осталась пара лет», то по мере погружения в среду и общения с будущими коллегами взгляды друга повернулись примерно на 180 градусов: ИИ не умеет решать даже простые задачи, автоматизирует только простейшие вещи и пока не заменил ни одного сотрудника, код решений для вайбкодинга можно потом исправлять дольше, чем писать его самому, а чем оптимистичнее человек в отношении ИИ, тем меньше он понимает, как модель выдает ответ.

Лично мне Grok на днях предложил полностью обнулить базу данных на сервере, подразумевая удаление оттуда пары строчек корявых данных – и это одна из лучших моделей на сегодня. Что уж говорить про знаменитую главу safety and alignment в Meta, которой OpenClaw по своему усмотрению очистил почтовый ящик.

По горячей теме наверняка будет много комментариев под постом 👇

Хорошего начала недели!

@golimitIess