Утечка Claude Code, халатный вайб-кодинг и перегрев индустрии

Думаю, все уже видели новости: на днях в сеть утекли исходники Claude Code. Почти 500 тысяч строк проприетарного кода, внутренние роадмапы, архитектура - все это добро просто выложили на npm в виде sourcemap-файла при рядовом апдейте.

Честно говоря, я ждал, когда случится подобная фигня. Но уровень иронии просто зашкаливает: вся эта история произошла с компанией Anthropic, которая активнее всех продвигала идею того, что код должен писаться с помощью ИИ. Что можно не проверять за ним, давать LLM больше автономности и слепо доверять результату. Забавно вдвойне, учитывая, что их инструмент объективно считается одним из лучших в сегменте.

И тут вылезает абсолютно детская ошибка. Разработчики просто взяли и на радость пользователям (и конкурентам) слили в унитаз свое конкурентное преимущество, попутно наплевав на кибербез.

Это далеко не первый случай, когда люди садятся вайбкодить, и это оборачивается фатальными последствиями для продукта. Вспомните Cursor: то помощник некорректно отвечает на вопросы, то баги лезут из всех щелей. Буквально сегодня обсуждали на занятии с группой ИИ-кодинг. Мы настраивали приложение со студентами, и у одного из них - на точно таком же устройстве, как у остальных - вылез баг. Настройка, позволяющая отключить обучение на твоих данных, просто вылезла за пределы экрана, и до нее физически нельзя было дотянуться мышкой, чтобы деактивировать. В Perplexity Computer можно было через дыру в системе безопасности вытащить API-ключи от Anthropic и гонять запросы на сотни тысяч баксов. Я все больше наблюдаю в продуктах ИИ-компаний следы такого халатного подхода.

Глобально для бизнеса за такие косяки раньше могли содрать семь шкур. Сейчас ситуация иная: перегретым стартапам, которые закидали деньгами, можно творить любую дичь, и им за это ничего не будет. Уволят крайнего инженера - и погнали дальше.

Кто-то скажет: "Ну это же догфудинг! Практика инноваторов! Без таких рисков не будет прогресса".

С одной стороны - да. Часто для прогресса нужен прыжок веры. Но прыгать надо думая головой, а не просто с криком бросаться в овраг. На мой взгляд, то, что мы видим - это халатность, тупость и популизм.

Глядя на все эти процессы, у меня формируется четкая мысль: пытаться полностью исключить человека из цепочки и заменить его автоматикой - вообще не лучший путь. Напротив - ИИ должен быть усилителем человека. При этом компетенции самого специалиста должны эволюционировать в сторону более высокой ответственности, а не скорости, которую все требуют на рынке сейчас. Разработка не должна сводиться к простому нажатию кнопки "Accept", после которого вся инфа о вашем продукте улетает в открытый доступ.

Вторая мысль, которая не отпускает меня последние месяцев 8: сама индустрия ИИ становится все более перегретой. Лично меня не покидает ощущение, что очень скоро нас ждет мощнейшее разочарование. Тот ИИ, которого реально удастся достичь, вообще не совпадет с тем ИИ, которого ждут инвесторы, пользователи, и о котором нам красиво вещают со сцен на презентациях.

Кстати, об этом. Несколько подписчиков давно просили меня разобрать одну интересную статью на тему того, является ли ИИ пузырем. Планирую сделать это в ближайшее время - так что не переключайтесь.

🚀 Влад Корнышев про AI и создание AI-продуктов