Карпатый про автомойку, AI, и совет фаундерам

Современный тест на тупость ограниченность моделей:

- Я хочу помыть машину. В 50ти метрах есть автомойка. Мне поехать или дойти до нее пешком?
- Пешком. Ехать 50 метров на мойку — это как заказывать такси, чтобы пересечь улицу. Плюс машину всё равно помоют, так что состояние "до мойки" не имеет значения.

— кейс из выступления Карпатого на AI Ascent 2026

Очередной год и очередная AI Ascent от Sequoai (писал про прошлые евенты тут и тут). Прикольно наблюдать, как эволюционируют нарративы: что остается, а что появляется.

Давайте сначала разберем на выступлении Карпатого, но еще будут посты по мотивам других выступлений.

Ключевые мысли от Андрея:
1) Software 3.0 - новая поверхность для программирования: контекст. То, что прогал Карпатый вчера - помните MenuGen с YC Summer School - теперь может быть сделано одним промптом в Gemini

2) Неоднородность интеллекта моделей - как в примере выше, в некоторых, казалось бы, простых ситуациях модель жутко тупит, а иногда - может написать C компилятор. По мнению Карпатого, дело не только в том, верифицируема ли эта задача и достаточно ли данных для тренировки, но и какие приоритеты у ведущих лаб по автоматизации таких задач. Вот уж точно incentives matter :)

3) Инжиниринг агентов (agentic engineering) > вайбкодинг - да, почти любой традиционный софт сейчас можно завайбкодить. Но ключевая сложность - как при этом поддержать тот же уровень качества, что и у традиционного софта? Именно здесь и альфа для билдеров.

4) Какие скиллы людей останутся важны - планирование и контроль, вкус (что такое хорошо и плохо), и понимание.

"You can outsource your thinking, but you cannot outsource your understanding"

- твит, который Карпатый часто цитирует в последние пару недель; кстати, перекликается с этим постом

Совет фаундерам (как я его понял, потому что Андрей ушел от ответа): в принципе, любая область может быть описана как верифицируемая в той или иной степени, вопрос лишь в том насколько сложно собрать данные и построить тренинг для них и - см пункт 2 - приоритетов лабораторий. Поэтому "слепые зоны" лабораторий (в части данных и инсентивов) - первые кандидаты.

Ну а если сравнить с мыслями Андрея на этом же евенте 2 года назад:
1) Конечно, 2 года назад он - да и мы все - не представляли как быстро будут эволюционировать модели и идеи, что софт это кусок промпта/контекста, скопированного модели, даже близко не было

2) Но вот LLM as OS идея, имхо, до сих пор жива в его голове - особенного, как в нынешнем токе он говорит про модель как компьютер.

3) Про open source и экосистему почти все упоминания исчезли

В общем, рекомендую как его ток, так и все в этой серии.

P.S. Если хотите больше про агентный инжиниринг - вам сюда