The Bitter Lesson

Когда решаешь сложную задачу – всегда помогает набрать побольше экспертизы в доменной области и воспользоваться чужим опытом. Надёжный уверенный способ решать задачи.

Так вот – в AI всё работает иначе. Каждый раз побеждает другая парадигма – взять огромные вычислительные мощности и накидать туда данных или симуляций.

Такой подход выиграл в шахматах – AlphaZero учился без экспертизы. Паттерн повторился в CV, распознавании речи, ботах в Dota 2 и позже в LLM. Каждый раз люди сопротивляются такому подходу – это противоречит нашему человеческому опыту. Эксперты ходят и грустят "а как же наша экспертиза". Знакомо, разработчики?

Этот урок известен как The Bitter Lesson – горький урок необратимой победы большого компьюта и масштаба над доменными экспертными решениями. Название пошло от одноименного эссе Ричарда Саттона.

Ричард описывает корневую причину как закон Мура в его современных формах. Рост компьюта продолжает расти – значит, решения масштабируемые по компьюту в итоге победят. Экспертность не масштабируется.

Ключевые навыки для продвижения вперёд это scalable search and learning – а не экспертные знания. На поиск и обучение раскладывается примерно любой современный AI – и если компьют продолжит расти, эта парадигма победит.

В robotics сейчас происходит борьба этих двух подходов. Лагерь запомнивших bitter lesson ставит на VLA и world models. Лагерь более классических подходов сопротивляется – и не без оснований. Сильные аргументы есть с обеих сторон – но будущее уже предопределено. Правда, непонятно, когда.

Интересно, что похожий паттерн видно везде. Мы учим наши AI-системы доменное-специфичным вещам и прочим claude.md хакам – чтобы в очередной итерации развития моделей получить очередной bitter lesson – и выкинуть это всё на помойку. Мы строим экспертные компании на доменных знаниях – и потом массово закрываем их получив очередной горький урок.

The Bitter Lesson – важнейший концепт для понимания технологий сегодня, стоит его изучить. Прочитайте эссе, оно короткое.

p.s. пост заведомо однобокий для усиления. есть сильные аргументы в другую сторону, включая огромное количество экспертов в обучении современных llm