Как ИИ-замеры убивают смысл работы

Пока инженеры (нео)клаудов и лабораторий бьются за оптимизацию каждого GPU-такта, в Amazon сейчас происходит величайший в истории косплей продуктивности под кодовым названием «tokenmaxxing». Разрабы специально сжигают токены на булшит, угадаете зачем?

Пока компания планирует залить в ИИ-инфраструктуру $200 млрд, сотрудники в это время пытаются не вылететь с работы, имитируя бурную деятельность. Внутренние методички Amazon рисуют пасторальную картину: их новый агент MeshClaw «видит сны», агрегирует знания, разгребает почту, а 80% разработчиков решают любую задачу с его помощью. По бумагам всё прекрасно.

Но есть нюанс. Метрикой успеха выбрали объем сожженных токенов.

Итог предсказуем. Разрабы просто скармливают MeshClaw тонны мусорных задач и заставляют модель генерировать бесконечный шум, чтобы набить KPI и попасть на внутренние «доски почета». Пока руководство грезит о цифровых ассистентах, люди просто прожигают дорогущее серверное время, просто чтобы сдать красивый отчет.

А параллельно, что ни день, то сокращения в бигтехе: то Oracle, то Gitlab. Да и сам Amazon отличился. И всё, собственно, благодаря тому же ИИ, который разработчики обязаны использовать.

В общем, ничего нового: раньше мерили строчками кода, теперь — токенами. На деле же менеджмент, не понимая, как измерить пользу от моделей, врубил закон Гудхарта на полную мощность: метрика стала в итоге основной целью.

Кто-то еще хочет в FAANG, ребят?

@anti_agi