О цифровой эрозии

Изучил вчера цифры от Perplexity. В мае этого года случился перелом: 52% англоязычных статей в сети написали нейросети. Против 48% человеческих. Всего пять лет назад их было около 5%. Рост в десять раз.

Экономика, как всегда, не терпит сантиментов. Машинный текст стоит копейки. Компании массово переходят на автогенерацию. Ленты заполняются, SEO-показатели растут, отчеты закрываются. Удобно.

Но за этим удобством — возможная катастрофа, «коллапс модели». Когда нейросети начинают учиться на сгенерированных другими нейросетями данных, возникает цифровой инбридинг. Смысл вырождается. Интернет рискует превратиться в пространство, где мы будем слушать лишь искаженное эхо самих себя. Уже превращается.

И это лишь одна сторона медали. Вторая — это наша, человеческая, метакогнитивная лень.

Ученые фиксируют тревожный тренд, чуть ли не атрофией мышления это называют. В эксперименте MIT одну группу просили писать эссе с ChatGPT, другую — без. У первой активность мозга была значительно ниже. А когда их потом пересаживали на самостоятельное выполнение — результаты оказывались плачевными. ИИ действует как костыль:

пока на него опираешься, кажется, что идти с ним легче, но только стоит его убрать — падаешь, потому что «ноги уже не держат».

Особенно ярко это видно в учебе. Студенты, решавшие задачи с ChatGPT, на первых порах показывали блестящие результаты. Но на последующих тестах без ИИ проваливались ниже среднего. Турецкие старшеклассники, пользовавшиеся нейросетью, сдали математику на 17% хуже. Это ставит крест на главном обещании ИИ — персонализированном обучении. Вместо живых рассуждений и выводов, вместо понимания, мы получаем иллюзию знания.

Мозг — адаптивная структура. Он подстраивается под среду. С появлением интернета мы перестали запоминать факты, но научились помнить, «где это найти». С появлением ИИ мы рискуем разучиться думать, делегируя сам мыслительный процесс.

Но хотя все кажется таким жутковатым, впадать в технофобию, когда вокруг все цифровизируется и автоматизируется — себе дороже. Нужно просто банально не быть ленивым. Не опираться на ИИ во всем, не отдавать ему права на все сложные задачи, на поиски любых решений.

Потому что единственное, что может быть опаснее искусственного интеллекта — наш собственный, обленившийся мозг.

А какие задачи вы поручаете ИИ? Оставляете что-нибудь на подумать лично для себя?