Цифровые эпициклы
Новое эссе о том, как ИИ может замедлить науку, ускоряя ее
Представьте, что у Птолемея был современный ИИ.
Машина мгновенно добавляла бы к геоцентрической модели новые эпициклы, подгоняла параметры и превращала любую аномалию в очередную математическую надстройку. Сколько еще веков прожила бы неверная картина мира, если бы ее несовершенство «лечил» идеальный оптимизатор?
Боюсь, что долго. Очень долго.
Эта мысль – ключ к пониманию главного риска прихода ИИ в науку.

ИИ может стать для науки не Кеплером, а идеальным Птолемеем: он способен масштабировать не познание, а самоподтверждение.

В новом эссе разбираю, почему это не алармистская страшилка, а вполне конкретный механизм, уже описанный исследователями.

✔️ Вычислительная модель Дубовой, Москвичева и Золлмана показала: ученые-агенты, выбиравшие эксперименты случайно, строили более точные теории, чем агенты, строго следовавшие теории. И главное – своего провала проигравшие не видели: им казалось, что они успешны. Это «иллюзия эпистемического успеха».
✔️ Капур и Нараянан объяснили, почему ускорять научный конвейер – все равно что добавлять полосы на шоссе, где пробка образуется из-за пункта оплаты впереди.
✔️ А фантаст Рэймонд Джоунс еще в 1952 году описал главный фильтр прорывов – внутренний «уровень шума» мышления ученых.
 
Из эссе вы узнаете:
- чем «машина масштабируемого порядка» опасней машины ошибок;
- почему погрузчик в спортзале – точная метафора ИИ в исследованиях;
- и какую единственную вещь нужно защитить институционально, чтобы ИИ стал машиной понимания, а не фабрикой цифровых эпициклов.

Подсказка: эта вещь – случайность.

 
Продолжить чтение (≈20 мин) на платформах патронов канала [1, 2, 3, 4]
 
#Наука  #Прогресс  #ГенИИ