ChatGPT | Стадия принятия.
Nature опубликовал манифест по поводу ChatGPT. В целом мысли там верные, но главное — осознание, что боты пришли всерьез. Ученые будут использовать ChatGPT и его аналоги, при всех неизбежных рисках, и обратной дороги нет.

«Мы считаем, что использование этой технологии неизбежно, поэтому запретить ее не получится. Вместо того, чтобы участвовать в бесполезной гонке вооружений между ИИ-чат-ботами и ИИ-детекторами чат-ботов, исследовательское сообщество и издатели должны решить, как использовать LLM честно, прозрачно и порядочно».

Пожалуй, это первая внятная реакция изнутри научного сообщества. Ранее преобладало смятение и защитная стойка. Теперь в Nature группа авторов признаёт очевидное и следует принципу: не можешь победить — возглавь.

Стоит, конечно, прочесть текст целиком, все важные засечки там сделаны. Вдобавок, «учитывая подрывной (disruptive) потенциал LLM», авторы предлагают запустить широкое международное обсуждение, как науке развиваться дальше.

Отмечу их спорный тезис, который вроде не обязателен, но он прямо касается глубины грядущих изменений в науке.

«Некоторые утверждают, что поскольку чат-боты просто изучают статистические ассоциации между словами в обучающем наборе, а не понимают их значения, LLM смогут вспоминать и синтезировать только то, что уже сделали люди, но не проявлять человеческие аспекты научного процесса, такие как творческое и концептуальное мышление.

Мы утверждаем, что это поспешное предположение, и что будущие ИИ смогут овладеть теми аспектами научного процесса, которые сегодня кажутся недосягаемыми».

Это вопрос о том, сможет ли ИИ стать не просто инструментом науки, но и агентом понимания. Готовых ответов здесь нет, а тема все больше занимает умы. Например, см. недавнюю статью в Nature Reviews Physics (да и всю их серию про ИИ, если есть время). Вопрос исключительно важен, от него зависит, кто и в какой степени будет "держателем" научной картины мира.