Еще немного на тему вокруг ChatGPT. Из прочтенного в феврале отмечу два текста.

Автор первого — Тед Чан, известный писатель научной фантастики, один из лучших в мире. Если вы не читали его рассказы-повести, я вам завидую, вас ждет открытие. Хотя вы могли его знать как автора повести, по которой Вильнев снял фильм “Прибытие”.

Второй написали три автора: Генри Киссинджер, бывший госсекретарь США, Эрик Шмидт, бывший ген.директор Google, и Даниэл Хаттенлочер, декан Колледжа вычислительной техники MIT и член правления Amazon.

�� "ChatGPT Is a Blurry JPEG of the Web" | The New Yorker
�� "ChatGPT Heralds an Intellectual Revolution" | Wall Street Journal

Оба эссе поднимают важные вопросы, но трактуют вещи противоположным образом. Чан настаивает, что языковые модели не имеют никакого отношения к интеллекту, а тройка К-Ш-Х считает, что “ИИ занимается нечеловеческим аналогом познания”.

Чен нашел красивую метафору и сравнивает ChatGPT со сжатием Интернета с потерями. Ответы чат-бота — это всего лишь распаковка архива, но не один-в-один, а статистическая. Внешне она выглядит как пересказ “своими словами” огромного массива текстов, и оттого мы впадаем в иллюзию: ведь когда текст пересказывают студенты, мы считаем, что это свидетельствует о понимании ими прочитанного.

Киссинджер, Шмидт и Хаттенлочер полагают, что “ChatGPT обладает способностью к анализу, которая качественно отличается от способности человеческого разума”. И здесь, на их взгляд, главная проблема такая: начиная с Просвещения наука развивалась, делая тайны объяснимыми, а в эпоху ИИ мы уйдем на иную модель познания, когда не будем понимать, как получено знание и почему оно работает.

Тройка К-Ш-Х видит в генеративных моделях мощную силу, которая “претендует на то, чтобы преобразовать когнитивный процесс человека”. Чан, похоже, не видит никакой пользы в том, что просто-напросто перефразирует Сеть.

Этот спор будет вечным, и впереди еще много раундов, но оба текста побуждают думать. Рекомендую.