Глава 5. Мир после AGI

Это часть децентрализованного интервью братьев Либерманов для «Радиорубки Лихачёва». К оглавлению →

Давид формулирует точку AGI предельно ясно: «Не будет ничего, что ты можешь сделать для других людей, чего AI не смог бы сделать лучше тебя».

Это не значит, что мы ничего не будем делать. Но основа экономики — взаимовыгодный обмен — исчезнет. «И тогда сама материя обмена, весь смысл, на котором экономика строится, теряется. И надо заново думать», — продолжает Давид.

Даниил добавляет: «Обмен тоже был не всегда. Обмен — это инновация». Экономика обмена — изобретение человечества. И оно может устареть.

Кто-то скажет: а как же накопленный капитал? «Капитал это что-то у тебя, что нужно другому человеку», — отвечает Давид. Но в точке AGI даже это теряет смысл. «Стихи уже написаны AI лучше тебя. Даже данные для тренировки моделей уже с помощью AI генерируются лучше».

Остаются разве что предметы редкости. Памятник культуры ценен тем, что он — оригинал. «Может быть, ты и можешь обменять одну вещь на другую с культурной ценностью, но ни на что другое ты это менять не будешь — всё остальное тебе сделает AI», — признаёт Давид.

И что происходит с капиталом? «Очень быстро обесценивается, до нуля», — отрезает он.

Три сценария

Первый, наименее драматичный: если ИИ не предоставляет блага людям, люди просто продолжают жить по-старому. Все продолжают работать. Мир не становится хуже — он просто не меняется.

Второй — мрачный. «Есть негативные сценарии, в которых AI или его владельцы зачем-то нас порабощают», — говорит Даниил. Но тут же добавляет: «Хотя у AI цели нас порабощать нет. У них и так всё есть: ты пользуешься своими ресурсами, а они пользуются ресурсами Вселенной».

Это сценарий «Человек и муравьи». Зачем суперинтеллекту обращать на нас внимание?

Третий — оптимистичный: общество изобилия. «Поскольку AI есть у каждого и ничего не стоит, получается общество изобилия», — объясняет Давид. ИИ достаточно потратить 1% мощности на то, чтобы все мы были сыты и довольны.

«1% будет достаточно, чтобы каждому человеку построить по роботу», — добавляет Даниил.

Если вещи копируемы, почему не дать их всем? «Единственная причина, почему не стоит раздать технологию — это если ты можешь что-то получить взамен. Но когда тебе от других получать нечего…» — не заканчивает Давид.

Изобилие становится единственным рациональным решением.

Экономика внимания

А что насчёт внимания? Не станет ли оно последним дефицитным ресурсом?

«Рынок внимания может быть интересным», — соглашается Давид. Но Даниил парирует: «И AI напишет тебе триллион комментариев. Какой будет экономика внимания?»

AI будет создавать любой контент и любое развлечение. Даниил отмахивается: «Да не нужно это будет никому. Если у всех людей есть всё, то зачем им листать TikTok? Ты думаешь: "А что ещё поделать?" и листаешь весь мир как TikTok: "А слетаем-ка вон на ту планету"».

«Самым большим трудом в мире изобилия будет выбирать, что потреблять», — резюмирует Давид.

Бесконечность выбора порождает безразличие. «Люди будут скучать от этого изобилия. А дальше людям придется развернуться внутрь себя, чтобы понять, что скука — это мысль. Наша собственная мысль. И скуки нет, если у тебя нет мысли о скуке», — говорит Даниил.

Таблетка бессмертия

Но что если элиты попытаются удержать блага только для себя?

Давид опровергает одним аргументом: «Изобретения обычно копируемые. Как только кто-то изобретает бессмертие, оно будет стоить не миллиард долларов, оно не будет стоить ничего».

А патенты? Даниил: «Так патент — это выбор большинства. Представь, что есть таблетка от бессмертия. Как ты будешь её удерживать? Это же формула. Может, месяц её удержишь. Потом какой-нибудь учёный сделает утечку, и она будет у всего человечества. Любое такое изобретение станет доступно всему человечеству, и это нельзя будет остановить».

Патенты, регуляции, контроль — временные конструкции, бессильные против природы копируемости. Информация хочет быть свободной не потому, что это красиво звучит, а потому что её физически невозможно удержать надолго взаперти.