Люди и ИИ: строим позитивное будущее вместо страха

ватаристика — это термин, который, по моему мнению, лучше всего описывает науку о человеко-машинной цивилизации, где персональный цифровой помощник (аватар) становится носителем личностного кода человека. Речь идёт не о фабричном ИИ, а о индивидуальной модели, «выращенной» на текстовом потоке человека: переписке, чтении, рабочих проектах, разговорах. Представьте, спустя годы такой аватар накапливает социальный капитал, замещает хозяина на совещаниях, ведёт дела по проектам. А после смерти человека он может превратиться в своеобразного хранителя рода, цифрового предка, с которым потомки смогут общаться. Но этот личностный код должен храниться локально, буквально на флешке, а не на сервере. Иначе мы не контролируем последствия…

Признать такую технологию возможной — ещё не значит точно видеть, куда она ведет. Сегодня существует дефицит позитивных образов применения ИИ: наше воображение застряло в тревожных сценариях вроде «Матрицы», общество привыкло ждать катастрофы. Поэтому сегодня нам необходима хорошая научная фантастика — не предсказание конца света, а шаг за шагом проработанный путь устранения конкретных угроз.

КУЛЬТУРА И МЕДИА ДОЛЖНЫ ПЕРЕСТАТЬ БЫТЬ ЗЕРКАЛОМ СТРАХА И СТАТЬ МЕСТОМ КОНСТРУИРОВАНИЯ ПОЗИТИВНЫХ ОБРАЗОВ БУДУЩЕГО

Любая технология без ценностной архитектуры обязательно станет угрозой. Для аватаров необходим системный промт — свод целей и смыслов существования цивилизации, чтобы машины не сбивались с общечеловеческих ценностей.

Попробуем сформулировать закон сохранения цивилизации: вероятность самоуничтожения пропорциональна произведению трёх величин — объёма вырабатываемой энергии, числа экзистенциально опасных технологий и количества доминантных личностей, готовых на всё ради власти. Технологии не остановить, энергию не сократить, значит, единственный рычаг — снижение третьего сомножителя. Нравственный прогресс можно ускорить только через культуру. Кино, игры, медиа в таком контексте становятся инфраструктурой безопасности.

Нам требуется объединение компетенций: учёные просчитывают шаги технологий, а медиа делают эти шаги понятными миллионам. Время выбирать: либо конструировать позитивное будущее, либо позволить ему сконструировать себя самостоятельно — по законам страха.

Константин Воронцов, профессор РАН, руководитель лаборатории «Машинное обучение и семантический анализ» Института ИИ МГУ

МНМ-эксперт