Роман Ямпольский — не просто очередной учёный, пугающий апокалипсисом. Это один из ведущих экспертов по кибербезопасности.

Он 10 лет изучает, как сверхразумный ИИ может выйти из-под контроля. Его называют «Кассандрой эпохи ИИ»: Ямпольский предупреждает о катастрофе, но немногие верят.

Роман Ямпольский уверен: без жесткого регулирования ИИ уничтожит человечество с вероятностью 99,9%. Но кто должен этим заниматься? Разбираем, какие организации и подразделения уже существуют и какие нужно создать, чтобы избежать апокалипсиса.

Международное агентство по ИИ (IAAI) – аналог МАГАТЭ

Задачи агентства:

— Лицензирование разработок уровня AGI (искусственного общего интеллекта)
— Контроль за "красными линиями" (например, запрет на автономное оружие)
— Инспекции ИИ-лабораторий, как когда-то проверяли ядерные объекты

Проблема: Пока нет единого органа, а только разрозненные инициативы (ЕС, США, Китай).

«Интерпол для ИИ» – киберполиция против злонамеренных алгоритмов

На начальном этапе это может быть лишь очередной независимый бенчмарк, который будет оценивать агрессивность и противоправность алгоритма. В перспективе будут решаться следующие задачи:

— Расследование ИИ-преступлений (глубокие фейки, автономные хакерские атаки)
— Блокировка опасных моделей (например, ИИ, создающего биологическое оружие)

Всемирный этический комитет по ИИ

Задачи:

— Разработка «Конвенции о правах ИИ» (чтобы алгоритмы не стали оружием)
— Запрет на эксперименты с «неконтролируемым самообучением»

Аналог: Bioethics Council ООН, но для искусственного интеллекта.

Локальный рекомендательный орган в рамках ПИШ ИТМО

Следит за тем, чтобы степень обогащения ИИ в доменах не превышал допустимых норм.

Что можем сделать мы?

Участвовать в создании таких организаций (петиции, голосование).
Поддерживать открытость в ИИ-разработках (чтобы не было "секретных проектов").
Учить детей не только пользоваться ИИ, но и определять риски, которые он привносит в нашу жизнь.

Будет ли это работать?

Ямпольский прав: если ничего не делать – шансы на выживание близки к нулю. Но если создать систему глобального контроля, у нас есть шанс.

Главный вопрос: Успеем ли мы до точки невозврата?