Сотрудники ведущих ИИ-лаб массово подписывают новую петицию о создании инструментов замедления ИИ

https://www.pacingthefrontier.com/

«Pacing the Frontier» требует от правительства разработать международно скоординированные технические и политические механизмы, которые позволили бы всему полю ИИ-разработки сознательно замедлить темпы, если это потребуется.

Письмо предупреждает, что ИИ очень скоро может дойти до точки, когда начнет самоулучшаться, и тогда прогресс может ускориться настолько, что общество и регуляторы не успеют вовремя отреагировать. Поэтому заниматься разработкой стоп-кранов надо уже сейчас, на всякий случай

На данный момент письмо подписали уже более 1100 сотрудников фронтиров, включая Дарио Амодеи и сооснователей Anthropic Джареда Каплана и Джека Кларка, главного научного сотрудника OpenAI Джакуба Пахоцки, главного научного сотрудника Meta* Шэньцзя Чжао и главу направления AI safety в Google Анку Драгана, а еще Яна Лейке, Марка Чена, Джона Шульмана и других.