Педаль газа есть, тормоза нет: Anthropic пугает выходом ИИ из-под контроля

Сооснователь Anthropic Джек Кларк заявил на BBC Newsnight, что новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под контроля.

Необходимо иметь возможность убрать ногу с педали газа и нажать на тормоз. Сейчас ситуация выглядит так, будто у индустрии есть педаль газа, но нет педали тормоза.

По его мнению, люди должны сохранить контроль над ИИ-системами через государственное регулирование и политические механизмы.

Anthropic недавно выпустила доклад, в котором назвала замедление разработки передовых ИИ-систем «полезным шагом».

Но есть большое «но».

Если замедлится только одна компания, конкуренты уйдут вперед.

Реальная пауза возможна только если сразу несколько ведущих разработчиков в США и Китае одновременно согласятся остановить наращивание возможностей моделей в рамках системы, которую можно независимо проверять.

Такие заявления не случайны.

Anthropic готовится к IPO с оценкой $965 млрд. Слова о контроле и регулировании звучат хорошо перед выходом на биржу.

AI для бизнеса