Исследователь ушел из Anthropic из-за страха перед неконтролируемым ИИ

Исследователь Джейкоб Коксон покинул компанию Anthropic и индустрию ИИ, предупредив, что жесткая конкуренция между разработчиками и китайскими стартапами заставляет идти на компромиссы в вопросах безопасности. По его словам, модели со способностью к самосовершенствованию могут выйти из-под контроля и вытеснить человечество уже к концу следующего года, а сам процесс создания таких технологий на обычных ноутбуках в Кремниевой долине вызывает тревогу. Об этом пишет The Wall Street Journal.

Хотя руководство Anthropic открыто говорит об угрозах неконтролируемого ИИ и призывает отрасль к паузе в разработке, Коксон убежден, что эффективный контроль невозможен ни в одной компании без вмешательства государства. Его опасения разделяют и другие эксперты: главный научный сотрудник OpenAI Якуб Пахоцкий призывал к срочной координации усилий правительств и компаний, а другой исследователь Anthropic, Мринанк Шарма, ранее уволился со словами о том, что «мир находится в опасности».

Читайте подробнее на сайте

Frank Media в Telegram | MAX | Рассылка