Стоит ли останавливать обучение сильных ИИ-систем? 💥

Ведущие мировые эксперты подписали сегодня открытое письмо Future of Life Institute.
В открытом письме, под которым уже подписались Йошуа Бенжио, Стив Возняк, Стюарт Рассел, Юваль Ной Харари, поднимаются такие вопросы:
🔹Должны ли мы позволить машинам наводнять наши информационные каналы?
🔹Должны ли мы автоматизировать все рабочие места?
🔹Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устареть или заменить нас?
🔹Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Предлагается на 6 месяцев заморозить все большие разработки в области сильного ИИ (сравнимые и более сильные чем GPT-4), чтобы во время этого периода объединить усилия ведущих лабораторий и регуляторных центров на пути к безопасному ИИ.

Что думаете?

Прочитать/ подписать письмо:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/