Гонка за AGI — без прав и без любви

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ ДАРБИНЯНОМ САРКИСОМ СИМОНОВИЧЕМ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ДАРБИНЯНА САРКИСА СИМОНОВИЧА 18+

НАСТОЯЩАЯ ЕБАЛА, КАК И САМ ЗАКОН ОБ ИНОАГЕНТАХ, ПРИЗНАНА РЕШЕНИЕМ ЕВРОПЕЙСКОГО СУДА ПО ПРАВАМ ЧЕЛОВЕКА ОТ 22.10.2024 (KOBALIYA AND OTHERS v. RUSSIA) НАРУШАЮЩЕЙ СВОБОДУ СЛОВА И НЕСОВМЕСТИМОЙ В ПРИНЦИПЕ С КОНВЕНЦИЕЙ ПО ЗАЩИТЕ ПРАВ ЧЕЛОВЕКА

Я разделяю опасения многих ученых и правозащитников по поводу неконтролируемого развития ИИ. Алгоритмические ошибки, взбесившиеся дроны , галлюцинации и создаваемые ими собственные языки уже давно никого не волнуют, когда безумная гонка за AGI начинает переходить в боевую фазу

🇺🇸Сначала США публикует свои амбиционзный AI Action plan - базовый документ, определяющий стратегию развития ИИ
🇨🇳Следом Китай публикует свой план по развитию ИИ

Оба эти документа про глобальную экспансию нынешних ИИ сверхдержав. Права человека в обоих документах почти что позабыты.

🇺🇸В американской повестке, которой сейчас управляет Трамп и известный "король ИИ и криптовалют" Дэвид Сакс, предполагается полная дерегуляция, то есть отмена правил, ограничивающих ИИ, отмена «идеологической предвзятости». Вся риторика о правах человека вытеснена - план исключает ссылки на DEI (diversity, equity, inclusion) и не упоминает ни свободу слова, ни право на приватность. Никаких больше упоминаний про авторские права и любые федеральные ограничения, которые вводила администрация Байдена. Все кто против, останутся без федеральных денег. Главная задача - не дать ничего Китаю. Вводится жесткий экспортный контроль за всем железом, чтобы Китай не получил ни одной лишней видеокарты.

Правительство обещает земли под дата-центры и фабрики полупроводников чуть ли не на халяву. Требование лишь одно — сотрудничать с американскими компаниями. Федеральное правительство обещает мощные инвестиции в ядерную энергетику, чтобы питать ChatGPT, Grok и другие детища американской земли.

🇨🇳 На удивление, китайский план, внезапно, оказался более про глобальное и инклюзивное управление ИИ, открытое сотрудничество и консолидацию ресурсов с фокусом на устойчивое развитие. Может он куда ближе к подходу ООН, потому что Китай все же немного отстает. В китайской повестке даже немного про права человека оказалось, ну конечно в китайском понимании — через формулировки вроде «общая безопасность», «равноправие» и «судьба всего человечества». Права на приватность трактуются через «безопасность и устойчивость» — в пользу государства, а не личности. Контроль предполагается централизованный: наднациональные органы предлагаются, но в духе «многостороннего консенсуса под лидерством Китая». Роль гражданских обществ не обозначена.

И пока Гуттериш жалуется, что доклады ООН не читают, а новая Межведомственная группа UN по ИИ думает о том, как лучше распространить свои рекомендации по безопасности использования роботов-убийц, Трамп срывает все тормоза - выходит из Совета по правам человека в ООН и дает полный карт-бланш, чтобы развернуть мощности на максимум.

Илон Маск строит гигаватный датацентр для своих нейросетей, а OpenAI готовит к запуску суперкомпьютер Stargate за 100 миллиардов USD.

И кажется, что ответ уже близко. Курцвейл в своей книге "Сингулярность близка" упирается в 2029 год. Агрегированное мнение тысячи прогнозистов сведено к 2031 году.
___

И вот, глава Machine Intelligence Research Institute, бывший инженер компаний Google и Microsoft Нейт Соарес в журнале Times утверждает, что вероятность вымирания человечества из-за ИИ составляет "по меньшей мере 95%", если мир продолжит развивать ИИ в текущем темпе.

Кажется, что близок тот день, когда люди начнут целенаправленно бомбить самовоспроизводимые дата-центры, а не друг друга. Что думаете?

#ИИ #AGI #AI #приватность #сша #китай

@cybersarik