С неожиданным увлечением прочитала несколько глав книги Юдковского и Соареса «Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех».

Это манифест, но он по-умному написан, поэтому его интересно читать. И есть у меня несколько мыслей, которые даже не касаются напрямую содержания:

- философы прямо сейчас такими же важные люди, как натурфилософы эпохи Просвещения, которые собрали из своих диких идей (монады? эфир?) весь наш мир. До этого он был не наш. Прямо сейчас надо заново собрать, что такое свобода воли, стремление и желание, потому что, например, Юдковский строит свои тезисы на них, а понятийная работа в этой области была выполнена с неполными данными.

- родиться в восьмидесятом году прошлого века было удачным ходом. Раньше я думала: жалко, шансы дотянуть до технологий радикального продления жизни не очень. Сейчас мне кажется, что здорово было прожить несколько десятилетий в мире с таким уровнем свободы и неподнадзорности, какой еще не скоро будет реалистично достичь.

- современные нейросети – это невероятная вещь. Давно я не делала так много так быстро. Я не пишу тексты в нейросетях, потому что это бессмысленно, зато запустила довольно большой сайт, CRM из моих бесконечных табличек и данных, аналитические продукты. Может быть, мы прямо сейчас размениваем право первородства на чечевичную похлебку, но похлебка отличная.

Книга вышла в издательстве Corpus, переводчик Евгений Поникаров; научный редактор Сергей Николенко, редактор Алёна Якименко. На сайте Корпуса увидела раздел "переводчики", как же это здорово.