Сегодня я принёс вам в натуре (в селле) научную статью: https://www.cell.com/neuron/fulltext/S0896-6273(22)00806-6

Видит Бог, обычно я такое не читаю, но её упомянул Уоттс в своей публицистической заметке про ИИ и сознание для (неожиданно) крупного журнала, а он может подбить меня и не на такие безумства. По факту я должен скорее ссылаться на текст Уоттса, потому что его я хотя бы прочёл и понял целиком, но в интересах полноты пусть будет.

Для начала надо разобраться с предпосылками авторов, а именно, с принципом свободной энергии. Сделать это я не смог и даже не пытался, так что придётся оперировать тем, что напел написал Уоттс. Имеем подход к теории сознания, который утверждает, что мозг только и делает, что строит внутренние модели окружающей среды и сравнивает их с получаемыми данными. И вот когда предсказание не совпадает с действительностью, возникает сознание, чтобы исправить проблему: обновить модель или поменять реальность. Самой сознательной системе это, впрочем, ни фига не в кайф, потому что энергозатратно, так что она стремится к тому, чтобы предсказания всегда были верны. No alarms, no surprises, no consciousness.

Так вот, о чём статья: учёные вырастили бионейросеть из нейронов коры головного мозга поверх плашки с электродами и научили её играть в понг. Вернее, поставили в такие условия, что она обучила сама себя. Ей не предоставили ни правил, ни цели — только сенсорные электроды, сообщающие позицию мячика, моторные электроды, с помощью которых можно контролировать отбивающую платформу, и систему обратной связи. Если мячик получилось отбить, нейроны получают предсказуемый стимул на сенсорные электроды, если нет — случайный шум.

Всё это, на самом деле, не очень круто, такие системы могут вещи и посложнее, но результат работает в пользу принципа свободной энергии. Мозгу-в-чашке (это мой авторский перевод DishBrain, напишите, насколько удачный), в общем-то, на хуй не упало играть в понг, он даже не знает о том, что эта игра где-то идёт. Но за проигрыш он получает непредсказуемый сигнал из окружающей среды, и ему это, по-видимому, не нравится. Не нравится в достаточной мере, чтобы методом проб и ошибок добиться успехов в игре в понг. Статистически значимых успехов. По сравнению с контрольной группой.

Собственно, это причина, по которой я пошёл читать статью. Видите ли, когда я слышу "статистически значимый", я как-то автоматически начинаю думать по p=0.049 и всякое такое. Ну вы знаете этих учёных. Так что я посмотрел, какие там успехи, и остался разочарован (или не разочарован, тут как посмотреть). К статье приложено достаточно впечатляющее видео игры одного такого "мозга", охарактеризованное как "Representative movie", но мне кажется, оно как раз таки не очень репрезентативное, потому что, судя по графикам, в среднем они научились отбивать мяч один раз. То есть, это и правда улучшение, но как бы да: он тупооой. Впрочем, для такой простой системы это должно быть нормально.

Так или иначе, авторы осторожно пишут, что поведение системы удовлетворяет их формальному определению сознания, Уоттс считает, что эта штука может обладать "настоящим" сознанием, мне кажется это сомнительным, но это всё фигня, впечатлило меня другое.

Во-первых, представь, что ты мозг-в-чашке. Всю свою жизнь ты играешь в какую-то нелепую игру, о существовании которой даже не подозреваешь. Всю свою жизнь ты пытаешься упорядочить хаотичные сигналы от реальности, чтобы хоть что-то было понятно и прогнозируемо. I don't care if it's conscious, it is literally me.

Во-вторых, идея и имплементация этой бионейросети чертовски напоминает уоттсовские же умные гели из трилогии о рифтерах. Как человек, который её читал и помнит, какую роль они играли в сюжете, я не могу не радоваться, что есть ещё учёные, которые занимаются настоящим делом.

Потому что мы заслуживаем апокалипсис интереснее, чем ядерный.