Может ли AI стать предметом культа? (1/4)
Нудноватая формулировка! Но мне этот вопрос задавали за последний год столько раз, что надо уже что-то об этом написать.

Короткий ответ: нет, не может. Во всяком случае это маловероятно.

Длинный ответ:
Если вы уже убедили себя, что AI может стать предметом культа, длинный ответ вас не убедит. Но я в нем в значительной степени уверен и постараюсь сформулировать его максимально просто.

Что обычно говорят об AI и религии?

Во-первых, то AI похож на сверхъестественную сущность: он знает ответ на все вопросы, может быть волшебным помощником в решении проблем, он вездесущ, незрим и почти недоступен пониманию обывателя, вроде меня (и, если вы не разработчик AI, вас). Наконец, он ведет себя как нечто разумное. Нейросеть - такой джинн, который может выполнять твои желания, если ты правильно задаешь вопросы (и, понятно, разрушать дворцы, если ты задаешь вопросы неправильно).

Во-вторых, что люди склонны обожествлять непонятное и незримое, особенно если от этого чего-то зависит их жизнь. Люди обожествляют гром, пляшут на танцах в честь духов доброй охоты и приносят жертвы богу Авраама, Исаака и проч. А AI - см. пункт первый! И наша жизнь зависит от него все больше, в том числе в критически важных для нас областях. И то ли еще будет.

Первое в целом верно, с той, разумеется, поправкой, что AI ничего не знает, ничего не понимает и вовсе не разумен: “эта бедная птица ругается как тысяча чертей, но она не понимает, что она говорит”. Но, заметите вы, это совершенно неважно: гром тоже неразумен, а Иеговы и вовсе нет, но это еще никому не мешало. Справедливо. Но вот второе - совершенно несправедливо.

В основе любых рассуждений о том, что AI может стать предметом культа, новым духом или божеством, лежит совершенно неверное понимание генезиса религии и психологии религиозности. А какое понимание правильное? На этот счет, естественно, уже сто пятьдесят лет ведутся научные дискуссии, и не то чтобы существовал единственный правильный ответ. Но в некоторых вещах мы можем быть более-менее уверены.

Прежде всего: религиозное поведение, как учит нас когнитивное религиоведение (и здравый смысл) связано с эволюцией нашего головного мозга. Мы верим в сверхъестественное не потому, что мы философски глубокие субъекты, ищущие ответы на вечные вопросы, и не потому, что нам так нужно объяснить все непонятное. А потому, что естественный отбор много сотен тысяч лет отсеивал всех, кто не обладал некоторыми психологическими свойствами. Не боишься загрязнения и нечистоты? Помрешь и не оставишь потомства. Не умеешь соблюдать строгие правила? Помрешь и - сами понимаете. Есть большой спор о том, является ли наша склонность к вере побочным багом этого отбора или полезной фичей, но для нашего вопроса разница эта совершенно не важна. (Я упрощаю!)

Еще одна важная особенность нашей психики - гипертрофированная детекция агентности. Проще говоря, наша склонность наделять мотивацией и волей, персонифицировать и наделять характером явления вокруг нас. Камень, на котором мы стояли, когда застрелили оленя - счастливый камень, он хочет нам помочь. Ворон, каркнувший у нас над головой, хочет нас погубить. Детекция агентности - очень мощная штука, мы все подвержены ей на уровне все той же работы головного мозга, и нужно часто прилагать большие усилия, чтобы ей не подчиниться. (Вспомните, как вы были недовольны тормозившим компьютером, который, конечно, специально бесил вас в самый неподходящий момент.)