Трудно узнать, обладает ли машина сознанием, однако и убедиться, что сознания у нее нет, уже не намного легче.

Наконец, опубликовали лонгрид, который я писал в июле, по мотивам казуса инженера Google, заявившего, что языковая модель LaMDA чувствует и сознаёт. Тогда же в США приняли скандальное решение по абортам, и эти два события вполне дополнили друг друга.

Если кратко, корень их проблем един: наука не знает, что такое сознание.

Цена этого незнания будет расти. Из-за развития технологий вопрос о сознании перестал быть сугубо философским, все чаще придется отвечать на него практически. Мой тезис: нам нужны научные суждения о разуме, чувствах и сознании у машин, животных и людей, так как это влияет на систему прав и морали, определяя наши действия. Ситуация, когда технические возможности опережают понимание, опасна.

Насчет наличия/отсутствия сознания у субъекта/объекта мы будем все чаще совершать ошибки первого и второго рода.

Лонгрид вышел в Naked Science, но я также сделал чисто текстовую версию, без картинок, рекламы и прочих украшений (лично мне так читать удобнее). Добавлю две важные работы от DeepMind, в текст они не вошли, но имеют прямое отношение к его содержанию:

🗞 Language models show human-like content effects on reasoning Большие языковые модели демонстрируют те же предубеждения в рассуждениях, что и люди.

🗞 Symbolic Behaviour in Artificial Intelligence Как ИИ может прийти к понятию символа; это к заочному спору Лекуна и Маркуса о символическом ИИ, о чем я упоминаю в тексте.