Есть такой риск при использовании нейроинтерфейса, размывание собственного “Я” и чувства агентности, когда человек не может четко отделить свои решения от решений машины.

Эту проблему разделенного контроля часто упоминают в обзорах о будущем BCI, считая, что ИИ на другом конце интерфейса будет брать на себя все больше управления. Вкратце проблема сводится к вопросу: “это я так подумал(а) или машина?”. Кто тогда виноват?

Нервная система умеет принимать чужое за свое, мы это видим хотя бы по иллюзии резиновой руки. Так что сам риск вовсе не иллюзорен, пусть и отнесен пока в будущее.

На этом фоне декабрьская статья в Scientific Reports добавляет оптимизма: когда люди и ИИ-агенты достигают цели совместно, мозг способен отличить свои ошибки от ошибок агента, это читается по ЭЭГ (потенциалы, связанные с ошибкой, ErrPs).

Данное направление исследований будет усиливаться по мере роста нашей вовлеченности в симбиоз с ИИ. Различение “Я/не Я” — одно из фундаментальных свойств живого (а иммунная система только этим и занята), но это свойство уязвимо, его можно взломать.

P.S. Авторы статьи докладывали по этой теме в т.ч. и в России на BCI: Science & Practice, Samara 2020. Привет из прошлой жизни.