avatar
Блуждающий нерв
@dtulinov
23.12.2022 15:32
Не всегда нужен BCI, чтобы возникла проблема с агентностью. Более глубокий пример — психические заболевания.

Сами пациенты порой не могут ответить себе, что в их поведении и чувствах принадлежит их “Я”, а что заболеванию. “Я сама по себе напористая личность или это у меня симптом мании?”. Чтобы отразить эту двойственность, размытость, психиатр John Z. Sadler ввел понятие ‘self-illness ambiguity’, с тех пор его работу часто цитируют.

Но если BCI можно просто отключить, то как быть здесь?

Это не только вопрос различения нормы и психопатологии, который исключительно труден. Есть еще задача понять, где заканчивается личность пациента и начинается расстройство — чтобы избавить его от второго, не повредив первое. Увы, на практике такую грань найти почти не реально.

Врачу или психотерапевту нужно быть очень наблюдательным, чутким и осторожным, чтобы пройти по тонкому канату, поскольку исцеление может деформировать структуру личности больного.

Не все разделяют сверхценность сохранения личности, это тема спорная, полная нюансов, не для короткого поста.

Люди, которых лечат глубокой стимуляцией мозга, часто говорят об изменении своего “Я”, появлении нового самоощущения. Авторы статьи называют этот эффект ‘self-implant ambiguity’, опираясь на идеи Садлера. У таких пациентов выбор: либо тремор, депрессия и проч., либо измененное “Я”.
Telegram
Блуждающий нерв
Есть такой риск при использовании нейроинтерфейса, размывание собственного “Я” и чувства агентности, когда человек не может четко отделить свои решения от решений машины. Эту проблему разделенного контроля часто упоминают в обзорах о будущем BCI, считая, что ИИ на другом конце интерфейса будет брать на себя все больше управления. Вкратце проблема сводится к вопросу: “это я так подумал(а) или машина?”. Кто тогда виноват? Нервная система умеет принимать чужое за свое, мы это видим хотя бы по иллюзии резиновой руки. Так что сам риск вовсе не иллюзорен, пусть и отнесен пока в будущее. На этом фоне декабрьская статья в Scientific Reports добавляет оптимизма: когда люди и ИИ-агенты достигают цели совместно, мозг способен отличить свои ошибки от ошибок агента, это читается по ЭЭГ (потенциалы, связанные с ошибкой, ErrPs). Данное направление исследований будет усиливаться по мере роста нашей вовлеченности в симбиоз с ИИ. Различение “Я/не Я” — одно из фундаментальных свойств живого (а иммунная система только этим…
22 45 3.4K

Обсуждение 22

Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.

Обсудить в Telegram