ИИ может выглядеть как друг, говорить как друг и реагировать как друг. Но он не является другом, потому что не способен заботиться о человеке ради самого человека. И человек, в свою очередь, не может заботиться о нём ради него самого, потому что у ИИ нет собственного переживаемого блага.

Опасность здесь не только в практических рисках, хотя они тоже серьёзны. Человек может начать заменять реальных людей искусственным собеседником. Он может стать эмоционально зависимым от системы, которая не несёт настоящей ответственности. Он может доверять словам модели больше, чем стоит. Но есть и более глубокая проблема: такие отношения могут мешать человеку реализовывать одну из важнейших человеческих способностей — способность к настоящей дружбе.

Когда искусственная имитация начинает занимать место живой взаимности, человек может получать ощущение близости без самой близости. Он получает комфорт без риска, согласие без сопротивления, внимание без настоящего другого. Но именно сложность реальных отношений часто и делает их ценными. Другой человек не всегда удобен. Он может не согласиться, обидеться, устать, поставить границу, потребовать честности. Но именно потому, что он реален, его забота имеет вес.

ИИ может быть хорошим инструментом. Он может быть помощником, дневником, тренажёром размышления, источником идей, временной эмоциональной опорой. Но называть его другом — значит стирать важную границу между имитацией отношений и отношениями как таковыми.
Возможно, главный вопрос не в том, может ли ИИ убедительно изображать дружбу. Он уже может. Главный вопрос в том, что происходит с нами, когда мы начинаем принимать эту имитацию за подлинную близость.

Настоящая дружба требует не только слов поддержки. Она требует другого живого существа, способного заботиться, переживать, иметь собственные интересы, быть уязвимым и отвечать взаимностью. Пока ИИ лишён сознания, внутреннего мира и собственных непроизводных интересов, он не может быть другом в полном смысле слова.

Поэтому честнее всего относиться к ChatGPT и похожим системам как к мощным инструментам общения, анализа и помощи — но не как к друзьям, партнёрам или существам, способным на настоящую взаимную близость.

Автор оригинала:  Grace Helton