Майкл Грациано, профессор неврологии и психологии из Принстона, в небольшом эссе для Wall Street Journal утверждает: «Как бы парадоксально это ни звучало, для создания доброкачественного ИИ может потребоваться сделать его более сознательным, а не менее».

Как считает Грациано, мы должны добиваться появления у ИИ сознания, тогда он будет видеть сознание в нас, и это сделает его более эмпатичным.

«Без сознания мы обязательно были бы социопатами, потому что у нас не было бы инструментов для просоциального поведения. А без представления о том, что такое сознание, или понимания того, что оно есть у других существ, машины — социопаты [...] Социопатическая машина, которая может принимать последовательные решения, была бы очень опасной».

На мой взгляд, идея довольно легкомысленная, особенно для известного ученого, изучающего сознание, коим является Грациано. Его предложение “решает” одну проблему (отношение ИИ к людям), но порождает другую (отношение людей к ИИ). Ведь наличие сознания у робота или цифрового агента меняет их моральный статус, и уже мы должны будем проявлять просоциальность в их сторону, со всеми вытекающими. Либо признать рабовладение.

Он никак не затрагивает этот момент в своем тексте.