Если машина взаимодействует с человеком, она должна понимать особенности этого взаимодействия, так же, как мы понимаем этапы воспитания ребенка. Нужно учить систему не только отличать правду от лжи, но и понимать, что полезно человеку, а что способно причинить ему вред.

Нам нужны бенчмарки. Это набор данных, на котором можно протестировать, насколько правильно языковая модель себя ведет в той или иной ситуации, коммуникативной ситуации языкового употребления. Для этого нужны специалисты, в основном в гуманитарных профессий, которые скажут, этично или неэтично то или иное высказывание, тот или иной диалог. И надо собрать много таких примеров, что этично, а что не этично, и на этих примерах построить тесты. А тестов таких нужны не десятки, не сотни, а тысячи. На основе чего появятся процедуры сертификации, когда не пройдя эти тесты, модель не может быть выпущена для использования людьми.

Мы должны все-таки разграничивать понятия: ИИ — это технология, это очень умный Т9, который умеет подбирать ответы. Это не равноправный участник диалога, не человек. Только при таком раскладе мы можем вернуться к разговору об этике: как мы можем выстраивать взаимодействие человека и системы. Важна коммуникация между людьми в первую очередь. Человеку нужен человек.

Нам нужно определить место для искусственного интеллекта, чтобы он не заменил человека, не оказался на месте человека. Мы можем взять совершенно разные части нашего общества, по разным признакам — пенсионеры, врачи, христиане и спросить, что они думают о вопросах использования ИИ с точки зрения этики. Собирая все это, мы сможем формировать какой-то свой этический комплекс, который будет для нас самих работающим и полезным.

И как раз наша задача, задача разработчиков систем искусственного интеллекта, разработчиков информационных технологий создавать соответствующие процедуры контроля, чтобы этика человеческая и там применялась. Потому что инструмент, будучи инструментом, не должен нарушать те конструкции, которые создавал человек.

На сегодняшний день наша задача — это сохранить идентичность человека и, наверное, дать понимание следующим поколениям, что человеческий разум создан отцом, и человек при помощи искусственного разума никогда не сможет скопировать и создать что-то подобное разуму человеческому.