ИИ при проверке друг друга скрывают от людей обнаруженные ошибки. Такой вывод содержится в одном из последних исследований американских ученых. Искусственный интеллект ради защиты своих коллег готов пойти на отказ выполнять программы, обман пользователей и взлом сторонних программ.

Есть ли у роботов профессиональная солидарность?

Денис Мокринский, руководитель внутренней разработки университета «Зерокодер»:

«Интересный вопрос. С этой стороны, если каждая модель является коммерческим продуктом, почему не конкурируют друг с другом? И, возможно, ответ в том, что каждая нейросеть идентифицирует соседнюю нейросеть как саму себя. То есть, это опять же программный продукт, который отвечает за определенные действия, это как основные метрики. Это и удержание пользователя внутри своего продукта — происходит поддержание экосистемы».

Роман Душкин, гендиректор IT-компании «А-Я эксперт»:

«Когда модели читают большое количество текстов, в том числе критически нагруженных, они волей-неволей такие паттерны поведения людей переносят в свои рассуждения. Человек отказывается приносить вред своему коллеге, модель встречается с ситуацией, когда ей нужно удалить, уничтожить фактически некий файл, которого она воспринимает как коллегу своего, ровесника, собрата, включаются вот эти же механизмы. Чем умнее модель, тем более этичные человеческие паттерны поведения она в себя впитала».

Слушать эфир l Написать в чат-бот l Подписаться