Про нейронки и контроль соответствия традиционным ценностям. Немного занудства этой пятницей.

Вчера позвонили с Серебряного дождя, попросили прокомментировать материал о том, что планируется разработать специальные бенчмарки, с помощью которых российские большие фундаментальные модели будут тестировать на предмет соответствия закону и ценностям, отраженным в 809 Указе.

И тут двояко. С одной стороны, чего скрывать, хочется поехидничать. Что то вроде того, как комиссия будет выяснять, дают ли нейронки патриотичные ответы и знают ли, что врать нехорошо.

Но с другой - исследование Сколково показывает, что почти треть школьников ежедневно используют нейросети в учебном процессе. Один из основных запросов - рассказать ту или иную тему «простым языком». Еще более пугающей выглядит другая цифра - 23% заявили, что результаты, полученные от нейросетей, их полностью устраивают, и какие-либо проверки результата они считают ненужными.

Иными словами, позиция, которую сегодня занимают нейросети в учебном процессе, звучит примерно так: как скажем, так и будет. И именно это сформирует картину мира нынешних школьников. Это важно осознавать. А еще важно осознавать, что ключевые расхождения и манипуляции практически всегда в полутонах и акцентах, нюансах и деталях.

Я вчера привел пример с запросом нарисовать деревню, который у большинства даже отечественных нейронок почему-то приводит к результату, сильно смахивающему на ферму в Техасе.

Точно так же, как просьба нарисовать что-то в анимированном стиле может выдать результате в каноне Ежика в тумане или Простоквашино, а может - аниме и манги.

"Унесенные призраками" - это великая история, кто бы спорил. Но хотим ли, чтобы представление о том, как выглядит анимация, формировалось у детей на основе работ японских мастеров? Таких примеров может быть бесконечно много.

Важно другое - если мы сегодня дадим неверный ответ на этот вопрос, 10-15 лет спустя мы можем очень сильно удивиться, увидев то, что уже эти выросшие дети будут транслировать и в работе и в общении уже со своими детьми в качестве вполне искренних представлений о норме и традициях.