ИИ-детектор вынес приговор: «виновен»

Проблемы с проверкой студенческих работ на ИИ-контент возникают не только в России, как нам могло казаться.

В США родители школьника из Palo Alto подали иск против школы после того, как его эссе по пьесе Артура Миллера «Суровое испытание» проверили через Turnitin. Детектор показал, что текст якобы на 76% сгенерирован ИИ, после чего ученику снизили оценку и внесли пометку об академической нечестности. При этом семья утверждает, что предоставляла черновики, историю правок Google Docs и большой пакет доказательств авторства.

Ирония литературная: «Суровое испытание» — пьеса о том, как общество разрушает судьбы людей на основе ненадёжных свидетельств.

Похожая дискуссия сейчас идёт и в России. Студенты жалуются, что антиплагиат-сервисы принимают самостоятельно написанные дипломы и курсовые за тексты, созданные нейросетью, из-за чего работы приходится переписывать, упрощать стиль или заново проходить проверку. На фоне этих жалоб в ЛДПР предложили проверить систему «Антиплагиат.ВУЗ».

Важно: проблема не в самой проверке, а в том, что результат ИИ-детектора в некоторых вузах начинают воспринимать как приговор, на основании которого студентов могут не допустить к защите.

Даже Turnitin в своём разборе пишет, что false positive rate на уровне документа составляет менее 1% для работ, где ИИ-контента больше 20%, но на уровне отдельных предложений может быть около 4%. Сам сервис рекомендует использовать такие результаты как повод для обсуждения со студентом, а не как финальное доказательство нарушения.

Кажется, мы входим в эпоху, где студенту нужно будет доказывать не только качество текста, но и процесс его создания: черновики, историю правок, логику аргументации, промежуточные версии, комментарии к источникам.

И это снова возвращает нас к главному вопросу: если ИИ уже влияет на то, как мы пишем, говорим и даже звучим, то как вообще доказать, что текст «достаточно человеческий»?


Колаборатория в MAX
#colab_образование #colab_научрук