AI или не AI?

С 2022 года кавычки-ёлочки, длинные тире и «правило трёх» — не просто хорошая редактура, а улики против ИИ-текста. Люди хотят знать, читают они какую-то ерунду, которую нейросеть нагенерила, или Качественные Человеческие Мысли. На мой вкус, это желание сродни узнать, калькулятором 37x42=1554(*) получено или в уме вычислено, но людям не прикажешь. Спрос есть.

Интуитивно кажется, что спрос этот должен удовлетворяться запросом к тому же самому AI. Скажи мне, чатик, кто это написал, человек или бот? И, в принципе, в простых случаях ChatGPT справляется. Проверил кавычки, оценил драматургию, прикинул, похожи ли ошибки на намеренные или на натуральные опечатки – и вынес вердикт.

Но – война щита и меча. На той стороне тоже можно повозиться: елочки зачистить, “не X, но Y” убрать, драматургию подпортить, ошибки расставить по правильному списку. Обычный чатик признает текст настоящим. Американский #стартапдня Pangram обещает поймать ИИ и в этом случае. Он обучил на поиск нейрослопа отдельную нейросеть, и ищет не несколько общеизвестных признаков, а какую-то внутреннюю суть, определяемую миллионами параметров. Причины словами объяснить невозможно, но вот эта фраза – точно ИИ, а эта – точно человек.

Платят за сервис в основном университеты, им студентов как-то проверять надо. Качество продукта рекламируется как очень хорошее. Есть более-менее независимые отчеты, подтверждающие точность порядка 99%. Впрочем, мое непрофессиональное тестирование показало результат гораздо хуже. Уже на третьем тестовом примере Pangram уверенно поделил чистый AI-текст на куски, один из которых якобы человек писал.

https://www.pangram.com/

(*) я посчитал в уме, а потом проверил.

#seed #сша #ai #технология