Про галлюцинации ИИ, штрафы и ответственное использование

У нас в Санкт-Петербурге каждое лето повторяется одна и та же история. Какой-нибудь пьяный водитель разгоняется под сотню, вылетает на Т-образный перекресток, пробивает ограждение набережной - и улетает в канал или в Неву. Это явление стабильно, как белые ночи.

И в этой ситуации всем очевидно: неблагоприятные последствия и ответственность наступают не за сам факт управления автомобилем, а за нарушение правил дорожного движения.

Пьяный водитель за рулем, превышение скорости, игнорирование знаков - вот за это. А автомобиль здесь просто инструмент - бездушный механизм, который целиком и полностью зависит от того, кто им управляет.

Это понятно, но при чем здесь нейросети?

При том, что при обсуждении нейросетей в юридической практике эта простая логика почему-то ломается.

Вместо того чтобы спрашивать с «водителя», виноватым делают сам инструмент.

В последние две недели в юридической среде активно обсуждали историю со штрафом в 50 000 рублей за выдуманную судебную практику в кассационной жалобе.

И меня сильно удивила не сама новость, а то, как эту историю подали в заголовках к статьям и постам. Писали об этом не только юридические телеграм-каналы, но и известные издания.

Кратко о ситуации для тех, кто не в курсе:

• Арбитражный суд Западно-Сибирского округа рассматривал кассационную жалобу.
• В кассационной жалобе были приведены ссылки на несуществующие акты ВС РФ, ВАС РФ и судов сразу трех округов. Более того, текст содержал полностью выдуманные цитаты из этих актов.
• При проверке судом вскрылась полная недостоверность указанной в жалобе судебной практики.
• Из текста определения следует, что представитель общества указал на использование ИИ при подготовке жалобы.
• Суд расценил включение несуществующей судебной практики как грубейшее неуважение к правосудию и оштрафовал компанию на 50 000 рублей.
• Само определение здесь.

Реакция на новость

Дальше СМИ и юридические телеграм-каналы начали соревноваться в изощренности подачи этой информации, в погоне за кликами, просмотрами, комментариями.

Понеслись кликбейтные заголовки:
Прецедент создан. Российский суд наказал юристов за использование ИИ на процессе
Впервые в России суд оштрафовал юристов за использование ИИ на процессе
Юрист оштрафован за использование ИИ

По чатам тут же полетели комментарии коллег:
Доигрались со своим ИИ
Я же предупреждал, что ничем хорошим это не закончится
Естественный интеллект надо использовать
ИИ ведет к выученной беспомощности
Запретил у себя в конторе использовать ИИ

И для многих эта новость стала железобетонным, «законным» оправданием, чтобы и дальше игнорировать технологии и не разбираться в теме нейросетей.

Действительно, зачем что-то изучать, если за "этот ваш ИИ уже штрафуют"? И знаете, к читателям, которые пока далеки от нейросетей, претензий быть не может. Они видят такие заголовки и закономерно им верят.

А вот подача этой новости во многих ресурсах оставила странное ощущение: историю про профессиональную ответственность свели к удобной, но неверной формуле «оштрафовали за использование ИИ».

Но если открыть само определение суда, картина получается совсем другой.

Теперь разберем, что там написано на самом деле 👇