ИИ-системы неделями лечили несуществующую болезнь, а учёные цитировали фейк. Куда катимся?

Исследователь создал фальшивое глазное заболевание «биксониманию» и загрузил статьи о нём в открытый доступ. В текстах были благодарности «Академии Звёздного флота» и прямое указание на вымысел.

Однако ИИ-гиганты — Google Gemini, Perplexity, ChatGPT — несколько недель выдавали его за реальное: называли причину (синий свет), распространённость (1 случай на 90 тыс.) и консультировали пациентов.

Фейковое исследование даже процитировали в рецензируемом журнале. Это показывает, что люди стали слепо доверять сгенерированным ссылкам, не проверяя источник.

Тем временем FDA уже использует ИИ для проверки лекарств, а больницы планируют замену радиологов алгоритмами. Опасная тенденция: автоматизация доверия ведёт к системным ошибкам там, где цена — здоровье человека.


Нетрезвый политолог
Трезво о главном в ВК и Одноклассниках