Исследователь проверил ИИ на вшивость, создав фальшивую болезнь «биксониманию»

Статьи о несуществующем глазном заболевании с благодарностями «Академии Звёздного флота» и финансированием от героя «Симпсонов» были загружены в открытый доступ. В тексте прямо указано, что это вымысел.

Однако крупные ИИ-системы, включая Google Gemini и ChatGPT, несколько недель выдавали его за реальное: называли причину (синий свет) и распространённость — один случай на 90 тысяч человек.

Фальшивку даже процитировал рецензируемый журнал, отозвавший публикацию только после вмешательства Nature.

Эксперимент показал, что как алгоритмы, так и живые исследователи зачастую не проверяют источники, доверяя сгенерированным ссылкам. Это вызывает серьёзные вопросы на фоне планов по внедрению ИИ в медицину для диагностики и консультаций пациентов.


ЕРШ
Колем факты. ВК ОК