Выделил эту статью из дайджеста, уж большо хороший пример рассматривается в ее тексте и довольно важный вопрос поднимается автором статьи - мы вообще отдаем себе отчет в том, что работая с LLM вообще нет гарантии получить гарантированно верный ответ?

Как я писал ранее, LLM делает не "логический вывод" из знаний и понимания предметной области, а "статистический вывод" просто генерируя наиболее вероятностную последовательность слов которую мы уже воспринимаем как связанный диалог.

И автор статьи тут это очень наглядно и понятно продемонстрировал, задав изначально некорректный вопрос и получив в ответ прекрасную галлюционацию "как заказывали".

Ведь сейчас мы все больше осваиваем LLM и все чаще используем ее в работе и жизни, доверяя не только написание выжимок из статей, но и получая от нее медицинские советы и трактовку анализов.

Граждане, будьте бдительны!

https://habr.com/ru/articles/953478/