Более 40% австралийских врачей сейчас используют ИИ-помощников для ведения медицинских записей, выяснила местная независимая организация по защите цифровых прав граждан. ИИ-помощники прослушивают консультации, передавая услышанное в большие языковые модели — подобные ChatGPT или Claude — для создания медицинских заметок.

Считается, что для врачей - это благо. ИИ- помощники освобождают их от бумажной работы. Однако, ИИ-помощники часто не просто переписывают текст. Они обобщают и интерпретируют разговоры, основываясь на том, что, по мнению ИИ, мог бы сказать врач..

При этом ИИ часто галлюцинируют, уверенно утверждая то, чего никогда не было. Поэтому врач, советующий пациенту бросить курить, может обнаружить, что ИИ записал, что пациенту было рекомендовано избегать пожаров в доме.

Ещё одной проблемой является язык. Тех, для кого английский является вторым языком, интерпретация речи ИИ может приводить к медицинским записям, которые сильно расходятся с реальностью.

Ещё первые исследования утверждали, что до 90% записей, сгенерированных ИИ, нуждаются в исправлении. Более поздний анализ показал, что примерно 20% клинических записей ИИ содержат ошибки, достаточно существенные, чтобы повлиять на диагноз пациента.

Выявлять эти ошибки сложно для врачей. Существует предвзятость в отношении ИИ, которая заставляет людей принимать результаты работы ИИ без проверки. Но неспособность исправить эти ошибки наносит вред как пациентам, так и любому последующему врачу, полагающемуся на эти записи.

Однако если врачам придется тщательно проверять каждую запись на предмет потенциальных ошибок, связанных с ИИ, обещанное повышение производительности, скорее всего, исчезнет. В противном случае система здравоохранения будет переполнена недостоверными данными.

Эти связанные с использованием ИИ проблемы касаются не только австралийских врачей. Они такие же в любой точке мира, в том числе в Москве, где ИИ внедряют в медицину такими темпами, как будто живут последний день. Полюбоваться на плоды московской цифровизации здравоохранения каждый может в своей электронной карте. Граждане её по лени и безграмотности, как правило, не читают. А зря. Там можно узнать о себе массу интересного, не имеющего никакого отношения к действительности.

Всё это происходит еще на фоне полной непрозрачности обработки персональных данных. Всё, что о них знают пациенты, - это то, что они остаются в стране. И на том спасибо