Люди массово загружают свои медицинские записи в чат-боты

Об этом заявил доцент Гарвардской медицинской школы Даниэль Биттерман отметив, что не стоит полагать, что чат-бот персонализирует анализ результатов тестов.

Исследования показывают, что чат-боты могут склоняться к предложению более общих ответов, даже если им предоставлен контекст для конкретных пациентов.

Проблема в подробностях:

Чат-боты подогревают мнительность пациентов: например, врач согласился назначить МРТ для проверки по советам чат-бота для пациентки, но они оказались ошибочными и ничего не выявили.

Однако есть и ситуации, когда чат-боты оказываются правы: бот был уверен в закупорке сердца пациента, в то время как доктор рекомендовал наблюдение. Пациент настоял на инвазивной процедуре и спасся.

Естественно, что OpenAI заявила об использовании комплексных мер для защиты личной информации своих пользователей, но мы знаем, что это прохладная история.

Также одна из проблем заключается в том, что многие люди не отказываются от предоставления своих данных для обучения.

Это создаёт вероятность того, что если один человек загрузит медицинские данные, а кто-то другой спросит будущую модель об этом человеке, чат-бот может случайно раскрыть очень конфиденциальную информацию.

Какие-то пациенты настороженно относятся к потенциальным утечкам, боясь мошенничества, другие считают, что важность медицинских данных переоценена. Для некоторых пациентов, утративших веру во врачей чат-боты становятся единственной надеждой.

Медкарта