Эксперты предостерегают о конфиденциальности и надёжности ИИ-инструментов в здравоохранении

Растущее число американцев обращаются к платформам искусственного интеллекта за информацией о здоровье, и недавний опрос KFF показал, что одна треть из них консультировалась с ИИ по медицинским вопросам. OpenAI недавно расширила функции здоровья в ChatGPT, позволив пользователям загружать медицинские записи и данные с носимых устройств, чтобы получать персонализированные рекомендации, например, советы по диете при низком уровне железа.

Хотя многие респонденты выразили опасения по поводу конфиденциальности, 41 % из тех, кто задавал вопросы о здоровье, загрузили личные данные. Компании, включая OpenAI, Anthropic, Microsoft и Perplexity, утверждают, что разговоры зашифрованы, данные пользователей не используются для обучения моделей и записи могут быть удалены в течение 30 дней. Др. Боб Вахтер, глава кафедры медицины UCSF, сказал, что доверяет этим обещаниям, потому что у фирм есть сильный деловой интерес в защите данных, но признал, что риск не равен нулю.

Другие эксперты остаются скептичными. Биоэтик Др. Арт Каплан предупредил, что без всестороннего федерального закона о конфиденциальности медицинские данные могут быть уязвимы к утечкам или вторичному использованию, ссылаясь на утечку 23andMe в 2023 году как пример. Нефролог Др. Гириш Надкарни призвал пользователей проверять выводы ИИ перед тем, как полагаться на них, и добиваться независимого подтверждения того, что данные пациентов не используются для обучения моделей.

Проблемы точности также сохраняются. Исследования, опубликованные в JAMA Oncology и Nature Medicine, показали, что ранние версии ИИ давали неподходящие или умаляющие рекомендации по лечению рака, приступам астмы и диабетическому кетоацидозу, иногда не советуя обращаться в неотложную помощь. OpenAI ответила, что новые модели улучшились, но исследователи отметили, что более длительные взаимодействия не всегда повышали эффективность.

Стороны отрасли утверждают, что ИИ может дополнять, а не заменять, врачей. Старший вице-президент по исследованиям и разработкам Epic Гарретт Адамс описал их Emmie AI как расширение команды ухода, переводящее записи в простой язык и перенаправляющее сложные запросы к человеческим специалистам.

Чтобы использовать ИИ ответственно, специалисты рекомендуют ограничивать срок совместного использования данных, формулировать вопросы без эмоционального окраса, начинать новые беседы для каждого запроса и постоянно требовать доказательства или разъяснения. В конечном итоге они подчёркивают, что пользователи должны полагаться на собственное суждение и обращаться за профессиональной медицинской помощью при возникновении острых симптомов.