Почему AI-скрайбы в медицине ошибаются в диагнозах и названиях лекарств

AI-скрайбы на приёме: ошибки, которые заметил не врач

Healthwatch England — структура, защищающая права пациентов NHS, — предупреждает: AI-инструменты, транскрибирующие консультации врачей, искажают названия лекарств и диагнозы. По данным The Guardian, ошибки во всех задокументированных случаях выявили сами пациенты, а не обслуживающий персонал. Для любого, кто выбирает клинику или оценивает качество медицинского сервиса, это сигнал перепроверять каждый документ, даже если его подготовил «умный» алгоритм.

Какие ошибки зафиксированы

1. Ложный диагноз. Пациентке — сотруднику NHS — AI-скрайб приписал диагноз «демиелинизация» (поражение нервных волокон, ассоциированное с риском рассеянного склероза). В действительности результат МРТ содержал формулировку «null demyelination» — то есть отсутствие демиелинизации. Ошибку исправили только после того, как она сама запросила расшифровку результатов. Пациентка описала ситуацию как «очень травматичный опыт» — получить некорректный диагноз из-за AI, а затем услышать, что это «опечатка».

2. Перепутанное лекарство. AI-скрайб заменил назначенный врачом препарат на средство с похожим названием. Ошибку снова обнаружил пациент, а не терапевт, подписавший назначение.

3. Пропущенное назначение. В AI-резюме консультации не зафиксировано, что консультант поручил пациенту получить у терапевта рецепт на повторный курс от мигрени. Без этой записи пациент мог бы остаться без препарата.

Healthwatch получила множественные обращения от людей, заметивших неточности, которые медицинский работник пропустил. Если пациент не перехватит ошибку, она останется в медицинской карте и повлияет на последующее лечение — маршрутизацию, дозировки, повторные назначения.

Почему ответственность за результат — на пациенте

В Англии врачи общей практики и стационарные специалисты уже используют 27 различных AI-скрайбов. Правительственный десятилетний план NHS предполагает, что эти инструменты «освободят персонал от бюрократии и позволят сосредоточиться на пациенте». Однако Агентство по регулированию лекарственных средств и изделий медицинского назначения (MHRA) приняло решение не классифицировать AI-скрайбы как медицинские устройства. Это означает: централизованного надзора за их безопасностью и точностью в Англии нет.

При этом в правительстве предупреждали: NHS и конкретные врачи могут быть привлечены к ответственности за ошибки AI. Но на практике юридическая ответственность за неточности, сгенерированные алгоритмом, пока размыта. По словам представителя Patients Association, доверие к технологии зависит от «настоящего партнёрства с пациентом, которого на данный момент нет».

Чек-лист для пациента

Перед тем как подписать согласие на обработку данных или дать разрешение на запись консультации, уточните:

1. Использует ли клиника AI для документирования приёмов. Если да — запросите информацию, какой именно инструмент задействован, сертифицирован ли он и кто несёт ответственность за корректность записей.

2. Получаете ли вы копию AI-резюме визита. Документ должен быть вам предоставлен до того, как он попадёт в основную медицинскую карту.

3. Проверяете ли вы названия препаратов и формулировки диагнозов. Сверяйте записи с тем, что вы слышали на приёме. Ошибка в названии лекарства — это прямой риск неправильного назначения.

4. Есть ли у вас механизм корректировки. Если вы обнаружили неточность, подайте письменное заявление на исправление записи. Устная договорённость с врачом не гарантирует, что ошибка не всплывёт при следующем обращении.

Клиника, которая серьёзно относится к стандартам качества, не станет скрывать факт использования AI-инструментов и предоставит прозрачный алгоритм исправления ошибок. Если такого алгоритма нет — это самостоятельный повод задуматься о выборе провайдера.