Ученые предложили пятиэтапную систему проверки медицинского ИИ перед внедрением в клиники

Пока это концептуальная модель, а не действующий стандарт — но именно из таких схем впоследствии вырастают обязательные регламенты. Пациенту полезно разобраться в логике проверок уже сейчас, чтобы задавать клинике правильные вопросы до того, как алгоритм коснётся его снимков или анализов.

Пять ступеней проверки

1. Техническая валидация на независимых данных нескольких медицинских центров. До тестирования фиксируются версия модели, её параметры и пороговые значения. Дополнительная настройка по итогам проверки не допускается: изменённый алгоритм рассматривается как новая версия и проходит проверку заново.

2. «Теневое» испытание в реальной больничной инфраструктуре. ИИ получает настоящие клинические данные и формирует результаты, но врач при принятии решений их не использует. На этом этапе замеряют стабильность, задержки, частоту сбоев, нагрузку и устойчивость к изменениям в поступающих данных — без какого-либо риска для пациента.

3. Оценка взаимодействия врача и ИИ. Сначала сравнивают самостоятельную работу алгоритма с точностью специалистов разного уровня, затем смотрят, как помощь ИИ меняет точность, скорость и уверенность врача. Отдельно оценивают автоматизационное смещение — ситуацию, когда специалист чрезмерно доверяет алгоритму и меняет изначально верное решение.

4. Проспективные рандомизированные исследования. Здесь проверяют уже не точность модели, а реальную клиническую пользу: точность диагностики, скорость работы, число ненужных вмешательств, осложнения, повторные госпитализации, длительность пребывания в стационаре. Параллельно считают экономическую эффективность для системы здравоохранения.

5. Пострегистрационный мониторинг. После внедрения отслеживают долгосрочную эффективность и безопасность, дрейф данных и снижение точности со временем. При серьёзных отклонениях предусмотрены возврат к предыдущим этапам, локальная перенастройка, откат к ранее проверенной версии или временная приостановка использования системы.

Схема не строго линейна: обновление алгоритма, ухудшение его показателей или сигналы безопасности могут потребовать возврата на более раннюю стадию оценки. Всего авторы систематизировали восемь методологических подходов и 18 вариантов исследований.

Что это меняет для пациента

Авторы подчёркивают: предложенная система — концептуальная методологическая модель, а не клинически подтверждённый стандарт. Обязательных требований к проверке медицинского ИИ она пока не вводит. Это значит, что сервисы вроде платформы «МосМедИИ», масштабированной на медицинские организации 75 регионов для анализа КТ, МРТ и рентгенограмм, формально могли пройти или не пройти эти ступени — пациенту об этом никто не отчитывается.

Практический вывод один: если клиника использует ИИ при вашем обследовании, уместно задать три вопроса до подписания информированного согласия.

• На каких данных и в каких центрах алгоритм проходил валидацию.
• Проводились ли проспективные исследования с реальными клиническими исходами или проверка ограничилась ретроспективным анализом.
• Какая процедура отката и мониторинга действует, если модель начнёт ошибаться на новых данных.

Отсутствие внятных ответов — не приговор конкретной клинике, но повод уточнить, на что именно опирается врач, когда доверяет заключение алгоритму.

Что отслеживать дальше

До тех пор пока пятиэтапная схема остаётся добровольной, единственный рабочий рычаг у пациента — информированное согласие и договор на оказание медицинских услуг. В них имеет смысл прямо фиксировать, что диагностическое заключение формируется врачом, а ИИ применяется лишь как вспомогательный инструмент. Эта формулировка снимает вопрос автоматизационного смещения и распределения ответственности между клиникой, врачом и разработчиком алгоритма. Когда концептуальная модель превратится в обязательный регламент, пациент с такой записью на руках уже будет защищён по факту.