Международный форум регуляторов медицинских изделий (IMDRF) представил техническую структуру управления полным жизненным циклом медицинских изделий с искусственным интеллектом (ИИ). Документ описывает как безопасно разрабатывать, внедрять, контролировать и выводить из эксплуатации ИИ-устройства — от первой идеи до полного отключения.
Главное:
Вывод: ИИ в медицине перестаёт быть «чёрным ящиком». Регуляторы требуют от производителей такого же строгого управления жизненным циклом, как и для обычных медицинских устройств, но с учётом рисков алгоритмов: предвзятости данных, галлюцинаций и прочих чисто ИИ-шных нюансов.
Главное:
- Полный цикл управления — документ охватывает 8 этапов: планирование, сбор данных, создание модели, валидацию, внедрение, мониторинг, оценку в реальной жизни и завершение работы устройства.
- Данные — основа безопасности — обучающие наборы должны быть репрезентативными (разный пол, возраст, этнос, техника съёмки), а их происхождение — полностью документироваться.
- Человек важнее алгоритма — клинический контроль обязателен на всех этапах, включая разметку данных и проверку результатов. Особое внимание — риску «слепого доверия» к ИИ.
- Прозрачность и маркировка — производитель обязан честно указывать для кого и для чего ИИ, на каких данных обучен, какие есть ограничения и кто несёт ответственность.
- Постоянный мониторинг после внедрения — нужно отслеживать дрейф данных и производительности, логировать входы, выходы, действия врача и версии модели.
Вывод: ИИ в медицине перестаёт быть «чёрным ящиком». Регуляторы требуют от производителей такого же строгого управления жизненным циклом, как и для обычных медицинских устройств, но с учётом рисков алгоритмов: предвзятости данных, галлюцинаций и прочих чисто ИИ-шных нюансов.
