Искусственный интеллект (ИИ) в медицине

Рассмотрим, как избежать рисков, которые могут возникать у разработчиков софта, производителей медицинских изделий и врачей, если речь идет о решениях с применением искусственного интеллекта

Во-первых, искусственный интеллект помогает в анализе изображений, полученных с медицинских изделий. Речь идет, в первую очередь, о рентген-аппаратах, компьютерных томографах и магнитно-резонансных томографах. Так, нейросети, заранее натренированные на медицинских изображениях, могут заметить признаки заболевания на снимках, разметить зоны возможного поражения и сформировать для врача их текстовое описание.
Во-вторых, искусственный интеллект позволяет быстро анализировать большой объем данных о пациенте, например, историю болезни, результаты ранее проведенных исследований и заключения врачей, которые ранее осматривали больного. На основании полученных данных нейросеть может предложить врачу общие краткие выводы о состоянии здоровья пациента. Кроме того, такие программы могут составить перечень дополнительных обследований, которые требуются пациенту, и список врачей, которых он должен посетить. Наконец, программа с ИИ может помочь в постановке диагноза, предоставив врачу несколько вариантов на выбор

Это - самые основные способы применения ИИ в медицине. Можно привести примеры нескольких платформ в этих сферах:

При этом, если вернуться в российские реалии, то у нас программное обеспечение будет считаться медицинским изделием, если соблюдаются определенные критерии. Эти критерии Росздравнадзор впервые утвердил в 2015 году и затем обновил в 2020 году. Сейчас применяется актуальное письмо Росздравндазора от 13 февраля 2020 года. Если программа соответствует критериям, утвержденным Росздравнадзором, то ее нужно регистрировать как медицинское изделие

Итак, согласно письму Росздравнадзора от 13.02.2020 № 02И-297/20 выделяются следующие критерии для признания программы медицинским изделием:

Роскомнадзор приводит примеры программ, которые не являются медицинскими изделиями: это медицинские информационные системы, телемедицинские сервисы, приложения для популяризации здорового образа жизни или для поиска врача

В первую очередь нужно определить степень потенциального риска медицинского изделия. Это - классы от 1 (низкая степень риска) до 3 (высокая степень риска). Можно остановиться на них подробнее - так, например, напоминания о приеме лекарств - это низкий риск, автоматический анализ электрокардиограммы - средний, а управление медицинским роботом - высокий. 
И есть еще одна особенность - программы с использованием ИИ автоматически относятся к 3 классу риска, то есть несут высокий риск

После определения класса риска проводится набор испытаний. Это - технические и клинические испытания программы. На практике они требуют от 2 месяцев до полугода. Результаты испытаний оформляются документально. Затем готовится и направляется в Росздравнадзор заявление о регистрации медицинского изделия с приложением нормативной и технической документации на программы, а также скриншотов интерфейса. Все это формирует регистрационное досье

Росздравнадзор, совместно с экспертным учреждением, проводит экспертизу качества, эффективности и безопасности программы как медицинского изделия. По итогам такой экспертизы выдается регистрационное удостоверение на медицинское изделие

В систему при этом нужно вносить данные медицинских организаций, где применяется такая технология. 
Но есть две особенности. Первая – приказ действовал до конца 2025 года. Вторая – эти требования адресованы только тем производителям, которые внедрили в свое изделие автоматическую передачу данных в Росздравнадзор. То есть вроде бы срок действия приказа истек, и сама передача данных была добровольной. Однако нужно быть готовым к тому, что требования распространят на всех производителей таких медицинских изделий. И уже готов проект приказа (который сейчас проходит общественное обсуждение) о возврате такой добровольной сдачи данных до конца 2027 года.
На данный момент в реестре медицинских изделий с искусственным интеллектом, который ведет Росздравнадзор, уже 53 позиции, в начале 2024 года их было вдвое меньше

И вот здесь как раз возникает вопрос - если произошел сбой в ИИ-системе, то кто отвечает перед пациентом - клиника или разработчик такого искусственного интеллекта. С учетом статьи 98 ФЗ «Об основах охраны здоровья граждан в Российской Федерации», отвечать будет в первую очередь клиника. А она уже, в свою очередь, может предъявить требования к разработчику медицинского софта. Врач при этом будет нести уголовную ответственность, если он использовал программу, которая не зарегистрирована как медицинское изделие, или если не следовал инструкции по эксплуатации. Если программа все же была зарегистрирована как медицинское изделие, а врач соблюдал инструкции, то в его действиях нет вины (в форме умысла или неосторожности) и он не будет привлечен к уголовной ответственности. При этом врач должен следовать порядкам и стандартам оказания медицинской помощи, утвержденным Минздравом, а также клиническим рекомендациям. Если врач недообследовал пациента и положился на ИИ, то он все же будет привлечен к уголовной ответственности

Второе дело новее – 2018 года (Skounakis v. Sotillo). В чем была суть: пациенту назначили комбинацию лекарств, которая создавала угрозу причинения вреда здоровью. А рекомендация была сделана врачом по совету программы, предназначенной как раз для таких действий. Здесь истцам удалось доказать, что врач должен был самостоятельно оценивать историю болезни, а не следовать рекомендации программы. Финальное решение не опубликовано, скорее всего, вопрос решен мировым соглашением

Третье дело – совсем новое, 2023 года (Sampson v. HeartWise Health Systems Corporation) – в этом деле истцы тоже обратились к разработчику софта, но с противоположным эффектом. Речь шла о программе для скрининга состояния сердца. Врачи ввели данные о пациенте в программу, а программа сделала вывод, что он здоров. Хотя по факту у него была очень плохая наследственность – в семье многие имели сердечные заболевания. А пациент умер через несколько недель после обследования. В этом случае суд занял сторону разработчика из-за лицензионного соглашения между ним и клиникой – из него следовало, что именно врачи клиники имеют право принимать решения, а программа – исключительно вспомогательный инструмент. Соответственно, это создало потенциал для обращения с иском к клинике, но освободило разработчика от ответственности

В результате мы построили всю документацию сервиса именно на этом условии - что пациент сам вводит свои данные, и что инструмент ни в коем случае не предназначен для использования врачами. 
При этом использовался дисклеймер, в частности указывалось, что рекомендации сервиса имеют строго информационный характер и не могут приниматься в качестве медицинского заключения, а сервис не предназначен для оказания медицинской помощи или постановки диагноза. И в завершение – что администратор сервиса не является медицинской организацией и не оказывает медицинские услуги.
В итоге – ни одной жалобы пациента, никакого внимания со стороны надзорных органов

Если риск - приемлемый, то разработчики системы должны раскрывать подробную информацию о том, как она работает. Программы медицинского характера отнесены к категории «высокого риска», и их разработчики должны соблюдать ряд требований: