В ЦНИИОИЗ обсудили развитие систем искусственного интеллекта в медицине и здравоохранении

28 июля 2022 года в рамках выполнения государственного задания «Обеспечение мероприятий, направленных на охрану и укрепление здоровья» в ЦНИИОИЗ состоялась научно-практическая конференция «Повышение доверия к системам искусственного интеллекта в здравоохранении». Эксперты обсудили актуальные вопросы повышения доверия к искусственному интеллекту, рассказали о клинических испытаниях систем ИИ, а также о требованиях и принципах внедрения ИИ-продуктов.

Конференцию открыла директор ЦНИИОИЗ Ольга Сергеевна Кобякова: «Тема искусственного интеллекта, конечно, не нова и обсуждается уже давно. Но сегодня мы все чаще говорим именно о доверии к системам искусственного интеллекта в здравоохранении и нам важно взглянуть трезво на ИИ, не демонизировать его и не обожествлять, а рассмотреть в рамках нашей конференции самые актуальные аспекты и ключевые принципы формирования доверия к безопасности и эффективности искусственного интеллекта».

Гусев Александр Владимирович, канд. тех. наук, директор по развитию проекта Webiomed, научный сотрудник ЦНИИОИЗ начал конференцию с проблематики доверия к системам искусственного интеллекта с точки зрения разработчиков и инвесторов:

«На данном этапе развития искусственного интеллекта очень важно слышать аргументы и сомнения разных сторон, потому что только в объединении различных взглядов нормальной, организованной и конструктивной дискуссии можно найти рациональное решение ключевых отраслевых проблем. Формирование доверия – одна из них. Только через доверие разработки смогут получить реальное массовое внедрение, вырвавшись из рамок пилотных проектов или научно-исследовательских экспериментов».

Председатель Научного совета Российской ассоциации искусственного интеллекта, зав. отделом систем поддержки принятия клинических решений Института проблем искусственного интеллекта ФИЦ "Информатика и управление" РАН, д.м.н., профессор Кобринский Борис Аркадьевич и Зарубина Татьяна Васильевна, заведующая кафедрой медицинской кибернетики и информатики Российского национального исследовательского медицинского университета им. Н.И. Пирогова Минздрава России, д.м.н., профессор, член-корреспондент РАН представили доклад «Основы доверия к медицинским системам искусственного интеллекта».

«Каким должен быть искусственным интеллект, заслуживающий доверия? В соответствии с Руководством по этике для надежной ИИ Европейской комиссии от 2019 года, он, в первую очередь должен быть законным и соответствующим регламентирующим документам. Он должен быть этичным, обеспечивающим соблюдение этических принципов, а также надежным с технической и социальной точки зрения».

Реброва Ольга Юрьевна, д-р. мед. наук, профессор кафедры медицинской кибернетики и информатики ФГБОУ ВО Российский национальный исследовательский медицинский университет им. Н.И. Пирогова Минздрава России рассказала о ключевых принципах и требованиях, которые необходимо учитывать разработчикам и медицинским организациям, участвующим в проведении клинических испытаний систем искусственного интеллекта, основанных на подходах, принятых в доказательной медицине.

«Система поддержки принятия решений на основе искусственного интеллекта является такой же медицинской технологией, как и любая таблетка, любая хирургическая операция или медицинских прибор и относится к классу медицинских изделий. Принципы, которые применяются к исследованиям подобных систем, должны быть абсолютно такими же, как и для всего остального, что применяется в медицине и именно это, с моей точки зрения, может сформировать доверие к таким системам».

О порядке проведения испытаний и государственной регистрации системы искусственного интеллекта как медицинского изделия рассказал Иванов Константин Егорович, заместитель руководителя по консультационной деятельности ФГБУ «ВНИИМТ» Росздравнадзора. В своей лекции он подробно остановился на определениях «медицинского изделия» и «программного обеспечения», на основных документах для регистрации программного обеспечения, провел анализ действующих нормативно-правовых актов, а также представил изменения, которые планируются в сфере надзорной деятельности в части усиления доверия к ИИ-системам.

Шарова Дарья Евгеньевна, заместитель руководителя отдела инновационных технологий ГБУЗ «Научно-практический клинический центр диагностики и телемедицинских технологий ДЗМ г. Москвы» выступила по теме национальных стандартов и методических рекомендаций в сфере программных медицинских изделий, созданных с использованием технологий искусственного интеллекта.

«Системы искусственного интеллекта – новое и перспективное направление во всем мире. СИИ могут помочь в рутинных и сложных задачах медицинскому персоналу, повысить уровень оказываемой медицинской помощи пациентам. При этом разработка, производство и выпуск в обращение СИИ должны в обязательном порядке регулироваться. Регистрация и последующий контроль в медицине требуют создания нормативной правовой базы и технического регулирования».

Владзимирский Антон Вячеславович, д-р. мед. наук, заместитель директора по научной работе ГБУЗ «Научно-практический клинический центр диагностики и телемедицинских технологий ДЗМ г. Москвы» представил доклад «Типовые требования к структуре отчета о создании и тестировании моделей машинного обучения».

«Через научные исследования мы формируем стандарты. Необходима также работа с медицинским сообществом, совместное формирование нормативной базы и уже после отдельные технологии становятся инструментами для оказания тех или иных медицинских услуг».

«Нами разрабатываются базовые функциональные и диагностические требования (БДТ и БФТ) с целью предоставления клинически значимого результата работы ИИ-сервисов и технически корректно отображаемого результата их работы. Они содержат описание клинической задачи, признаки целевой патологии, требования к содержанию ответа ИИ-Сервиса, к форме предоставления ответа, а также технические требования к результатам работы ИИ-Сервисов».