Разработка национального стандарта
Некорректная работа интеллектуальных систем может привести к человеческим жертвам и экономическому ущербу, поэтому на повестке дня разработка критериев, которые позволят гарантировать безопасность применения систем ИИ и подтверждать их эффективность в реальных условиях эксплуатации. В особенности это касается систем ИИ в системе здравоохранения и клинической медицине.
В России работой над проектами документов по стандартизации использования ИИ в области здравоохранения занимается профильный подкомитет ПК 1 «Искусственный интеллект в здравоохранении» Технического комитета по стандартизации ТК 164 «Искусственный интеллект». Внесение соответствующих изменений в структуру технического комитета утверждено приказом Росстандарта.
Работа над стандартами ИИ в области здравоохранения идет по нескольким направлениям:
- методология проведения клинических испытаний,
- программыи методы технических испытаний,
- менеджмент риска к дообучаемым программам,
- протокол изменения алгоритмов искусственного интеллекта.
Также появятся стандарты, регламентирующие требования к структуре и порядку применения набора данных для обучения и тестирования машинных алгоритмов. Первыередакции 6 нацстандартов были подготовлены в 2020 г.
«Национальные стандарты Российской Федерации будут регулировать ключевые аспекты применения искусственного интеллекта в области здравоохранения и его роли в принятии врачебных решений. Без единых нормативных технических норм, одобренных профессиональным сообществом, практическое внедрение ИИ в сфере здравоохранения невозможно. Подчеркну, что основной акцент в нашей работе будет сделан на практическом здравоохранении», — сообщил Виктор Гомболевский, к.м.н., ведущий научный сотрудник Института искусственного интеллекта AIRI
В августе 2020 г. экспертами подкомитета ПК01/ТК164 «Искусственный интеллект в здравоохранении», входящим в состав Технического комитета ТК 164 «Искусственный интеллект», разработан проект первого национального стандарта ГОСТ Р, регулирующего проведение клинических испытаний меди-
цинских систем ИИ в нашей стране. Проект первой редакции ГОСТ Р опубликован на сайте Росстандарта. Разработка первой редакции проекта национального стандарта «Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания» велась на протяжении пяти месяцев экспертами профильного подкомитета экспертов ТК 164 «Искусственный интеллект в здравоохранении» — ведущими специалистами Росздравнадзора, ФГБУ «ВНИИИМТ» Росздравнадзора, Фонда «Сколково», ООО «Нейромед», ООО «Медицина и телесистемы», ООО «С.К.А.Т», ФГБУ «НМИЦ онкологии им. Н. Н. Петрова» Минздрава России, ООО «Медицинаобомне», Финансового универси-
тета при Правительстве РФ, МФТИ, ЦНИИОЗ, ГБУ «НИИОЗММ ДЗМ», НПО «Национальное телемедицинское агентство», СамГМУ и других организаций.
ГОСТ Р «Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания» будет регулировать методологическую основу процесса клинических испытаний: порядок их проведения, показатели точности, порядок аудита и контроля качества медицинских интеллектуальных систем. В ходе публичного обсуждения до октября 2020 г. заинтересованными сторонами вносились замечания, предложения и комментарии к проекту стандарта.
На основе национального стандарта командой ТК 164 в рамках Между-
народной организации по стандартизации (ISO) инициирована разработка международного стандарта «Artificial Intelligence (AI) — Software testing of AI medical devices — Part 1: Clinical evaluation». Инициатива по разработке стандарта будет рассмотрена странами — членами подкомитета SC 42 «Artificial Intelligence» в ISO на пленарном заседании в октябре 2020 г.
Национальные стандарты, которые разрабатываются экспертами ПК01/ТК164, будут регулировать ключевые аспекты применения искусственного интеллекта в здравоохранении и его роли в принятии врачебных решений. Интеллектуальные системы направлены на оптимизацию работы диагностов, автоматизацию рутинной работы, информационную поддержку и внедрение других опций, которые помогают врачам.
В настоящее время ПК01/ТК164 ведет работы по разработке следующих основополагающих стандартов:
- «Системы искусственного интеллекта в клинической медицине. Часть 2. Программа и методика технических испытаний»;
- «Системы искусственного интеллекта в клинической медицине. Часть 3. Применение менеджмента качества к дообучаемым программам. Протокол изменения алгоритма»;
- «Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров»;
- «Системы искусственного интеллекта в клинической медицине. Часть 6. Общие требования к эксплуатации»;
- «Системы искусственного интеллекта в клинической медицине. Часть 7. Процессы жизненного цикла».
В 2020 г. запланировано завершение разработки проекта первой редакции стандарта «Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов».