Комментарий Петра Тренина-Страусова
Решение — о приостановлении, а не о запрете. Причина — в несоблюдении правил информирования со стороны разработчиков.
Надо приветствовать такое внимательное отношение государственных органов к применению технологий ИИ, потому что альтернатива — разбираться в последствиях и компенсировать, если возможно, урон здоровью и жизни людей, нанесённый технологиями с изъянами.
Такая работа необходима. Одновременно с этим будет повышаться уровень экспертизы проверяющих и надзорных органов. Тогда через несколько лет будет возможно в развитии отечественных технологий ИИ. Так же сейчас происходит с другими отраслями, где контрольно-надзорная деятельность выступает уже не как «карающие инстанции», а скорее как консалтинговый сервис.
Самое опасное, что может случиться, — волна алармистских заявлений, мол, всё пропало, и государство душит технологии. Нужно быть внимательным к деталям и сути.
Росздравнадзор приостановил применение ИИ из-за угрозы для пациентов
Росздравнадзор приостановил применение программного обеспечения Botkin.AI из-за угрозы жизни и здоровью пациентов, сообщили РИА Новости в пресс-службе ведомства.
«Принято решение о приостановке применения, а также инициировано проведение внепланового выборочного контроля в отношении производителя Botkin.AI ООО „Интеллоджик“. Соответствующие заявление и документы направлены в прокуратуру города Москвы. По итогам проверочных мероприятий будет сделан вывод о возможности дальнейшего обращения медицинского изделия», — говорится в заявлении.
Как уточняется, эта платформа подлежит пострегистрационному мониторингу безопасности и клинической эффективности. Производитель Botkin.AI должен был отправлять отчеты в Росздравнадзор, но ведомство их так и не получило.
В итоге были выявлены отклонения в характеристиках (результаты работы ПО с ИИ) относительно заявленных при его госрегистрации.
«Росздравнадзором <...> проводится пострегистрационный мониторинг безопасности и клинической эффективности медицинских изделий класса потенциального риска применения 2б (имплантируемых в организм человека), а также медицинских изделий класса потенциального риска применения 3, том числе программного обеспечения с применением технологий искусственного интеллекта (относится к классу 3)», — пояснили в пресс-службе.
Кроме того, ведомство проверяет отчеты по клиническому мониторингу таких медизделий.
Там напомнили, что 19 из 24 зарегистрированных в России ПО с применением ИИ предназначены для анализа диагностических изображений. При этом 16 из них — отечественные разработки (включая медицинское изделие "Обеспечение программное прикладное Botkin.AI для визуализации и обработки изображений стандарта DICOM по ТУ 58.29.32-001-45146066-2020" производства ООО «Интеллоджик», Россия), подытожили в Росздравнадзоре.
Росздравнадзор приостановил применение ИИ из-за угрозы для пациентов // РИА Новости. 2023. 21 ноября.
В целом, не зная всех подробностей, конечно, можно сказать, что это хороший и современный пример того, как должны работать надзорные органы в области развития и применения перспективных технологий в чувствительных для общества областях.
Решение — о приостановлении, а не о запрете. Причина — в несоблюдении правил информирования со стороны разработчиков.
Надо приветствовать такое внимательное отношение государственных органов к применению технологий ИИ, потому что альтернатива — разбираться в последствиях и компенсировать, если возможно, урон здоровью и жизни людей, нанесённый технологиями с изъянами.
Такая работа необходима. Одновременно с этим будет повышаться уровень экспертизы проверяющих и надзорных органов. Тогда через несколько лет будет возможно в развитии отечественных технологий ИИ. Так же сейчас происходит с другими отраслями, где контрольно-надзорная деятельность выступает уже не как «карающие инстанции», а скорее как консалтинговый сервис.
Самое опасное, что может случиться, — волна алармистских заявлений, мол, всё пропало, и государство душит технологии. Нужно быть внимательным к деталям и сути.
Росздравнадзор приостановил применение ИИ из-за угрозы для пациентов
Росздравнадзор приостановил применение программного обеспечения Botkin.AI из-за угрозы жизни и здоровью пациентов, сообщили РИА Новости в пресс-службе ведомства.
«Принято решение о приостановке применения, а также инициировано проведение внепланового выборочного контроля в отношении производителя Botkin.AI ООО „Интеллоджик“. Соответствующие заявление и документы направлены в прокуратуру города Москвы. По итогам проверочных мероприятий будет сделан вывод о возможности дальнейшего обращения медицинского изделия», — говорится в заявлении.
Как уточняется, эта платформа подлежит пострегистрационному мониторингу безопасности и клинической эффективности. Производитель Botkin.AI должен был отправлять отчеты в Росздравнадзор, но ведомство их так и не получило.
В итоге были выявлены отклонения в характеристиках (результаты работы ПО с ИИ) относительно заявленных при его госрегистрации.
«Росздравнадзором <...> проводится пострегистрационный мониторинг безопасности и клинической эффективности медицинских изделий класса потенциального риска применения 2б (имплантируемых в организм человека), а также медицинских изделий класса потенциального риска применения 3, том числе программного обеспечения с применением технологий искусственного интеллекта (относится к классу 3)», — пояснили в пресс-службе.
Кроме того, ведомство проверяет отчеты по клиническому мониторингу таких медизделий.
Там напомнили, что 19 из 24 зарегистрированных в России ПО с применением ИИ предназначены для анализа диагностических изображений. При этом 16 из них — отечественные разработки (включая медицинское изделие "Обеспечение программное прикладное Botkin.AI для визуализации и обработки изображений стандарта DICOM по ТУ 58.29.32-001-45146066-2020" производства ООО «Интеллоджик», Россия), подытожили в Росздравнадзоре.
Росздравнадзор приостановил применение ИИ из-за угрозы для пациентов // РИА Новости. 2023. 21 ноября.
