Законодательно закрепить приоритет врачебного решения над выводами искусственного интеллекта (ИИ) — такое предложение по регулированию использования ИИ в медицине выдала одна из известных систем ИИ по запросу статс-секретаря — заместителя министра здравоохранения РФ Олега Сагалая. Об этом чиновник рассказал во время сессии "Врач vs алгоритм: риски и границы ответственности в эпоху искусственного интеллекта в медицине", прошедшей сегодня на Петербургском международном юридическом форуме.
По словам Олега Сагалая, всего система выдала пять рекомендаций. Ввести рискоориентированную классификацию ИИ-систем в медицине с разной степенью контроля для разных уровней риска. Установить требования к качеству и репрезентативности данных для обучения медицинских ИИ-моделей. Регламентировать защиту персональных данных и порядок получения согласия пациента на применение ИИ. Внедрить систему пост-рыночного мониторинга эффективности и ошибок ИИ в клинической практике. И закрепить решающую роль человека.
«Искусственный интеллект сам не очень-то хочет брать на себя ответственность за принятие клинических решений», — так прокомментировал результаты обращения к ИИ-системе замминистра здравоохранения.
Следует отметить, что практически все рекомендации ИИ были предметом дискуссии участников сессии.
ИИ применяется в медицине уже около 40 лет, но в последние 2-3 года происходит его стремительная трансформация: меняется сама его суть, отметил гендиректор Национального медицинского исследовательского центр им. В.А. Алмазова Евгений Шляхто.
«И самый главный вопрос, который мы задаём сегодня сами себе: что такое искусственный интеллект? Это технология? Справочник? Или партнёр, член команды, который имеет осведомлённое представление о ситуации? Мы должны ему доверять? Должны учитывать его мнение? Понятно, что последнее решение будет принимать врач, но мы точно должны поменять отношение к технологии искусственного интеллекта", — рассуждает Шляхто.
Из своей практики он привёл пример пациента с разрывом аорты, доставленного в Центр им. Алмазова. В больнице одного из районов Ленобласти не оказалось КТ, но ИИ по рентгеновским снимкам дал заключение: у пациента есть изменения, требуется дополнительное исследование. А врач на это внимания не обратил. Тем не менее для пациента всё закончилось хорошо.
По мнению Шляхто, для удалённых регионов, где нет доступности к широкому кругу медуслуг и высококвалифицированному персоналу, где нет соответствующих служб, ИИ необходим.
Вице-президент по работе с регионами Общероссийской общественной организации инвалидов — больных рассеянным склерозом, эксперт горячей линии Всероссийского союза пациентов Марина Валюх также поддерживает использование ИИ в медицине. Врач не может знать всё, и здесь ему могла бы прийти на помощь, например, система клинических рекомендаций по различным профилям. Но при этом, считает Валюх, у пациента необходимо получать согласие на использование нейросетей.
Сегодня ИИ — это набор сервисов с очень конкретными функциями, подчеркнул заместитель гендиректора ООО "Платформа Третье Мнение" Андрей Поваренкин. По его словам, сейчас в 70 российских регионах применяется пять и более медизделий (на базе ИИ. — Ред.), внедряются они централизованно — на весь субъект. Например, использование в лучевой диагностике, при диспансеризации: анализ электронных карт пациентов и "подсвечивание" пациентов с рисками и т. д.
По словам Поваренкина, сейчас обсуждается, как строить взаимоотношения в медсистеме с учётом использования ИИ и как разграничивать ответственность, в том числе и финансовую, за возможный ущерб. Сегодня врач несёт всю полноту ответственности, в том числе и уголовную, за врачебные ошибки. Юрий Зинченко, декан факультета психологии Московского госуниверситета им. М.В. Ломоносова, член-корреспондент Российской академии наук, обратил внимание участников на необходимость урегулирования вопроса качества первичных библиотек, на которых обучаются медицинские ИИ-системы. От этого будет зависеть их эффективность.
Источник: Деловой Петербург
