Искусственный интеллект может быстрее анализировать медицинские данные, помогать работать с документацией и брать на себя часть рутинных задач. Но чем больше решений клиника передаёт алгоритмам, тем чаще возникает вопрос «правильно ли так делать?»
Этические проблемы искусственного интеллекта в медицине начинаются там, где появляются вопросы. Что делать, если алгоритм ошибся? Должен ли пациент знать, что его данные анализирует ИИ? Можно ли доверять модели, принцип работы которой врач не способен объяснить? Что произойдёт, если нейросеть хуже работает на определённой группе пациентов?
В России эта тема уже оформляется как отдельное направление. Минздрав разработал отраслевой Кодекс этики применения ИИ в здравоохранении. На дату подготовки статьи в открытых материалах Минздрава сообщалось, что финальную редакцию планируется представить профессиональному сообществу в августе 2026 года.
Разберём главные этические проблемы использования ИИ в медицине и то, как клинике учитывать их при реальном внедрении технологии.
Почему этика ИИ особенно важна в медицине
Ошибка медицинского ИИ потенциально затрагивает здоровье человека. Поэтому к данной технологии в медицинской отрасли применяются более жесткие требования.
Всемирная организация здравоохранения рассматривает этику и права человека как основу проектирования, внедрения и применения искусственного интеллекта в здравоохранении. Среди базовых принципов ВОЗ — защита автономии человека, безопасность, прозрачность, ответственность, справедливость и устойчивость технологии.
Российский подход движется в том же направлении. Кодекс этики Минздрава распространяет рекомендации не только на момент использования готового алгоритма, но на весь его жизненный цикл: от проектирования модели до валидации, эксплуатации, мониторинга и вывода из использования.
ИИ должен помогать человеку, а не незаметно заменять его
Один из главных принципов медицинской этики ИИ — сохранение человеческого контроля. Алгоритм может обработать больше данных, чем врач успеет просмотреть вручную. Но вычислительная эффективность не равна клиническому пониманию пациента.
Врач видит не только набор показателей. Он разговаривает с человеком, учитывает историю заболевания, сопутствующие состояния, жалобы, поведение, социальный контекст и множество факторов, которые могут вообще отсутствовать в данных модели.
Поэтому опасен сценарий, в котором ИИ постепенно превращается из помощника в незаметного фактического автора решения. ВОЗ отдельно предупреждает о риске, когда медицинские работники или пациенты перестают замечать ошибки, которые могли бы обнаружить без избыточного доверия к модели.
Кто отвечает, если ИИ ошибся
В медицинском процессе одновременно могут участвовать разработчик алгоритма, поставщик сервиса, медицинская организация, ИТ-подразделение, главный врач и специалист, который непосредственно использует результат системы.
Этическая ответственность начинается с понятного распределения ролей.
Ещё до внедрения организации нужно знать, кто отвечает за техническую работоспособность, кто контролирует клиническое использование, кто разбирает ошибки и кто принимает окончательное решение.
Новый российский закон №243-ФЗ также закрепляет среди общих принципов регулирования ИИ обеспечение прав человека, уважение его автономии, безопасность и риск-ориентированный подход. Основные положения закона вступают в силу 1 сентября 2026 года.
Ошибка ИИ — это не исключение, а риск, которым нужно управлять
Любая модель имеет ограничения. Она может ошибаться на редких случаях, хуже работать на данных, которые отличаются от обучающей выборки, зависеть от качества изображения или выдавать менее точный результат после изменения внешних условий.
Этическая проблема появляется тогда, когда пользователь об этих ограничениях не знает. Поэтому медицинской организации важно контролировать фактическую работу системы после внедрения. Российское регулирование движется именно в сторону постоянного пострегистрационного мониторинга: для медицинского ПО с ИИ предусмотрена передача данных о его функционировании, результатах и ошибках в систему Росздравнадзора.
Почему ИИ может быть предвзятым
Алгоритм учится на данных. Медицинские данные никогда не представляют человечество идеально:
- В обучающей выборке одни возрастные группы могут встречаться чаще других.
- Данных по определённому заболеванию может быть мало.
- Исследования могут быть собраны на оборудовании одного производителя или в медицинских организациях определённого типа.
В результате модель хорошо работает на группе, похожей на её обучающие данные, и хуже — на другой.
ВОЗ обращает внимание на риск систематической предвзятости медицинских моделей из-за качества и состава исходных данных, включая различия по возрасту, полу и другим характеристикам.
Для клиники должен быть важен вопрос: насколько пациенты нашей организации похожи на тех, на ком проверяли систему?
Если алгоритм внедряется в детской клинике, а его доказательная база сформирована преимущественно на взрослых пациентах, высокая общая точность продукта может ничего не говорить о реальной полезности в этом сценарии.
Должен ли медицинский ИИ быть объяснимым
Идеальная система могла бы не только сказать врачу «обратите внимание», но и показать, почему она пришла к такому результату. В некоторых задачах это возможно сравнительно легко. Например, алгоритм компьютерного зрения может выделить на изображении область, которая повлияла на его вывод.
У сложной генеративной или прогностической модели объяснение бывает значительно менее очевидным. Отсюда возникает этическая проблема: насколько допустимо использовать решение, если пользователь получает ответ, но не понимает логики его формирования?
ВОЗ называет прозрачность, объяснимость и понятность одним из базовых принципов этичного использования ИИ в здравоохранении.
При этом каждому врачу необязательно знать все технические принципы работе нейросети. Пользователю важнее понимать область применения системы, ограничения, качество доказательств, происхождение входных данных и то, какую роль конкретный результат должен играть в принятии решения.
Конфиденциальность медицинских данных
Чем больше качественной информации получает алгоритм, тем больше возможностей появляется для обучения и анализа. В медицине это создаёт конфликт: данные чрезвычайно ценны для развития технологий, но одновременно относятся к наиболее чувствительной информации о человеке.
Российский закон относит сведения о состоянии здоровья к специальным категориям персональных данных и устанавливает особые основания их обработки.
Поэтому при проектировании ИИ-сценария клинике стоит следовать принципу минимальной достаточности: система должна получать только тот объём информации, который действительно нужен для решения задачи.
Особенно осторожно следует относиться к общедоступным генеративным сервисам. Не следует отправлять медицинские документы и данные во внешний чат ради быстрой подготовки документа. Удобство не должно становиться основанием для передачи медицинской информации.
Генеративный ИИ создаёт новый класс рисков
Развитие больших языковых и мультимодальных моделей добавило к традиционным проблемам медицинского ИИ ещё одну — способность системы уверенно формировать информацию, которой нет в исходных данных. Генеративная модель строит наиболее вероятный ответ. Она не «знает», что должна молчать, если информации недостаточно, если специально не настроена на такое поведение. В результате она может придумать факт, который звучит профессионально, но не соответствует источникам.
Поэтому генеративный медицинский ассистент особенно нуждается в архитектуре, где ответ привязан к проверяемому источнику. Например, если система помогает врачу работать с клиническими рекомендациями, безопаснее, когда она ищет и суммирует информацию из заданного массива документов, чем когда отвечает «по памяти» общей модели. То же касается саммари медицинской документации: врач должен видеть исходные данные и проверять итоговый текст.
Может ли ИИ ухудшить навыки врача
Если человек постоянно передаёт задачу автоматической системе, его собственный навык может постепенно использоваться меньше.
Однозначного решения этой проблемы пока нет, поэтому этический подход не требует отказываться от автоматизации. Он требует строить её так, чтобы ИИ усиливал профессиональную компетенцию, а не делал человека беспомощным без системы.
Этические проблемы ИИ существуют и вне кабинета врача
Представим голосового робота, который звонит пациенту с напоминанием. Или алгоритм, который анализирует разговоры с регистратурой и определяет эмоциональную окраску. Или модель, которая прогнозирует вероятность возвращения пациента в клинику.
- Насколько допустимо автоматически оценивать эмоциональное состояние человека?
- Можно ли использовать медицинские сведения для агрессивной персонализации маркетинга?
- Должен ли пациент понимать, что разговаривает не с живым администратором?
Поэтому этический аудит нужен не только клиническим системам. Чем больше организация объединяет данные пациента из разных источников, тем важнее определить границу между полезной персонализацией и чрезмерным вмешательством.
Российский Кодекс этики ИИ в здравоохранении
В 2024 году Минздрав сообщил о разработке собственного Кодекса этики применения искусственного интеллекта в сфере здравоохранения. Он предусматривает принципы и рекомендации для всего жизненного цикла ИИ и отдельно затрагивает конфиденциальность и комплексный контроль системы.
В июне 2026 года Минздрав и Альянс в сфере искусственного интеллекта представили первую версию объединённого отраслевого Кодекса. В его подготовке участвовали медицинские университеты, главные внештатные специалисты Минздрава, экспертные и профессиональные организации. Документ был вынесен на общественное обсуждение как инструмент мягкого регулирования.
Задача этого кодекса — сформировать общие профессиональные ориентиры там, где обязательного нормативного требования может быть недостаточно. Для медицинской организации такой документ полезен как основа собственной внутренней политики по работе с ИИ.
Как клинике внедрять ИИ этично
Сначала нужно определить ценность для пациента или медицинского процесса. Если технология не решает реальную проблему, дополнительный риск просто не оправдан.
Затем оцениваются данные и ограничения системы. Руководитель и медицинская команда должны понимать, на чём алгоритм обучался, для каких задач предназначен и где его применение нежелательно.
После этого определяется роль человека. Кто подтверждает результат? Может ли врач отказаться от рекомендации модели? Что происходит, если специалист и ИИ не согласны?
Следующий уровень — контроль после запуска. Ошибки, странные результаты и жалобы сотрудников не должны оставаться в отдельных чатах. Их необходимо собирать и анализировать.
И наконец, ИИ нельзя внедрять отдельно от информационной архитектуры клиники. Если сотрудники вынуждены вручную копировать медицинские данные из МИС во внешние сервисы, технология с самого начала создаёт лишние риски.
Перед запуском клинике стоит ответить на несколько вопросов:
- Какую проблему пациента, врача или бизнеса решает система?
- Доказана ли её эффективность именно для этого сценария?
- Кто принимает окончательное решение?
- Какие ошибки системы известны?
- На каких пациентах она может работать хуже?
- Какие медицинские данные получает ИИ?
- Можно ли объяснить пользователю роль алгоритма?
- Как сотрудник сообщит о подозрительном результате?
- Что произойдёт, если система временно перестанет работать?
- Как будет оцениваться качество после внедрения?
Заключение
Этические проблемы искусственного интеллекта в медицине нельзя свести к простой дилемме «ИИ — хорошо или плохо». Одна и та же технология может быть полезной в одном процессе и неоправданно рискованной в другом.
Главные вопросы возникают вокруг человеческого контроля, ответственности, качества данных, алгоритмической предвзятости, объяснимости, конфиденциальности и права пациента понимать, как технологии участвуют в его медицинской помощи.
Поэтому этичный медицинский ИИ — это технология, ограничения которой известны, риски контролируются, данные защищены, а человек сохраняет возможность принимать окончательное решение.
