Искусственный интеллект (ИИ) уверенно входит в медицинскую практику, но важно понимать: это не «вторая голова», которая думает за врача. Это инструмент, который выполняет рутинную работу, обрабатывает большие массивы данных и делает это быстрее, чем человек. Но все клинические решения, диагностика и лечение остаются исключительно прерогативой врача, а ответственность за здоровье пациента — за человеком.
О том, где уже используется искусственный интеллект и какие перспективы открывает его применение, рассказывают главный врач стационара АО «Медицина» (клиника академика Ройтберга), доктор медицинских наук, профессор РАН Наталья Кондратова и директор по ИТ АО «Медицина» (клиника академика Ройтберга) Максим Петухов
Рутина и большой объем
Сегодня ИИ активно используется там, где нужно быстро обрабатывать большие объемы данных и решать рутинные задачи. Он сортирует медицинские снимки и лабораторные анализы, выделяя «норма» и «не норма», чтобы врач мог сосредоточиться на сложных случаях. Во время пандемии COVID-19 такие системы помогали быстро проводить первичный анализ КТ и рентгеновских снимков и подсчитывали процент поражения легочной ткани, значительно облегчая работу врача.
Сейчас ИИ пытаются применить для контроля различных процессов в медицинской организации. Например, все, тем более медицинские работники, знают, что надо мыть руки, но далеко не все делают это правильно и так часто, как это необходимо. Существуют технологии, которые теоретически могут это контролировать. Но при их внедрении в практику выясняется, что для корректной работы ИИ нужны другие люди, которые должны вести себя по-другому – так, чтобы ИИ мог корректно работать. Нужно ли специально учить людей быть «удобными и правильными для ИИ» и отвлекать их внимание для самого важного – пациента и работы с ним? Исследователи пока не пришли к единому мнению.
При внедрении ИИ важно оценивать экономическую эффективность. Если технология позволяет сократить две ставки сотрудников, и это обходится дешевле, чем содержание специалистов, внедрение оправдано. Если же сотрудники обходятся дешевле, чем внедрение системы, финансовой выгоды нет. Иными словами, ИИ должен приносить реальную экономию времени и средств, а не быть «модным» решением ради самого факта внедрения.
За рубежом ИИ тестируют для поддержки диагностики редких заболеваний, прогнозирования осложнений и планирования лечения, но в России это пока пилотные проекты. ИИ не лечит и не ставит диагнозы, он лишь ускоряет обработку данных. Любое клиническое решение остаётся полностью за врачом, который несёт ответственность за лечение.
Доверяй, но проверяй
Простейший пример работы ИИ — сортировка анализов перед операцией. Пациент приносит десятки результатов. ИИ быстро сортирует их на «нормальные» и «проблемные» (конечно, если предварительно их подгрузили в систему в читаемом виде), и врач сразу же фокусирует свое внимание на отклонениях. Задача ИИ — ускорить рутинную работу, а не принимать решения вместо человека.
Технологии не безупречны. Один коллега попросил алгоритм подобрать публикации за последние три года в узкой медицинской области. ИИ сгенерировал список из десяти статей. При проверке оказалось, что этих публикаций не существовало. Алгоритм просто «выдумал» их. Для этого уже даже существует специальный термин «галлюцинации ИИ». Этот случай показывает: ИИ не умеет признавать, что чего-то не знает, и его выводы человек всегда должен внимательно проверять. А пациент должен понимать, что ИИ — инструмент для информации, а не источник истины в последней инстанции.
Задача ИИ — ускорить рутинную работу, а не принимать решения вместо человека
Врачебная интуиция и ответственность пациента
Врачебная интуиция основана на опыте, широте мышления и знании стандартов. Она особенно важна в нетипичных случаях, когда стандартные алгоритмы не дают полного ответа. Для таких сложных случаев с давних времен используется консилиум — коллективное обсуждение ситуации врачами. Пока ничего лучше этого подхода не придумано. Иногда именно интуиция помогает вовремя обратить внимание на детали и инициировать консилиум, после чего обсуждаются варианты и выбирается оптимальное лечение.
То, что пациент, когда приходит к врачу, уже многое знает о своем заболевании, — это прекрасно. Он может задавать вопросы, и мы всегда стимулируем пациента эти вопросы задавать. Решения, которые принимает пациент, должны быть осознанными. Он должен обладать полной информацией о преимуществах и недостатках методов лечения. Задача врача — дать рекомендации, а пациент решает, следовать им или нет. Потому что в конечном итоге каждый человек сам решает, что ему делать со своим здоровьем, и несет за это решение ответственность.
Пациенты также должны помнить, что ИИ предоставляет информацию, но ее точность не гарантирована. Любой выбор, основанный на данных ИИ, требует проверки и интерпретации специалиста.
Как достичь гармонии?
Алгоритм не может заменить клиническое мышление, интерпретацию контекста или ответственность перед пациентом. ИИ — лишь вспомогательный инструмент, и его выводы должны оцениваться квалифицированным человеком.
Сам по себе алгоритм не ставит диагноз и не общается с пациентом. Он предлагает варианты, опираясь на статистику. При этом эксперты указывают на важную проблему: автоматизация повышает прозрачность процессов. ИИ фиксирует все действия — от обработки снимков до маршрутизации документации. Это упрощает аудит, но одновременно делает ошибки более заметными. Если раньше проверялась малая доля истории взаимодействий, то теперь аналитика охватывает весь поток. Врачи сталкиваются с новой реальностью, где их решения сравниваются с рекомендациями алгоритмов, и иногда им приходится обосновывать отклонения от рекомендаций ИИ.
Юристы подчеркивают: в законодательстве многих стран вопрос ответственности за применение ИИ пока регулируется лишь частично. Как правило, ответственность несет врач, но, если ошибка возникла из-за некорректных данных или технического сбоя, требуется экспертиза, чтобы определить роль производителя или клиники. Это создает риски как для медиков, так и для пациентов.
Одновременно медучреждения вынуждены учитывать и этическую сторону. Пациенты должны быть проинформированы о том, где именно применяется ИИ, какую роль играет врач и какие ограничения имеют алгоритмы. В крупных клиниках формируются собственные этические комитеты, которые рассматривают случаи применения ИИ и дают рекомендации по обновлению протоколов.
Эксперты ожидают, что в ближайшие годы появится более четкая нормативная база, распределяющая ответственность между врачом, клиникой и разработчиком. Однако уже сейчас ясно: без человеческого контроля безопасное применение ИИ в медицине невозможно. Алгоритмы ускоряют работу и расширяют возможности диагностики, но именно врач остается центральной фигурой, принимающей решения и отвечающей за здоровье пациента.
Главный врач стационара АО «Медицина» (клиника академика Ройтберга), доктор медицинских наук, профессор РАН 
Наталья Кондратова
