Отчёт о ситуации за час вместо суток: в борьбе с Эболой в Африке ИИ помогает системе здравоохранения, в том числе в Германии, но эксперты предупреждают о непрозрачности и нерешённых рисках.
С мая команды, работающие на местах в Демократической Республике Конго (ДРК), борются с вирусом Эбола Бундибуджьо. Каждый день так называемые health workers (по-русски: медицинские работники) обходят дома, стучатся в двери и предлагают консультации. Они фиксируют случаи выздоровления и смерти и направляют людей с подозрительными симптомами в медицинские учреждения.
РЕКЛАМА
РЕКЛАМА
Как говорится в отчёте компании Anthropic, занимающейся разработкой систем искусственного интеллекта, знания этих health workers, чьи блокноты отражают состояние целых общин, были оцифрованы.
Кто заболел? С кем контактировал этот человек и где находился до того, как узнал о своей инфекции? Для анализа ответов и поступающих сообщений была использована модель Claude компании Anthropic. В исследовании, среди прочих, участвовали CEPI, региональное бюро ВОЗ по Африке и национальный институт биомедицинских исследований INRB.
ИИ помогает быстрее оценивать распространение эпидемий
«Оперативная сводка готовится за один час вместо целого рабочего дня», — объясняет доктор Мари Розелин Дарникка Белизэр, директор по готовности к чрезвычайным ситуациям и реагированию на них регионального бюро Всемирной организации здравоохранения (ВОЗ) по Африке. По словам представительницы ВОЗ, выступавшей на сцене World Health Summit, искусственный интеллект может помочь быстрее оценивать распространение эпидемий и точнее направлять медицинскую помощь.
При анализе данных были выявлены потенциальные зоны вспышек, а также проведены подготовительные меры — например, заранее доставлены запасы медицинских товаров в ключевые точки и районы повышенного риска.
В экстренных ситуациях это может оказаться решающим. Чем раньше органы здравоохранения реагируют на возможную вспышку, тем лучше они могут подготовиться и организовать систему помощи. ИИ должен помочь быстрее обрабатывать информацию из разных источников и поддерживать принятие решений ответственными лицами.
Этот положительный пример использования искусственного интеллекта в сфере здравоохранения показывает уровень, на котором ИИ можно применять с относительно небольшими рисками. Однако эксперты ожидают, что в будущем у таких технологий будет значительно больше областей применения.
Технология может улучшать диагностику, освобождать медицинский персонал от части административных задач и помогать более рационально распределять ограниченные ресурсы. Одновременно возникают принципиальные вопросы: насколько надёжны такие результаты? Могут ли врачи понять, как именно ИИ пришёл к тому или иному решению? И действительно ли от этого выигрывают пациенты?
ИИ как поддержка для перегруженного медперсонала
Во всём мире растёт потребность в медицинской помощи. При этом во многих местах не хватает людей, времени и оборудования. Для доктора Томаса Запаты, директора Академии ВОЗ в Лионе, именно здесь открывается ключевое поле для применения искусственного интеллекта.
«Нам нужно задуматься о парадоксе, с которым мы сейчас сталкиваемся. Во всём мире у нас больше медицинских специалистов, чем когда‑либо прежде, у нас есть беспрецедентные технологии», — заявил Запата в ходе дискуссии на World Health Summit. Тем не менее, по его словам, ощущается огромная нехватка медперсонала. «Спрос на медицинские услуги растёт и растёт».
Он рассматривает ИИ как способ сократить этот разрыв. При этом принципиально важно не относиться к технологии как к самоцели, а использовать её как инструмент, интегрированный в существующие системы здравоохранения.
«ИИ — это фактор, который помогает изменениям, средство для достижения цели. Сейчас нас очень завораживают технологии и ИИ, но, на мой взгляд, мы должны правильно вписать их в контекст системы здравоохранения», — предупреждает Запата. По его словам, у искусственного интеллекта есть две ключевые роли. С одной стороны, ИИ может изменить способы организации медицинской помощи. С другой — система образования и повышения квалификации медработников должна адаптироваться к новым возможностям.
В конечном итоге ИИ действительно способен снижать нагрузку, оптимизировать административные процессы, улучшать клиническое принятие решений и повышать качество диагностики. Но особенно важно, чтобы технологии освобождали время для того, что нельзя и не нужно полностью автоматизировать: для заботы о пациентах.
Особенно во время вспышки Эболы в Демократической Республике Конго стало очевидно, что доверие к местным системам здравоохранения недостаточно высоко.
Так у врачей остаётся больше времени для людей
Именно там, где медперсонал работает в условиях сильного дефицита времени, автоматизация процессов может сыграть заметную роль. Доктор Сесилия Мбака, старший технический советник по вопросам здоровья и чрезвычайных ситуаций в гуманитарной организации CARE, знает эти проблемы по более чем 15 годам работы на передовой.
Для неё ключевыми остаются три вопроса: может ли ИИ поддерживать медицинские решения? Может ли он брать на себя повторяющиеся задачи? И помогает ли он ориентировать помощь на индивидуальные потребности пациентов?
«Если ИИ хорошо справляется с этой работой, у нас остаётся больше времени на личные аспекты ухода: мы можем задавать вопросы, слушать, обследовать пациентов и направлять их на следующий уровень медицинской помощи», — поясняет и доктор Сесиллиах Мбака, старший технический советник по вопросам здоровья и чрезвычайных ситуаций в организации CARE.
По её словам, она сама более 15 лет работала на передовой, с минимальной поддержкой, ограниченными ресурсами и при высокой нагрузке.
Во время эпидемий речь идёт не только о медицинских данных. Огромную роль играет и доверие населения. Люди должны быть уверены, что в медицинском учреждении они защищены и получают адекватную помощь. В пострадавших общинах именно доверие зачастую определяет, обратится ли человек за медицинской помощью вовремя.
Считается, что около 50 процентов смертей в деревнях ДРК происходит не в больницах, а дома, говорит эпидемиолог Максимилиан Герлер. Местная система здравоохранения испытывает сильное давление и не была готова к вспышке Эболы. Ежедневно требуются тысячи защитных костюмов, чтобы уберечь медперсонал от заражения. Германия недавно увеличила объём помощи до 21 миллионов евро.
Таким образом, ИИ может поддерживать организацию системы помощи. Но он не в состоянии сам по себе обеспечить доверие людей к больницам и клиникам. Как отмечают сами эксперты по ИИ, путь к постановке диагноза сегодня часто остаётся непрозрачным.
Проблема прозрачности: как ИИ приходит к диагнозу?
Современные системы ИИ способны обрабатывать огромные массивы данных и находить закономерности, которые люди могли бы не заметить. Но часто остаётся неясным, как именно они получают свои результаты.
Доктор Томас Тезен, профессор медицинского образования и информатики в медицинской школе Гайзела Дартмутского университета в США, описывает это так: «Они чрезвычайно искусно распознают шаблоны, но крайне плохо объясняют нам, что это за шаблоны». По его словам, чат-боты и большие языковые модели, такие как Claude или ChatGPT, сталкиваются с проблемой объяснений. Искусственный интеллект остаётся «чёрным ящиком».
Это особенно важно для системы здравоохранения. Если система выдаёт диагноз или рекомендацию по лечению, медицинские специалисты должны оценить, подходит ли она конкретному пациенту. Одного результата для этого далеко не всегда достаточно — нужно понимать и путь, которым он получен.
«В этом и заключается проблема объяснимости: они не могут на языке, понятном человеку, пояснить, как приходят к тем или иным выводам».
Так называемая проблема «чёрного ящика» связана не только с прозрачностью, но и с ответственностью: кто несёт её, если ИИ даёт неверный совет? Поэтому, подчёркивает доктор Мбака, важно, чтобы ИИ не просто выдавал результаты, а реально помогал в процессе принятия решений.
Эксперт: ИИ не должен заменять обучение в медвузах
Искусственный интеллект может быть полезен и в подготовке медицинских кадров — например, делая информацию более доступной или помогая выполнять повторяющиеся задачи. Однако именно в процессе обучения Тезен, профессор медицинского образования и информатики, видит риски.
Он ссылается на исследование, в котором традиционный поиск информации через поисковые системы сравнивали с использованием чат-ботов на основе ИИ. У студентов, которые пользовались чат-ботом, знания оказались более поверхностными и хуже закреплёнными.
«Такие так называемые желательные трудности в учебном процессе на самом деле очень важны. Если же всю когнитивную работу по обучению передать чат-боту — это может быть эффективно, но вы ничего не усвоите».
Тем, кому нужно надолго усвоить знания, не стоит, по его мнению, поручать ИИ всю мыслительную работу. В медицине особенно важно уметь принимать правильные решения и тогда, когда техническая поддержка недоступна.
Поэтому Тезен рекомендует использовать ИИ прежде всего там, где он помогает снизить нагрузку. А там, где речь идёт о понимании и долговременном запоминании знаний, самостоятельное обучение должно сохранять ключевую роль.