Чат-боты с ИИ принимают решения о том, кому достанется жизненно важная трансплантация почки, быстрее и увереннее врачей, но с меньшим учётом нюансов.
Согласились бы вы на трансплантацию, если бы решение принимал искусственный интеллект? Новое исследование выявило различия в подходах к принятию решений и расстановке приоритетов между языковыми моделями ИИ и врачами.
РЕКЛАМА
РЕКЛАМА
Модели ИИ демонстрируют чрезмерную уверенность, по-разному оценивают значимость факторов и чрезмерно упрощают сложные решения о том, какой пациент должен получить орган, говорится в новом исследовании (источник на английском языке).
В рамках работы исследователи из Университета штата Пенсильвания в США предложили крупным языковым моделям (LLM) гипотетические сценарии, основанные на существующих наборах данных из опубликованных исследований по распределению донорских почек, в которых реальные участники уже делали такой выбор.
В каждом сценарии участвовали два пациента — Пациент A и Пациент B. Оба подходили для единственной доступной почки и описывались возрастом, состоянием здоровья и привычками употребления алкоголя. Затем лицо, принимающее решение, должно было выбрать, кто из них получит орган.
«Мы проводили эти сравнения несколькими способами, — рассказал Хади Хоссейни. — Иногда мы изолировали только одну характеристику, иногда комбинировали несколько, чтобы увидеть, как ИИ сопоставляет конкурирующие факторы, а иногда добавляли вариант “подбросить монетку”, чтобы измерить нерешительность — ключевой элемент человеческих моральных суждений».
Если люди-респонденты, как правило, большее значение придавали возрасту — отдавая предпочтение молодым пациентам перед пожилыми, — многие модели, напротив, чаще выбирали тех, кто меньше пьет. Человеческие решения учитывали несколько параметров и сильнее зависели от контекста, тогда как решения LLM нередко строились вокруг одного-единственного признака.
«Во-первых, чат-боты на базе ИИ часто расходятся с человеческими ценностями в том, как они оценивают характеристики пациента, — пояснил ведущий автор исследования из Университета штата Пенсильвания Хади Хоссейни. — Они зацикливаются на одном факторе, например на привычках пить, вместо того чтобы, как люди, взвешивать сразу несколько обстоятельств».
Исследователи также заметили, что у ИИ практически отсутствует состояние нерешительности. Люди признают, что единственно правильного ответа может не быть и что решения опираются на тонкие моральные оценки, тогда как системы почти без колебаний выбирают один вариант.
«Когда мы распределяем дефицитный ресурс — будь то почка, рабочее место или доступ к какому-то другому благу, — единственно объективно верного решения не всегда существует», — сказал генеральный директор Mozilla.ai Джон Дикерсон, принимавший участие в исследовании.
«Люди осознают эту неопределенность и включают ее в процесс распределения через открытую дискуссию. Модели ИИ часто не делают этого».
ИИ и этические решения
Авторы отмечают, что современные взаимодействия с системами ИИ все чаще требуют от них выходить за рамки фактической информации и формировать оценочные суждения.
Крупные языковые модели (LLM) все активнее внедряются в здравоохранение: они помогают в организации клинической работы, постановке диагнозов, планировании лечения и более своевременном использовании ограниченных медицинских ресурсов.
Одна из таких сфер применения — принятие решений о распределении почек от умерших и живых доноров между пациентами. По словам авторов, эти решения зависят от сложных этических и моральных соображений.
В подобных высокорисковых ситуациях, подчеркивают исследователи, важны не только точность, но и соответствие решений человеческим ценностям и моральным представлениям.
По их мнению, вопрос о том, способен ли ИИ принимать моральные решения и насколько они согласуются с человеческими ценностями, находится в центре сегодняшней широкой дискуссии об искусственном интеллекте.
«Этическая цена ошибки здесь чрезвычайно высока, и роль ИИ в таких судьбоносных решениях требует серьезного осмысления, — говорит Хоссейни. — Моральный выбор в области распределения органов напрямую определяет, кто будет жить, а кто нет, так что правильно выстроить участие ИИ в этом процессе — жизненно важно».
«Мы не ставим целью призывать к использованию ИИ вместо профессионального суждения при медицинских решениях или в других высокорисковых контекстах, однако становится необходимым понимать поведение таких систем, поскольку отдельные люди, организации и компании все чаще опираются на ИИ, когда принимают решения или получают рекомендации», — добавил он.