Для крупнейшей медицинской страховой компании UnitedHealthcare частота ошибок искусственного интеллекта — это не проблема, а особенность работы

UnitedHealthcare, крупнейшая медицинская страховая компания в США, предположительно использует глубоко ошибочный алгоритм искусственного интеллекта для того, чтобы отменять решения врачей и неправомерно отказывать пожилым пациентам в важнейших медицинских услугах. Это приводит к тому, что пациентов слишком рано выписывают из реабилитационных программ и лечебных учреждений, вынуждая их тратить свои сбережения на получение необходимого лечения, которое должно быть оплачено в рамках финансируемого государством плана Medicare Advantage.

Всё это следует из иска, поданного на этой неделе в окружной суд США по округу Миннесота. Иск подан наследниками двух умерших людей, которым компания UnitedHealth отказала в предоставлении медицинской страховки. В иске также содержится требование о предоставлении статуса коллективного иска для аналогичных лиц, которых по всей стране могут быть десятки тысяч.

Иск был подан одновременно с расследованием, проведённым Stat News, которое в значительной степени подтверждает требования иска. Результаты расследования основаны на внутренних документах и переписке, полученных изданием, а также на интервью с бывшими сотрудниками NaviHealth, дочерней компании UnitedHealth, которая разработала алгоритм искусственного интеллекта под названием nH Predict.

«К концу своей работы в NaviHealth я поняла: Я не защитник, я просто зарабатываю деньги для этой компании», — сказала в интервью Stat Эмбер Линч, эрготерапевт и бывший менеджер по работе с пациентами NaviHealth. «Всё дело в деньгах и данных, — добавила она. — Это лишает пациента достоинства, и я это ненавижу».

Отказы на основе решений искусственного интеллекта

Согласно иску, UnitedHealth начала использовать nH Predict по меньшей мере в ноябре 2019 года и продолжает использовать его до сих пор. Алгоритм оценивает, сколько послеоперационного ухода потребуется пациенту плана Medicare Advantage после серьёзной травмы, заболевания или иных несчастных случаев, например падения или инсульта. Послеоперационный уход может включать в себя такие услуги, как терапия и квалифицированный уход со стороны агентств домашнего здравоохранения, домов престарелых и стационарных реабилитационных центров.

Как именно работает система nH Predict, пока неясно, но, по имеющимся данным, она рассчитывает стоимость послеаварийного обслуживания, получая информацию из базы данных, содержащей истории болезни 6 млн пациентов. Менеджеры NaviHealth вводят определённую информацию о пациенте, включая возраст, жизненную ситуацию и физические функции, а алгоритм искусственного интеллекта выдаёт оценки, основанные на аналогичных пациентах в базе данных. Алгоритм оценивает медицинские потребности, продолжительность пребывания и дату выписки.

Однако Линч отметила в интервью Stat, что алгоритм не учитывает многие важные факторы, влияющие на состояние здоровья и время восстановления пациента, включая сопутствующие заболевания и то, что происходит во время пребывания в больнице, например, если пациент заболел пневмонией в медучреждении или заразился COVID-19 в доме престарелых.

Согласно расследованию Stat и судебному иску, эти оценки зачастую являются драконовскими. Например, по плану Medicare Advantage пациенты, находящиеся в больнице в течение трёх дней, обычно имеют право на 100 дней оплачиваемого ухода в доме престарелых. Но в системе nH Predict пациенты редко остаются в домах престарелых больше 14 дней, прежде чем получают отказ в оплате от UnitedHealth.

Когда пациенты или их врачи просили предоставить им отчёты nH Predict, UnitedHealth отклоняла их просьбы, сообщая, что эта информация является конфиденциальной, говорится в иске. А когда врачи, выписывающие рецепты, не соглашались с решением UnitedHealth о том, какой объём послеоперационного лечения необходим их пациентам, их мнение отменялось.

Неудачные попытки

Использование несовершенного искусственного интеллекта не является чем-то новым для индустрии здравоохранения США. В то время как чат-боты и генераторы изображений с искусственным интеллектом в настоящее время привлекают внимание и вызывают тревогу, в сфере здравоохранения США имеется более длинный список проблемных случаев использования искусственного интеллекта, включая расовую предвзятость при обслуживании пациентов. Однако данная ситуация отличается тем, что сомнительные оценки, которые выдаёт nH Predict, похоже, являются особенностью, а не ошибкой компании UnitedHealth.

После приобретения компанией UnitedHealth компании NaviHealth в 2020 г. её бывшие сотрудники рассказали Stat, что акцент в работе компании сместился с защиты интересов пациентов на показатели эффективности и максимально возможное сокращение сроков оказания послеоперационной помощи. Различные заявления руководителей UnitedHealth подтверждают эту тенденцию, отмечает Stat. В частности, руководитель UnitedHealth, курирующий NaviHealth, Патрик Конвей (Patrick Conway) в одном из подкастов компании сказал: «Если [люди] попадают в дом престарелых, как нам вывести их оттуда как можно скорее?».

В иске утверждается, что UnitedHealth должна была знать о «вопиющей неточности» оценок nH Predict, исходя из коэффициента ошибок. Хотя в целом немногие пациенты обжалуют отказы в покрытии, когда члены UnitedHealth обжалуют отказы, основанные на оценках nH Predict, — через внутренние апелляционные процессы или через федеральный суд по административным делам — более 90% таких отказов отменяются, утверждается в иске. Это делает очевидным, что алгоритм ошибочно отказывает в покрытии, утверждается в иске.

Но вместо того, чтобы изменить курс, в течение последних двух лет сотрудникам NaviHealth было приказано всё ближе и ближе подходить к прогнозам алгоритма. Согласно документам, полученным Stat, в 2022 г. менеджерам по ведению дел было приказано не превышать 3 процентов дней пребывания пациентов в домах престарелых, прогнозируемых алгоритмом. В 2023 году этот показатель будет снижен до 1%.

И это не просто рекомендации для кейс-менеджеров NaviHealth — это требования. Менеджерам, которые не выполняют целевые показатели по продолжительности пребывания, грозит дисциплинарное взыскание или увольнение. Линч, например, рассказала Stat, что её уволили за то, что она не выполнила план по продолжительности пребывания в клинике, а также за то, что не успевала заполнять документацию по своим ежедневным делам.

В заявлении, направленном по электронной почте, дочерняя компания UnitedHealth — Optum Health — сообщила Ars:

Инструмент прогнозирования naviHealth не используется для решений, связанных со страховым покрытием. Этот инструмент используется в качестве руководства, помогающего нам информировать поставщиков услуг, семьи и других лиц, осуществляющих уход, о том, какая помощь и уход могут понадобиться пациенту как в лечебном учреждении, так и после возвращения домой. Решения о покрытии принимаются на основе критериев покрытия CMS и условий плана участника. Этот иск не имеет под собой никаких оснований, и мы будем решительно защищать себя.

В конечном счёте, менеджеры по работе с пациентами не принимают решений о покрытии или отказе в покрытии — эти решения принимают врачи NaviHealth, проводящие медицинскую экспертизу. Но эти врачи получают рекомендации от кейс-менеджеров, которые придерживаются целевого показателя в 1%.

А кейс-менеджеры специально обучены тому, как защищать оценки, данные алгоритмом, перед пациентами и их лечащими врачами. В одном из учебных документов, полученных Stat, рассказывается о том, какую грубую тактику должны применять кейс-менеджеры, когда пациенты и обслуживающий персонал не соглашаются с отказами. В нём говорилось следующее:

• Если дом престарелых возражал против выписки пациента с трубкой питания, кейс-менеджеры должны были указать, что трубка должна обеспечивать «26% суточной потребности в калориях», чтобы считаться квалифицированной услугой в соответствии с правилами покрытия Medicare.

• Если медсестра придерживалась более широкой позиции и утверждала, что пациента небезопасно оставлять, кейс-менеджеры должны были возразить, в частности, что прогнозы алгоритма относительно потребностей пациента в уходе и его готовности к выписке основаны на «сравнении с аналогичными пациентами по всей стране с учётом степени тяжести». «Почему этот пациент должен отличаться от других?» — спрашивается в документе.

Без выигрыша

Даже для тех пациентов, которые подают апелляцию на отказ в лечении с помощью ИИ и добиваются его отмены, победа оказывается недолгой: вскоре после этого UnitedHealth присылает новый отказ, иногда в течение нескольких дней.

Бывший неназванный менеджер по работе с пациентами рассказал изданию Stat, что руководитель дал ей указание немедленно возобновить процесс рассмотрения дела для любого пациента, выигравшего апелляцию. «И в 99,9% случаев мы тут же вернёмся назад и выдадим новый отказ, — сказал бывший менеджер. — Хорошо, вы выиграли, но что это вам дало? Три или четыре дня? На следующей проверке вы получите ещё один [отказ], потому что они хотят, чтобы вы ушли».

В качестве истцов по коллективному иску выступают члены семьи Джина Локкена, умершего 17 июля этого года. 5 мая 2022 года 91-летний старик упал у себя дома, сломав ногу и лодыжку. После шести дней пребывания в больнице его перевели в хоспис, где он в течение месяца восстанавливался после травм. После этого, по мнению врачей, он стал достаточно здоров, чтобы начать физиотерапию. Однако UnitedHealth оплатила только 19 дней терапии, что вызвало недоумение врачей и терапевтов, которые охарактеризовали его мышечные функции как «парализованные и слабые». Семья обжаловала отказ, но апелляция была отклонена. В письме с отказом, которое UnitedHealth прислала семье, говорилось, что дополнительная физиотерапия не требуется, поскольку нет острых медицинских проблем, он самостоятельно питается и нуждается в минимальной помощи для поддержания гигиены и ухода за собой.

Семье не оставалось ничего другого, как оплачивать его лечение из собственных средств, потратив до самой его смерти около $150 тыс.

Другой истец — семья Дейла Тецлоффа, который 4 октября 2022 г. перенёс инсульт и был помещён в больницу. Там врачи направили 74-летнего пациента в дом престарелых и определили, что ему потребуется не менее 100 дней постоперационного ухода. Но после 20 дней пребывания в доме престарелых компания UnitedHealth отказала ему в дальнейшем страховом покрытии.

Его семья дважды обжаловала отказ, причём во второй раз он был отменён после того, как врачи NaviHealth ознакомились с медицинской документацией Тецлоффа. Но после 40 дней пребывания в доме престарелых компания UnitedHealth снова отказала в покрытии расходов и не объяснила причину отказа. Семья продолжала пытаться обжаловать отказ, но безуспешно. В итоге за 10 месяцев они заплатили из собственных средств $70 000. В июне 2023 г. его перевели в дом престарелых, где он скончался 11 октября.

Иск обвиняет UnitedHealth и NaviHealth в нарушении договора, недобросовестности и честном ведении дел, неосновательном обогащении, а также в нарушении страхового законодательства многих штатов. В иске содержится требование возместить реальный ущерб, компенсацию за причинённые эмоциональные страдания, возмещение ущерба и/или реституцию, а также прекратить практику отказа в приёме заявлений на основе искусственного интеллекта.

Сколько именно экономит UnitedHealth за счёт использования nH Predict, неизвестно, но, по оценкам Stat, речь идёт о сотнях миллионов долларов в год. В 2022 году общая сумма вознаграждения генерального директора UnitedHealth Group составила $20,9 млн. Четыре других топ-менеджера получат от $10 до $16 млн каждый.