У позові стверджується, що UnitedHealth використовувала штучний інтелект, щоб помилково відхилити претензії

Сім’ї двох померлих пацієнтів UnitedHealth подають до суду на компанію через відмову в позовних вимогах про розширене лікування, яке лікарі вважали необхідним.

Хоча заперечення претензій є поширеною проблемою, у позові стверджується, що компанія використовувала програмний інструмент nH Predict на основі штучного інтелекту, який неправильно відхилив рекомендації лікаря та спростував претензії.

Це не дозволяло пацієнтам отримувати належний догляд і змушувало їх платити зі своєї кишені за те, що рекомендували лікарі.

UnitedHealth використовувала naviHealth для створення моделі ШІ, яка, як стверджують юристи, була неточною в 90% випадків.

У колективному позові стверджується, що «людей похилого віку передчасно виганяють із закладів догляду по всій країні або змушують витрачати сімейні заощадження, щоб продовжувати отримувати необхідну медичну допомогу, і все через те, що модель штучного інтелекту [UnitedHealth] «не погоджується» з визначеннями їхніх реальних лікарів».

Сім’ї стверджують, що UnitedHealth постійно заперечує, що модель штучного інтелекту була неправильною, граючи в довгу гру, яка зрештою змушує сім’ї платити зі своєї кишені.

Згідно з позовом, лише 0,2% усіх пацієнтів знайшли час для оскарження відмови.

Справа висвітлює використання штучного інтелекту для визначення в охороні здоров’я без нагляду з боку людини.

Оскільки моделі штучного інтелекту стають все більш поширеними, та сама небезпека неправильно навчених моделей ставатиме все більш поширеною.

Інші приклади несправних алгоритмів у середовищі охорони здоров’я включають програмне забезпечення, розроблене для виявлення сепсису, яке не змогло розпізнати інфекцію у 67% людей, у яких вона розвинулася.

Хоча штучний інтелект може надати багато переваг за правильного використання, є занадто багато випадків, коли він використовує погано продумані алгоритми без будь-якої політики нагляду.

Цей позов має на меті з’ясувати, чи було це навмисне нехтування з боку UnitedHealth, чи це випадок, коли компанія надто швидко рухалася до впровадження системи економії коштів.