Сім’ї двох померлих пацієнтів UnitedHealth подають до суду на компанію через відмову в позовних вимогах про розширене лікування, яке лікарі вважали необхідним.
Хоча заперечення претензій є поширеною проблемою, у позові стверджується, що компанія використовувала програмний інструмент nH Predict на основі штучного інтелекту, який неправильно відхилив рекомендації лікаря та спростував претензії.
Це не дозволяло пацієнтам отримувати належний догляд і змушувало їх платити зі своєї кишені за те, що рекомендували лікарі.
UnitedHealth використовувала naviHealth для створення моделі ШІ, яка, як стверджують юристи, була неточною в 90% випадків.
У колективному позові стверджується, що «людей похилого віку передчасно виганяють із закладів догляду по всій країні або змушують витрачати сімейні заощадження, щоб продовжувати отримувати необхідну медичну допомогу, і все через те, що модель штучного інтелекту [UnitedHealth] «не погоджується» з визначеннями їхніх реальних лікарів».
Сім’ї стверджують, що UnitedHealth постійно заперечує, що модель штучного інтелекту була неправильною, граючи в довгу гру, яка зрештою змушує сім’ї платити зі своєї кишені.
Згідно з позовом, лише 0,2% усіх пацієнтів знайшли час для оскарження відмови.
Справа висвітлює використання штучного інтелекту для визначення в охороні здоров’я без нагляду з боку людини.
Оскільки моделі штучного інтелекту стають все більш поширеними, та сама небезпека неправильно навчених моделей ставатиме все більш поширеною.
Інші приклади несправних алгоритмів у середовищі охорони здоров’я включають програмне забезпечення, розроблене для виявлення сепсису, яке не змогло розпізнати інфекцію у 67% людей, у яких вона розвинулася.
Хоча штучний інтелект може надати багато переваг за правильного використання, є занадто багато випадків, коли він використовує погано продумані алгоритми без будь-якої політики нагляду.
Цей позов має на меті з’ясувати, чи було це навмисне нехтування з боку UnitedHealth, чи це випадок, коли компанія надто швидко рухалася до впровадження системи економії коштів.
