У позові стверджується, що UnitedHealth використовувала штучний інтелект, щоб помилково відхилити претензії

Сім’ї двох померлих пацієнтів UnitedHealth подають до суду на компанію через відмову в позовних вимогах про розширене лікування, яке лікарі вважали необхідним. Хоча заперечення претензій є поширеною проблемою, у позові стверджується, що компанія використовувала програмний інструмент nH Predict на основі штучного інтелекту, який неправильно відхилив рекомендації лікаря та спростував претензії. Це не дозволяло пацієнтам отримувати належний догляд і змушувало їх платити зі своєї кишені за те, що рекомендували лікарі. UnitedHealth використовувала naviHealth для створення моделі ШІ, яка, як стверджують юристи, була неточною в 90% випадків. У колективному позові стверджується, що «людей похилого віку передчасно виганяють із закладів догляду по всій країні або змушують витрачати сімейні заощадження, щоб продовжувати отримувати необхідну медичну допомогу, і все через те, що модель штучного інтелекту [UnitedHealth] «не погоджується» з визначеннями їхніх реальних лікарів».

Читайте також: Технічні компанії тихо допомагають у війні в Україні

>Сім’ї стверджують, що UnitedHealth постійно заперечує, що модель штучного інтелекту була неправильною, граючи в довгу гру, яка зрештою змушує сім’ї платити зі своєї кишені. Згідно з позовом, лише 0,2% усіх пацієнтів знайшли час для оскарження відмови. Справа висвітлює використання штучного інтелекту для визначення в охороні здоров’я без нагляду з боку людини. Оскільки моделі штучного інтелекту стають все більш поширеними, та сама небезпека неправильно навчених моделей ставатиме все більш поширеною. Інші приклади несправних алгоритмів у середовищі охорони здоров’я включають програмне забезпечення, розроблене для виявлення сепсису, яке не змогло розпізнати інфекцію у 67% людей, у яких вона розвинулася.

Хоча штучний інтелект може надати багато переваг за правильного використання, є занадто багато випадків, коли він використовує погано продумані алгоритми без будь-якої політики нагляду. Цей позов має на меті з’ясувати, чи було це навмисне нехтування з боку UnitedHealth, чи це випадок, коли компанія надто швидко рухалася до впровадження системи економії коштів.