Dla największej firmy ubezpieczeniowej UnitedHealthcare poziom błędów sztucznej inteligencji nie jest problemem, ale cechą tej pracy. UnitedHealthcare, największy ubezpieczyciel zdrowotny w Stanach Zjednoczonych, rzekomo wykorzystuje głęboko wadliwy algorytm sztucznej inteligencji, aby uchylać decyzje lekarzy i bezprawnie odmawiać starszym pacjentom kluczowych usług opieki zdrowotnej.

Prowadzi to do zbyt wczesnego wypisywania pacjentów z programów rehabilitacyjnych i placówek leczniczych, co zmusza ich do wydawania oszczędności na niezbędne leczenie, które byłoby objęte finansowanym przez rząd planem Medicare Advantage.

Wszystko wynika z pozwu złożonego w tym tygodniu w Sądzie Okręgowym Stanów Zjednoczonych dla Okręgu Minnesota. Pozew wnoszą spadkobiercy dwóch zmarłych osób, którym UnitedHealth odmówiło ubezpieczenia zdrowotnego. W pozwie dąży się również do uzyskania statusu pozwu zbiorowego dla podobnych osób, których w całym kraju mogą być dziesiątki tysięcy.

Pozew został złożony równolegle z dochodzeniem prowadzonym przez Stat News, które w dużej mierze potwierdza twierdzenia pozwu. Dochodzenie opiera się na dokumentach wewnętrznych i korespondencji uzyskanej przez dziennikarzy, a także wywiadach z byłymi pracownikami NaviHealth, spółki zależnej UnitedHealth, która opracowała algorytm sztucznej inteligencji o nazwie nH Predict.

„Pod koniec mojej pracy w NaviHealth zdałem sobie sprawę, że nie jestem adwokatem, po prostu zarabiam dla tej firmy” – powiedziała Stat Amber Lynch, terapeuta zajęciowy i była menedżerka ds. obsługi pacjentów w NaviHealth. „Chodzi o pieniądze i dane” – dodała. „To odbiera godność pacjenta i nienawidzę tego”.

Jak wynika z pozwu, UnitedHealth zaczęło korzystać z nH Predict co najmniej w listopadzie 2019 r. i nadal z tego korzysta. Algorytm szacuje, ile opieki pooperacyjnej będzie potrzebował pacjent Medicare Advantage po poważnym urazie, chorobie lub innym wypadku, takim jak upadek lub udar. Opieka pooperacyjna może obejmować usługi takie jak terapia i wykwalifikowana pielęgniarka świadczona przez agencje opieki domowej, domy opieki i stacjonarne ośrodki rehabilitacji.

Nie jest jasne, jak dokładnie działa nH Predict, ale podobno oblicza koszt opieki powypadkowej, czerpiąc informacje z bazy danych zawierającej 6 milionów rekordów pacjentów. Menedżerowie NaviHealth wprowadzają określone informacje o pacjencie, w tym wiek, sytuację życiową i stan fizyczny, a algorytm sztucznej inteligencji generuje wyniki na podstawie podobnych pacjentów w bazie danych. Algorytm ocenia potrzeby medyczne, długość pobytu i datę wypisu.

Lynch zauważył jednak w rozmowie ze Statem, że algorytm nie uwzględnia wielu istotnych czynników wpływających na zdrowie pacjenta i czas rekonwalescencji, m.in. chorób współistniejących oraz tego, co dzieje się podczas pobytu w szpitalu, np. w przypadku zarażenia się zapaleniem płuc w placówce medycznej, lub zachorowania na COVID-19.19 w domu opieki.

Jak wynika z dochodzenia i pozwu Stat, szacunki te są często drakońskie. Na przykład w ramach planu Medicare Advantage pacjenci przebywający w szpitalu przez trzy dni są zazwyczaj uprawnieni do stu dni objętej opieką w domu spokojne opieki.  Jednak w nH Predict pacjenci rzadko przebywają w domach opieki dłużej niż 14 dni, zanim UnitedHealth odmówi im zapłaty.

Kiedy pacjenci lub ich lekarze poprosili o raporty nH Predict, UnitedHealth odrzuciło ich prośby, twierdząc, że informacje są poufne. Tak wynika z pozwu. Kiedy lekarze przepisujący lek nie zgodzili się z decyzją UnitedHealth dotyczącą zakresu leczenia pooperacyjnego potrzebnego swoim pacjentom, ich opinia była zazwyczaj odrzucana.