Η UnitedHealth AI αρνείται εσφαλμένα τους ισχυρισμούς, λέει η μήνυση

By | November 20, 2023

παίζω

Εδώ και χρόνια, κρίσιμες αποφάσεις για το ποιος λαμβάνει υγειονομική κάλυψη λαμβάνονται στα back office των ασφαλιστικών εταιρειών υγείας. Σήμερα, μερικές από αυτές τις αποφάσεις που αλλάζουν τη ζωή λαμβάνονται από προγράμματα τεχνητής νοημοσύνης.

Τουλάχιστον αυτό ισχυρίζονται δύο οικογένειες που μήνυσαν την UnitedHealth Group αυτή την εβδομάδα, υποστηρίζοντας ότι ο ασφαλιστικός γίγαντας χρησιμοποίησε αναδυόμενη τεχνολογία για να αρνηθεί ή να συντομεύσει τις παραμονές αποκατάστασης δύο ηλικιωμένων ανδρών τους μήνες πριν από το θάνατό τους.

Λένε ότι η τεχνητή νοημοσύνη της UnitedHealth, ή AI, λαμβάνει «άκαμπτες και μη ρεαλιστικές» αποφάσεις σχετικά με το τι χρειάζεται για να αναρρώσουν οι ασθενείς από σοβαρές ασθένειες και τους αρνείται τη φροντίδα σε εξειδικευμένα άτομα νοσηλευτικών και κέντρα αποκατάστασης που θα πρέπει να καλύπτονται από τα σχέδια Medicare Advantage, σύμφωνα με ομοσπονδιακή αγωγή που κατατέθηκε στη Μινεσότα από τα κτήματα δύο ηλικιωμένων ασθενών του Ουισκόνσιν. Η αγωγή, η οποία επιδιώκει το καθεστώς ομαδικής δράσης, ισχυρίζεται ότι είναι παράνομο να αφήνουμε την τεχνητή νοημοσύνη να αγνοεί τις συστάσεις των γιατρών σχετικά με αυτούς τους άνδρες και τους ασθενείς τους. Οι οικογένειες λένε ότι τέτοιες αξιολογήσεις πρέπει να γίνονται από επαγγελματίες γιατρούς.

Οι οικογένειες σημειώνουν στην καταγγελία ότι πιστεύουν ότι η ασφαλιστική εταιρεία αρνείται να φροντίσει ηλικιωμένους ασθενείς που δεν θα αντεπιτεθούν, παρόλο που τα στοιχεία δείχνουν ότι η τεχνητή νοημοσύνη κάνει κακή δουλειά στην αξιολόγηση των αναγκών των ανθρώπων. Η εταιρεία χρησιμοποίησε αλγόριθμους για να καθορίσει σχέδια κάλυψης και να αγνοήσει τις συστάσεις των γιατρών παρά το εκπληκτικά υψηλό ποσοστό σφαλμάτων του προγράμματος AI, λένε.

Πάνω από το 90 τοις εκατό των αρνήσεων αξιώσεων ασθενών ανατράπηκαν μέσω εσωτερικών προσφυγών ή δικαστή ομοσπονδιακού διοικητικού δικαίου, σύμφωνα με δικαστικά έγγραφα. Αλλά στην πραγματικότητα, λίγοι ασθενείς αμφισβήτησαν τους προσδιορισμούς των αλγορίθμων. Ένα μικρό ποσοστό ασθενών – 0,2% – επιλέγει να καταπολεμήσει τις αρνήσεις αξιώσεων μέσω της διαδικασίας προσφυγών. Η συντριπτική πλειονότητα των ανθρώπων που είναι ασφαλισμένοι από τα προγράμματα Medicare Advantage της UnitedHealth «θα πληρώσουν από την τσέπη τους ή θα παραιτηθούν από το υπόλοιπο της συνταγογραφούμενης μετα-οξείας φροντίδας τους», αναφέρει η αγωγή.

Δικηγόροι που εκπροσωπούν οικογένειες που μηνύουν τον ασφαλιστικό γίγαντα με έδρα τη Μινεσότα δήλωσαν ότι το υψηλό ποσοστό άρνησης ήταν μέρος της στρατηγικής της ασφαλιστικής εταιρείας.

«Αποθέτουν τα δικά τους κέρδη στους ανθρώπους με τους οποίους έχουν συμβόλαιο και στη συνέχεια υποχρεούνται νομικά να καλύψουν», είπε ο Ryan Clarkson, δικηγόρος από την Καλιφόρνια, η εταιρεία του οποίου έχει καταθέσει πολλές αγωγές κατά εταιρειών που χρησιμοποιούν AI. “Είναι τόσο απλό. Είναι απλά απληστία.”

Η UnitedHealth είπε στο USA TODAY σε μια δήλωση ότι το πρόγραμμα AI της naviHealth, που αναφέρεται στην αγωγή, δεν χρησιμοποιείται για τον προσδιορισμό της κάλυψης.

«Το εργαλείο χρησιμοποιείται ως οδηγός για να μας βοηθήσει να ενημερώσουμε τους παρόχους, τις οικογένειες και άλλους φροντιστές για το είδος της βοήθειας και της φροντίδας που μπορεί να χρειαστεί ο ασθενής τόσο στην εγκατάσταση όσο και μετά την επιστροφή του στο σπίτι», ανέφερε η εταιρεία.

Οι αποφάσεις κάλυψης βασίζονται στα κριτήρια του Centers for Medicare & Medicaid Services και στο πρόγραμμα ασφάλισης του καταναλωτή, ανέφερε η εταιρεία.

«Αυτή η αγωγή δεν έχει καμία αξία και θα υπερασπιστούμε σθεναρά τους εαυτούς μας», δήλωσε η εταιρεία.

Οι δοκιμές αυτού του τύπου δεν είναι καινούριες. Αποτελούν μέρος ενός αυξανόμενου αριθμού διαφωνιών.

Τον Ιούλιο, η δικηγορική εταιρεία Lawson υπέβαλε αγωγή κατά της CIGNA Healthcare, ισχυριζόμενη ότι η ασφαλιστική εταιρεία χρησιμοποίησε τεχνητή νοημοσύνη για να αυτοματοποιήσει τις απορρίψεις αξιώσεων. Η εταιρεία υπέβαλε επίσης αγωγές κατά του κατασκευαστή ChatGPT OpenAI και της Google.

Οι οικογένειες πληρώνουν για ακριβή φροντίδα που αρνείται ο ασφαλιστής

Οι ενάγοντες στην αγωγή αυτής της εβδομάδας είναι οι συγγενείς δύο αποθανόντων κατοίκων του Ουισκόνσιν, του Gene B. Lokken και του Dale Henry Tetzloff, οι οποίοι ήταν και οι δύο ασφαλισμένοι από τα ιδιωτικά προγράμματα Medicare της UnitedHealth.

Τον Μάιο του 2022, ο Lokken, 91 ετών, έπεσε στο σπίτι και έσπασε το πόδι και τον αστράγαλό του, απαιτώντας μια σύντομη παραμονή στο νοσοκομείο που ακολουθήθηκε από ένα μήνα σε ένα κέντρο αποκατάστασης, ενώ θεραπεύτηκε. Ο γιατρός του Λόκεν συνέστησε στη συνέχεια φυσικοθεραπεία για να μπορέσει να ανακτήσει δύναμη και ισορροπία. Ο άνδρας από το Ουισκόνσιν πέρασε λιγότερο από τρεις εβδομάδες σε φυσικοθεραπεία προτού ο ασφαλιστής τερματίσει την κάλυψή του και του συστήσει να αφεθεί ελεύθερος και να σταλεί στο σπίτι για να αναρρώσει.

Ένας φυσιοθεραπευτής περιέγραψε την κατάσταση του Λόκεν ως «παράλυτη» και «αδύναμη», αλλά οι εκκλήσεις της οικογένειάς του για συνέχιση της θεραπείας απορρίφθηκαν, σύμφωνα με τη μήνυση.

Η οικογένειά του επέλεξε να συνεχίσει τη θεραπεία παρά την άρνηση. Χωρίς κάλυψη, η οικογένεια έπρεπε να πληρώνει 12.000 έως 14.000 δολάρια το μήνα για περίπου ένα χρόνο θεραπείας στην εγκατάσταση. Ο Λόκεν πέθανε σε αυτή την εγκατάσταση τον Ιούλιο του 2023.

Η οικογένεια του άλλου άνδρα εξέφρασε επίσης ανησυχίες ότι οι απαραίτητες υπηρεσίες αποκατάστασης είχαν απορριφθεί από τον αλγόριθμο AI.

Ο Tetzloff ανάρρωνε από εγκεφαλικό τον Οκτώβριο του 2022 και οι γιατροί του συνέστησαν να μεταφερθεί ο 74χρονος από νοσοκομείο σε κέντρο αποκατάστασης για τουλάχιστον 100 ημέρες. Η ασφαλιστική εταιρεία αρχικά προσπάθησε να τερματίσει την κάλυψή της μετά από 20 ημέρες, αλλά η οικογένεια άσκησε έφεση. Στη συνέχεια, ο ασφαλιστής παρέτεινε την παραμονή του Tetzloff για άλλες 20 ημέρες.

Ο γιατρός του άνδρα είχε συστήσει επιπλέον φυσικοθεραπεία και εργοθεραπεία, αλλά η κάλυψή του έληξε μετά από 40 ημέρες. Η οικογένεια ξόδεψε περισσότερα από 70.000 δολάρια για τη φροντίδα του τους επόμενους 10 μήνες. Ο Tetzloff πέρασε τους τελευταίους μήνες του σε μια εγκατάσταση υποβοηθούμενης διαβίωσης, όπου πέθανε στις 11 Οκτωβρίου.

10 κλήσεις για αποκατάσταση ενός σπασμένου ισχίου

Η μήνυση έρχεται αφότου οι υποστηρικτές του Medicare άρχισαν να εκφράζουν ανησυχίες σχετικά με τη συστηματική χρήση της τεχνολογίας AI για την άρνηση ή τη μείωση της περίθαλψης σε ηλικιωμένους σε ιδιωτικά προγράμματα Medicare.

Το 2022, το Centre for Medicare Advocacy εξέτασε τη χρήση προγραμμάτων τεχνητής νοημοσύνης από αρκετούς ασφαλιστές σε χώρους αποκατάστασης και υγείας στο σπίτι. Η έκθεση της ομάδας υπεράσπισης κατέληγε στο συμπέρασμα ότι τα προγράμματα τεχνητής νοημοσύνης συχνά έπαιρναν αποφάσεις κάλυψης που ήταν πιο περιοριστικές από ό,τι θα επέτρεπε το Medicare και ότι οι αποφάσεις δεν είχαν το επίπεδο λεπτότητας που απαιτείται για την αξιολόγηση των μοναδικών περιστάσεων κάθε περίπτωσης.

«Έχουμε δει περισσότερη περίθαλψη που θα καλύπτονταν από το παραδοσιακό Medicare να απορρίπτεται ή να τερματίζεται πρόωρα», δήλωσε ο David Lipschutz, αναπληρωτής διευθυντής και ανώτερος δικηγόρος στο Centre for Medicare Advocacy.

Ο Lipschutz είπε ότι ορισμένοι ηλικιωμένοι που κάνουν έκκληση για άρνηση θα μπορούσαν να λάβουν αναβολή μόνο για να κλείσουν ξανά. Ανέφερε το παράδειγμα μιας γυναίκας από το Κονέκτικατ που αναζήτησε μια τρίμηνη παραμονή σε κέντρο αποκατάστασης ενώ ανέρρωσε μετά από αντικατάσταση ισχίου. Κατέθεσε και κέρδισε 10 προσφυγές αφού ένας ασφαλιστής προσπάθησε επανειλημμένα να τερματίσει την κάλυψή της και να περιορίσει τη διαμονή της.

Η σημασία του να έχουμε «άνθρωπους εν γνώσει»

Οι νομικοί εμπειρογνώμονες που δεν εμπλέκονται στις υποθέσεις λένε ότι η τεχνητή νοημοσύνη γίνεται γόνιμος στόχος για ανθρώπους και οργανισμούς που επιδιώκουν να κυριαρχήσουν ή να διαμορφώσουν τη χρήση των αναδυόμενων τεχνολογιών.

Ο Gary Marchant, διευθυντής σχολής στο Κέντρο Δικαίου, Επιστήμης και Καινοτομίας στο Κολλέγιο Νομικής Sandra Day O’Connor του Κρατικού Πανεπιστημίου της Αριζόνα, είπε ότι ένα σημαντικό ζήτημα για τους ασφαλιστές υγείας και άλλους που αναπτύσσουν προγράμματα τεχνητής νοημοσύνης είναι να διασφαλίσουν ότι οι άνθρωποι είναι μέρος της απόφασης. διαδικασία παραγωγής.

Ενώ τα συστήματα AI μπορούν να είναι αποτελεσματικά και να εκτελούν στοιχειώδεις εργασίες γρήγορα, τα ίδια τα προγράμματα μπορούν επίσης να κάνουν λάθη, είπε ο Marchant.

«Μερικές φορές τα συστήματα AI είναι παράλογα και στερούνται κοινής λογικής», είπε ο Marchant. «Πρέπει να έχεις έναν άνθρωπο ενήμερο».

Σε περιπτώσεις που αφορούν ασφαλιστικές εταιρείες που χρησιμοποιούν τεχνητή νοημοσύνη για να καθοδηγήσουν τις αποφάσεις αποζημίωσης, ο Marchant είπε ότι ένας βασικός νομικός παράγοντας θα μπορούσε να είναι ο βαθμός στον οποίο μια εταιρεία βασίζεται σε έναν αλγόριθμο.

Η μήνυση της UnitedHealth αναφέρει ότι η εταιρεία περιόρισε τη «διακριτική ευχέρεια» των εργαζομένων να αποκλίνουν από τον αλγόριθμο. Οι εργαζόμενοι που παρέκκλιναν από τις προβλέψεις του προγράμματος AI υπόκεινταν σε πειθαρχικά μέτρα ή απόλυση, σύμφωνα με τη μήνυση.

Ο Marchant είπε ότι ένας παράγοντας που πρέπει να προσέξουμε στις υποθέσεις της UnitedHealth και παρόμοιες αγωγές είναι ο βαθμός στον οποίο οι εργαζόμενοι υποχρεούνται να ακολουθούν ένα μοντέλο τεχνητής νοημοσύνης.

«Σαφώς πρέπει να υπάρχει μια ευκαιρία για τον άνθρωπο που λαμβάνει αποφάσεις να παρακάμψει τον αλγόριθμο», είπε ο Marchant. «Αυτό είναι ένα σημαντικό πρόβλημα στην τεχνητή νοημοσύνη και την υγειονομική περίθαλψη».

Είπε ότι είναι σημαντικό να ληφθούν υπόψη οι συνέπειες του τρόπου με τον οποίο οι εταιρείες διαμορφώνουν τα συστήματά τους AI. Οι εταιρείες θα πρέπει να σκεφτούν πόση σημασία δίνουν σε έναν αλγόριθμο, γνωρίζοντας ότι η τεχνητή νοημοσύνη μπορεί να αφομοιώσει τεράστιες ποσότητες δεδομένων και να είναι “απίστευτα ισχυρή” καθώς και “απίστευτα ακριβής”, είπε, και οι ηγέτες θα πρέπει επίσης να έχουν κατά νου ότι η τεχνητή νοημοσύνη “μερικές φορές μπορεί απλώς να είναι εντελώς λάθος». »

Ο Ken Alltucker είναι στο X, πρώην Twitter, στο @kalltucker ή μπορεί να σταλεί email στο alltuck@usatoday.com.

Leave a Reply

Your email address will not be published. Required fields are marked *