Big data en kunstmatige intelligentie

Amerikaanse software maakt onbedoeld raciaal onderscheid

Natali_Mis / Getty Images / iStock

Amerikaanse verzekeraars en ziekenhuizen gebruiken software die hen helpt te beslissen welke patiënten worden doorgestuurd naar bepaalde programma's die hulp en zorg bieden. Dit leidt echter tot achterstelling van de zwarte bevolking bij het toekennen van zorg.

Dit blijkt uit onderzoek van de University of California.

Amerikaanse verzekeraars en ziekenhuizen gebruiken de software omdat het moet leiden tot lagere zorgkosten. De software stelt echter regelmatig voor om relatief gezonde witte patiënten toe te laten, terwijl sommige zwarte patiënten de hulp beter zouden kunnen gebruiken. Een aanpassing in de software kan leiden tot een verdubbeling van het aantal zwarte patiënten dat aan de programma’s deelneemt, zegt onderzoeksleider Ziad Obermeyer in het wetenschappelijke tijdschrift Science.

Obermeyer: patroon

Het onderzoek van Obermeyer is gebaseerd op patiëntgegevens van een groot Amerikaans ziekenhuis. De zorgkosten van zwarte patiënten zijn hier per jaar gemiddeld 1.800 dollar lager dan voor blanken met vergelijkbare ziektebeelden. De lage kosten hebben niet te maken met een lagere zorgbehoefte van de zwarte bevolking, maar met een beperktere toegang tot die zorg. Dit patroon dient zich overal in de Verenigde Staten aan.

De leverancier van de software, techbedrijf Optum, is van mening dat de fout bij de ziekenhuizen ligt. Volgens een woordvoerder moeten zorginstellingen de algoritmes zelf aanvullen met sociaal-economische gegevens van de patiënt. ‘Onze algoritmes moeten worden aangevuld met de expertise en kennis van de arts over de individuele behoeften van zijn of haar patiënt,’ aldus de woordvoerder.

Wantrouwen in zorgsysteem

De conclusies van Obermeyer staan niet op zichzelf. Eerder wetenschappelijk onderzoek legde eveneens raciale ongelijkheden in de Amerikaanse zorg bloot. Daarbij speelden meerdere factoren een rol. Zo is er sprake van een onbewuste houding van witte artsen ten opzichte van zwarte patiënten. Maar ook is er een relatief groot wantrouwen van de zwarte bevolking in het Amerikaanse zorgsysteem. Tot slot spelen een gebrek aan transportmogelijkheden en andere oorzaken die samenhangen met armoede mee.

Algoritmes

Big data en AI zijn ook in de VS steeds belangrijker bij het nemen van beslissingen in de gezondheidszorg. Sommige deskundigen zijn bang dat onjuiste algoritmes eventuele raciale en andere vooroordelen verder versterken. Ruha Benjamin van Princeton University schrijft hierover in het inleidende artikel in Science bij het onderzoek van Obermeyer. Volgens Benjamin blijkt dat sommige ‘geautomatiseerde systemen discriminatie achter een laagje technische neutraliteit verbergen, versnellen en verdiepen’.

Reacties