Big data en kunstmatige intelligentie

Dirk Lukkien: AI in het belang van burger, niet van ziekenhuis of farmaceut

AI in de zorg heeft veel goede kanten. Maar we moeten er voor waken dat AI in het belang van de burger is, en niet van het ziekenhuis dat omzet wil draaien of van de farmaceut die medicijnen wil verkopen. Dat stelt onderzoeker Dirk Lukkien.

De rol van artificiële intelligentie, of AI, wordt steeds groter in de zorg. Er wordt steeds duidelijker dat dit goede kanten heeft. Maar we moeten er dan wel voor waken dat AI in het belang van de burger is, en niet van het ziekenhuis dat veel omzet wil draaien of van de farmaceut die dure medicijnen wil verkopen, of van Amazon die allerlei hulpmiddelen wil verkopen.

In de zorg zijn er al verschillende concrete toepassingen waarin AI een rol speelt. Denk bijvoorbeeld aan beslissingsondersteunende software waarmee een arts op basis van specialistische kennis en data van grote groepen cliënten een aanbeveling krijgt over de behandeling die bij een individuele cliënt de grootste kans geeft op het gewenste resultaat.

Leefstijlmonitoring

Denk ook aan leefstijlmonitoring, een netwerk van sensoren in huis bij kwetsbare ouderen met dementie, dat door analyse op de verkregen data helpt om de gezondheid en veiligheid van een bewoner in de gaten te houden en vroegtijdig signaleert als er achteruitgang is of een behoefte aan zorg en ondersteuning. Of denk aan sociale robots, wearables en gezondheidsapps, die vaak bakken met data over hun gebruikers verzamelen en steeds beter van deze data zullen leren om gezonde burgers en mensen met een zorgvraag optimaal te ondersteunen.”

Is dat wel veilig, AI in de zorg? Over die vraag heeft de Raad voor Volksgezondheid en Samenleving (RVS) onlangs een advies uitgebracht. De RVS is van mening dat AI in de zorg veel kansen te bieden heeft, en  dat de kwaliteit, toegankelijkheid, pluriformiteit, betaalbaarheid en solidariteit erdoor kunnen toenemen.

Google en Facebook

Tegelijkertijd waarschuwt de RVS ervoor dat AI in de zorg deze publieke waarden ook kan ondermijnen. Dit vraagt om tijdige maatregelen om de ontwikkelingen in goede banen te leiden. Er staat volgens de RVS te veel op het spel om een afwachtende houding in te nemen.

De ontwikkeling van AI heeft bovendien een hoog tempo, ook in de zorg. Grote techbedrijven als Google, Facebook, Apple, Amazon en Microsoft hebben in andere markten al bewezen in staat te zijn om in korte tijd AI-gedreven technologie en diensten op grote schaal te introduceren. Het is niet ondenkbaar dat zulke techbedrijven op korte termijn ook belangrijke taken en diensten in de Nederlandse zorg overnemen en beheersen.

Rathenau Instituut

Ook het Rathenau Instituut heeft onlangs een rapport uitgebracht dat de overheid, het zorgveld en de politiek handvatten moet geven om te zorgen dat digitale diensten die gebruik maken van gezondheidsdata passen bij een ‘maatschappelijk verantwoorde digitale samenleving’. Ook de onderzoekers van het Rathenau instituut waarschuwen voor de steeds schevere machtsverhoudingen tussen techbedrijven en burgers door monopolisering van gezondheidsdata en beperkte transparantie van de analyses.

Een van de aanbevelingen is dan ook om goede voorbeelden van digitale diensten maximaal te benutten en om te komen tot gedragsregels voor ontwikkelaars en aanbieders van digitale diensten en AI, die zorgen voor een brede verantwoordelijkheid en bewustzijn over de impact op zorg en maatschappij. Dit gaat om veel meer dan databeveiliging en privacy alleen. En dit gaat om het centraal stellen van publieke belangen en niet alleen commerciële belangen.

Seksistisch en racistisch

Dat klinkt dus alsof er toch wel wat risico’s aan AI kleven, en dat is ook het geval. Algoritmen zijn dikwijls in staat om betere, snellere en soms transparantere beslissingen te nemen dan mensen. Maar ze kunnen net zo goed discrimineren, seksistisch en racistisch zijn, of de plank volledig mis slaan. Bovendien zijn het steeds vaker ‘black boxes’ die beslissingen maken of begeleiden zonder dat wij ze als mens volledig begrijpen. Dit neemt echter niet weg dat innovaties op het gebied van AI hard nodig zijn om te helpen compenseren voor de toenemende zorgvraag en de krimpende arbeidsmarkt.

Ook minister Bruins omarmt in een recente kamerbrief de beschikbaarheid en het zinvol gebruik van data als een van de belangrijkste elementen bij het leveren van de juiste zorg op de juiste plaats op het juiste moment voor iedereen. Maar ook de minister erkent dat er tegelijkertijd vertrouwenskwesties aan de orde zijn bij toenemende verzameling, uitwisseling en gebruik van data en de toenemende rol van algoritmen.

Enorme uitdagingen

Zelf denk ik dat de meeste betrokken partijen de beste bedoelingen hebben met de inzet van technologie. Maar we moeten ons ook realiseren dat er enorme uitdagingen zijn op dit gebied. De macht die een aantal grote spelers zich op de internationale markt toe-eigenen kan er bijvoorbeeld toe leiden dat er morele waarden en aannames in AI-systemen worden ingebouwd die niet alleen beperkt zichtbaar zijn, maar ook afwijken van onze eigen normen en waarden. In hoeverre houden we het voor mogelijk dat niet alleen Silicon Valley, maar ook Chinese techbedrijven en het opkomende Chinese Sociaal Krediet Systeem invloed gaan hebben op de manier waarop wij in Nederland en Europa onze zorg organiseren en hoe waarden als toegankelijkheid en solidariteit daarin verankerd zijn? En in hoeverre kunnen we zorgtechnologie die wereldwijd wordt ingezet nog aanpassen aan onze wensen op nationaal en lokaal niveau?

Allerlei spanningen

De RVS stelt dat we op de korte termijn kwaliteitseisen moeten stellen voor de technische en morele betrouwbaarheid van AI-toepassingen. Dit is een mooi streven, maar het roept wel vragen op. In hoeverre is het bijvoorbeeld haalbaar om de zorgpraktijk hierbij te betrekken? Beleidsmakers, academici en mensen uit de zorgpraktijk streven ernaar om zorggebruikers en andere burgers ‘centraal’ te stellen, maar tegelijkertijd bestaan er allerlei spanningen. Zoals de grote diversiteit aan belangen van cliënten, burgers, verzorgenden, verzekeraars en andere belanghebbenden, de kloof tussen de referentiekaders van experts en ‘leken’ en de machtsverhoudingen op internationaal, nationaal en lokaal niveau. Zulke spanningen kunnen innovatie en de inzet van AI in de zorg in het belang van de individuele cliënt en burger flink in de weg staan.

Dit jaar doe ik bij Vilans promotieonderzoek naar de ontwikkeling en toepassing van AI in de langdurende zorg. Daarbij richt ik me op vraagstukken rondom het belang van de cliënt, burger, verzorgenden en andere gebruikers van AI. Hoe zorgen we er voor dat AI een aanvulling is op menselijke kennis en expertise in de langdurige zorg, dat mensen vertrouwen hebben in de rol van AI en dat kernwaarden zoals autonomie en privacy worden gerespecteerd? Wie is eigenlijk de gebruiker van AI en welke controle heeft deze gebruiker over de doelstellingen en uitkomsten van AI-gedreven zorgtoepassingen? Ik denk dat er rondom zulke vraagstukken een grote behoefte is aan goede voorbeelden en inzicht in de criteria die men hierbij kan stellen.

Dirk Lukkien werkt als onderzoeker bij kennisorganisatie Vilans

Reacties