Foto: Bax Lindhardt

Retfærdig behandling med kunstig intelligens

tirsdag 01 dec 20

Kontakt

Aasa Feragen
Professor
DTU Compute
26 22 04 98

Kontakt

Jakob Eyvind Bardram
Sektionsleder, Professor
DTU Sundhedsteknologi
45 25 53 11
Fordomme og stereotyper kan afspejles i algoritmer i sundhedsvæsenet. Nu vil forskere udvikle fair algoritmer.

I dag bliver kunstig intelligens (AI) og maskinlæring i stigende grad brugt i vores sundhedssystem. Læger og radiologer bruger f.eks. algoritmer som støtte til at tage beslutninger om, hvilken diagnose patienten kan have.

Problemet er blot, at algoritmer kan være lige så forudindtagede og fordomsfulde som mennesker, fordi de er baseret på data fra tidligere observationer. 

Hvis en algoritme f.eks. har set flere eksempler på lungesygdomme hos mænd end hos kvinder, vil den være bedre trænet til at opdage lungesygdomme hos mænd. 

Sundhedsdata har ofte en bias, en misrepræsentation af forskellige demografiske befolkningsgrupper, der ender med at påvirke, hvilke beslutninger en sundhedsalgoritme er i stand til at tage. Det kan føre til underdiagnosticering af nogle befolkningsgrupper, fordi der eksisterer flest data fra en bestemt gruppe. 

”Hvis algoritmen bliver trænet af data, der afspejler fordomme og stereotyper i samfundet, vil der også være skævheder eller bias i den kunstige intelligens, der reproducerer dataene – og det er ikke nødvendigvis fair,” siger Aasa Feragen, der er professor på DTU Compute, og fortsætter: 

”Idéen om, at kunstig intelligens skal tage vigtige beslutninger om min sundhedstilstand, er skræmmende, når man ved, at AI kan være lige så diskriminerende som de værste racister eller sexister,” siger hun. 


Hvad sikrer man fair behandling?

"AI kan være lige så diskriminerende som de værste racister eller sexister."
Professor Aasa Feragen, DTU Compute

Aasa Feragen er leder af et forskningsprojekt, som i de kommende tre år skal undersøge bias og fairness i kunstig intelligens inden for medicinske anvendelser. Målet er at udvikle retfærdige algoritmer, der skal være med til at give en fair behandling til alle i sundhedsvæsenet. I projektet deltager forskere fra Københavns Universitet, Rigshospitalet og det schweiziske tekniske universitet ETH.

I projektet vil forskerne f.eks. analysere demografiske data hos alle de danskere, der har fået en depressionsdiagnose i løbet af de seneste år. Forskerne vil teste en hypotese om, at der er skævheder i dataene – f.eks. i hvor tit danskerne bliver diagnosticeret, og hvilken type behandling de får, baseret på køn, alder, geografi og indkomst. Dernæst undersøger forskerne sammen med etiker og lektor Sune Hannibal Holm fra KU, hvordan man kan udvikle en fair sundhedsalgoritme. 

Der skal bl.a. diskuteres spørgsmål som ’hvornår er en beslutning diskriminerende?’, ’kan man udvikle metoder, der kan finde og fjerne diskriminerende bias i algoritmer, inden de bliver taget i brug?’, og ’hvordan kan man definere, hvilke beslutninger der er fair inden for medicin?’

”Man kunne argumentere for, at fordi AI-algoritmens skæve forudsigelser blot er et resultat af de skæve beslutninger, der bliver taget i vores nuværende sundhedssystem, så vil brugen af AI i sundhedsvæsenet ikke medføre nye problemer,” siger Aasa Feragen.

Men ifølge Aasa Feragen handler det om at udnytte, at AI har potentiale til at opdage disse bias, inden værktøjet har taget en eneste beslutning. Dermed kan man tage det bedste fra AI og finde nye veje til at minimere bias gennem transparente og sikre løsninger. 

Forskningsprojektet ’Bias and fairness in medicine’ modtager støtte fra Danmarks Frie Forskningsfond.


Fremtidssikring af sundhedsvæsenet

Kunstig intelligens og big data er byggesten i udviklingen af personlige sundhedsteknologier.


I takt med at danskerne lever længere, vokser antallet af mennesker, der lever med kroniske sygdomme som f.eks. type 2-diabetes og demens. Det har resulteret i en stadig stigende efterspørgsel på – og udvikling af – sundhedsløsninger til mobiltelefoner, smartwatches og biosensorer. 


Næste generation af smarte og personlige sundhedsteknologier kræver kunstig intelligens, Internet of Things, big data og bedre systemintegration. Ved at integrere data fra bl.a. hospitaler, læger, Sundhedsplatformen osv. kan man ikke alene monitorere patienters tilstand, men også forudsige behovet for f.eks. ekstra medicinering. Det betyder færre hospitalsindlæggelser, lægebesøg og sygedage, ligesom det hæver patienternes livskvalitet og sparer samfundet for milliarder af kroner.