Det Etiske Råd: AI kan styrke sundhedsvæsenet – men rejser også vigtige etiske spørgsmål

I en ny redegørelse sætter Det Etiske Råd fokus på de muligheder og dilemmaer, der følger med brugen af AI i sundhedsvæsenet.

Redegørelsen skal give patienter, sundhedsprofessionelle, ledere og politikere et grundlag for at diskutere, hvordan teknologien kan bidrage til et bedre sundhedsvæsen.

”Når AI indgår i en klinisk beslutning, er det vigtigt, at sundhedspersonalet har mulighed for at vurdere og udfordre teknologiens forslag. Det kræver kompetencer, tid og tydelige rammer for ansvaret. Samtidig skal patientens behov og mulighed for at give informeret samtykke have en central plads”, siger Christine Nellemann, formand for Det Etiske Råd.

Tre centrale etiske udfordringer

Udgivelsen behandler især bias, forklarlighed og ansvar.

Bias handler om skævheder, som kan betyde, at AI fungerer dårligere for nogle patientgrupper end for andre. Det kan eksempelvis ske, hvis grupper er utilstrækkeligt repræsenteret i de data, systemet er trænet på.

Forklarlighed handler om muligheden for at forstå grundlaget for en AI-anbefaling. Hvis grundlaget er svært at gennemskue, kan det udfordre både sundhedspersonalets faglige vurdering og dialogen med patienten.

Ansvar handler om, hvordan opgaver og forpligtelser fordeles mellem dem, der udvikler, indfører og anvender teknologien. Hvem er ansvarlig for en given AI-løsning? Især hvis den fejler. Det rejser også spørgsmålet om, hvilke forudsætninger sundhedspersonalet skal have for at kontrollere AI’s resultater og reagere på fejl.

Teknologien skal understøtte fagligheden

AI rummer et betydeligt potentiale i sundhedsvæsenet, men gevinsterne kommer ikke automatisk. Værdien afhænger af, hvordan teknologien indføres og bruges i praksis. Redegørelsen retter derfor opmærksomheden mod løbende vurdering af resultater og utilsigtede konsekvenser, vedligeholdelse af faglige kompetencer og hensynet til omsorgen for patienten.

Udgivelsen fremlægger ikke Det Etiske Råds samlede stillingtagen eller formelle anbefalinger på området. Det Etiske Råd ønsker med redegørelsen at bidrage til refleksion og offentlig debat om, hvordan AI kan anvendes i sundhedsvæsenet med blik for både mulighederne og de etiske udfordringer.

Læs redegørelsen: AI i sundhedsvæsenet