En algoritme sorterer mammografierne i Region Hovedstaden
I november 2021 fik en algoritme lov til at tage den første sortering af mammografierne i Region Hovedstadens brystkræftscreening. Når den vurderer, at et billede sandsynligvis er normalt, kigger kun én erfaren radiolog på det. Før skulle to læger se hvert eneste billede.
Ifølge Lovguidens gennemgang er det eksemplet, Det Etiske Råd går igen og igen tilbage til i sin nye redegørelse om kunstig intelligens i sundhedsvæsenet. Rapporten kom onsdag 4. november og bærer titlen “AI i sundhedsvæsenet – omsorg, ansvar og faglighed”. Rådet har gjort én usædvanlig ting, for det kommer slet ikke med anbefalinger. Det vil i stedet give patienter, sundhedspersonale, ledere og politikere noget at diskutere ud fra.
Flere kræftfund og færre kvinder kaldt ind uden grund
Tallene fra screeningen er gode, i hvert fald på papiret. Forskerne bag studiet sammenlignede 60.751 kvinder, der blev screenet uden AI, med 58.246, der blev screenet efter, at systemet kom ind. Med algoritmen fandt lægerne kræft hos 0,82 procent af kvinderne mod 0,70 procent før, svarende til 12 ekstra fund for hver 10.000 screeninger. Færre kvinder blev kaldt ind igen på grund af en falsk alarm, og radiologerne slap for at læse omkring en tredjedel af billederne.
Studiet blev offentliggjort i tidsskriftet Radiology, og den amerikanske radiologforening RSNA omtalte det i juni 2024.
Nogle af de ekstra fund er forstadier til kræft
Rådet stopper alligevel op ved tallene. Optællingen rummer også forstadier til brystkræft, såkaldt DCIS, og rådet peger på, at en større del af de nye fund var netop den slags forandringer, som måske aldrig var blevet til sygdom. Forfatterne har selv kaldt resultaterne tidlige indikatorer. Et ekstra fund kan være en reddet patient, men det kan også være en kvinde, der bliver behandlet for noget, hun aldrig var blevet syg af.
Bias, forklarlighed og ansvar er rådets tre bekymringer
Redegørelsen samler sine bekymringer i tre ord: bias, forklarlighed og ansvar. Bias dækker over, at et system kan virke dårligere for nogle patienter end for andre, typisk fordi de var for få i de data, det blev trænet på. Forklarlighed handler om, om lægen kan se, hvorfor maskinen peger på netop dét billede. Kan hun ikke det, bliver det svært at forklare patienten, hvad hun siger ja til.
Uklart hvem der har ansvaret, når en algoritme overser kræft
Ansvaret er det sværeste punkt. Hvis en algoritme overser en svulst, og den ene radiolog, der fik billedet, også gør det, hvem har så begået fejlen? Rådet lægger ansvaret ud over flere led, så det også omfatter dem, der udvikler, sælger og indfører systemerne. EU’s AI-forordning giver pligter til både udbydere og brugere af højrisikosystemer, men rådet skriver, at forordningen ikke alene kan afgøre, hvem der skal betale, når noget går galt. Det spørgsmål ender i sundhedsretten og erstatningsretten.
Formanden vil give lægerne tid til at udfordre maskinen
Formand Christine Nellemann siger det på denne måde i rådets pressemeddelelse: “Når AI indgår i en klinisk beslutning, er det vigtigt, at sundhedspersonalet har mulighed for at vurdere og udfordre teknologiens forslag.” Hun tilføjer, at det kræver kompetencer, tid og klare rammer for ansvaret. Tid er netop det, AI skulle frigøre, så der ligger en indbygget modsætning i at bruge den sparede tid på at kontrollere maskinen.
Regeringen vil frigøre 30.000 årsværk med AI
Debatten lander midt i et politisk pres. Regeringen har sat et mål om at frigøre 30.000 årsværk i den offentlige sektor med kunstig intelligens, og sundhedsvæsenet er et oplagt sted at hente dem. Når én radiolog i stedet for to læser et billede, er det præcis den slags besparelse, målet handler om. Rådets pointe er, at gevinsten ikke kommer af sig selv. Systemerne skal følges, når de først kører, og lægerne skal holde deres egen faglighed ved lige, også selv om maskinen tager de lette sager.
De samme spørgsmål gælder i almindelige virksomheder
Sagen rækker også ud over hospitalerne. En virksomhed, der lader en model sortere ansøgninger, kundesager eller fakturaer, står med de samme spørgsmål i en langt mindre dramatisk udgave. Nogen skal stadig kigge på de sager, maskinen kalder normale, og nogen skal kunne forklare en afgørelse, de ikke selv har truffet, når kunden ringer og vil vide hvorfor.
Bundlinjen
Svarene har rådet ikke givet, og det er meningen, for redegørelsen skal bruges som udgangspunkt for en offentlig debat. Den debat bliver mere konkret for hver algoritme, der kommer i drift. En god score i et studie er et godt argument for at tage en algoritme i brug. Som argument for at holde op med at kigge den over skulderen er den meget tyndere.
Kilder
- Det Etiske Råd via Ritzau: Det Etiske Råd: AI kan styrke sundhedsvæsenet, men rejser også vigtige etiske spørgsmål (4. november 2026)
- Lovguiden: Etisk Råd: AI i sundhedsvæsenet rejser spørgsmål om bias, forklarlighed og ansvar (4. november 2026)
- Avisen.dk: Det Etiske Råd advarer om dilemmaer ved AI i sundhedsvæsenet (5. november 2026)
- TV 2: Etisk råd sætter fokus på kunstig intelligens i sundhedsvæsnet (4. november 2026)
- RSNA: AI Detects More Breast Cancers (4. juni 2024)
- Version2: Professorer stempler Netcompanys AI-analyse som urealistisk (2. november 2026)
