AI og patientdata. To ord, der får det til at sitre i både bestyrelseslokaler og på hospitalets IT-gang. Det er ikke bare endnu en hypebølge. Det er et reelt dilemma, som MIT’s seneste studie har sat spot på: Kan AI-modeller faktisk komme til at huske – og dermed lække – følsomme patientoplysninger, selv når dataene er anonymiserede?

Hvorfor er det så brandvarmt?

Vi har set, hvordan AI buldrer ind i sundhedssektoren. Diagnoser, risikovurderinger, patientforløb – alt sammen drevet af data. Men hvad nu, hvis de AI-modeller, vi bruger, ikke bare lærer generelle mønstre, men også husker detaljer om enkelte patienter? MIT’s forskere har netop dokumenteret, at risikoen ikke er teoretisk. Den er reel. Og det er ikke kun i USA – det gælder også for danske og nordiske hospitaler, hvor vi er stolte af vores datadrevne sundhedsvæsen.

Hvad betyder “memorization” egentlig?

Det lyder teknisk, men det er faktisk ret jordnært: Når en AI-model “memorerer”, betyder det, at den ikke bare lærer generelle regler, men også kan gengive konkrete oplysninger fra de data, den er trænet på. Forestil dig, at du spørger en model om noget, og den – måske uden at ville det – afslører, at “en 47-årig mand fra Fyn med en sjælden blodsygdom fik denne behandling”. Det er ikke anonymt længere.

Det, der overraskede os, var hvor let det i visse tilfælde kan ske. Selv når data er de-identificeret, kan kombinationen af sjældne sygdomme, alder, og andre detaljer gøre det muligt at genkende en patient. MIT’s studie viser, at jo mere information en angriber har på forhånd, jo større er risikoen for, at modellen lækker noget følsomt.

Eksempler fra virkeligheden

MIT-forskerne lavede et forsøg, hvor de testede, om AI-modeller kunne lokkes til at afsløre patientoplysninger. De brugte såkaldte “adversarial prompts” – altså spørgsmål, der er designet til at grave dybt i modellens hukommelse. Resultatet? Jo mere angriberen vidste på forhånd, jo større risiko for lækage. Det er lidt som at spille “gæt og grimasser” med en model, der ikke altid kan holde mund.

Vi har ikke set en dansk sag endnu, men forestil dig et hospital i Aarhus, hvor en model er trænet på sjældne børnesygdomme. Hvis en journalist eller en hacker kender bare lidt til en patient, kan de måske få modellen til at afsløre resten. Det er ikke science fiction. Det er et reelt scenarie, der kan ske, hvis vi ikke passer på.

Hvad sker der, hvis det går galt?

Det er ikke bare et spørgsmål om dårlig PR. Hvis følsomme oplysninger slipper ud, kan det ødelægge tilliden mellem patienter og sundhedsvæsen. Og det kan være direkte ulovligt ifølge GDPR. Forestil dig, at en model afslører en HIV-diagnose eller et alkoholmisbrug. Det kan have store konsekvenser for den enkelte.

Hvordan kan vi teste og beskytte os?

MIT’s forskere foreslår en række tests, hvor man aktivt prøver at få modellen til at afsløre noget, den ikke burde. Det handler om at måle, hvor meget modellen “ved” om enkelte patienter, og hvor let det er at få den til at afsløre det. Teknikker som “differential privacy” kan gøre det sværere for modellen at huske enkeltpersoner, men det er ikke en sølvkugle. Vi har selv set, at det kræver en del tilpasning til sundhedsdata – det er ikke plug-and-play.

Organisatorisk er der også meget at gøre. Hvem har ansvaret for at teste modellerne? Hvordan samarbejder man med leverandører? Vi har oplevet, at mange hospitaler ikke har en klar rollefordeling her. Det er et hul, der skal lukkes.

GDPR og ansvar

Juraen er ikke til at komme udenom. GDPR stiller strenge krav til beskyttelse af persondata, og AI-modeller er ikke undtaget. Man skal kunne dokumentere, at man har gjort, hvad man kunne for at forhindre datalæk. Det betyder løbende test, dokumentation og – ikke mindst – en plan for, hvad man gør, hvis uheldet er ude. Det er ikke nok med en IT-politik i en skuffe.

Hvordan taler vi om det?

Det her er måske det sværeste. Hvordan forklarer man til patienter og pårørende, at deres data er i gode hænder – når man samtidig ved, at ingen løsning er 100 procent sikker? Vi har oplevet, at ærlig kommunikation virker bedst. Fortæl om risici, men også om de foranstaltninger, der er sat i værk. Og vær klar til at tage dialogen, hvis nogen er bekymrede.

Innovation vs. etik – en balancegang

Det er let at blive begejstret for AI’s muligheder. Men vi må ikke glemme etikken. Hvis vi mister patienternes tillid, mister vi alt. Det er en balance, vi som AI-konsulenter ofte står midt i. Vi har set, hvordan for meget forsigtighed kan bremse innovation – men for lidt kan koste dyrt.

Hvad skal vi gøre nu?

Vi mener, at hospitaler, leverandører og myndigheder skal tage handsken op:

• Test jeres AI-modeller for memorization – ikke kun én gang, men løbende.
• Dokumentér processer og resultater, så I kan vise, at I tager ansvar.
• Samarbejd på tværs – ingen kan løse det her alene.
• Vær åbne om både styrker og svagheder ved jeres AI-løsninger.

Det er ikke raketvidenskab, men det kræver vilje og ressourcer. Og måske lidt mere nysgerrighed end frygt.

Opsamling – og et lille forbehold

Vi er ikke i mål. Memorization i AI-modeller er et problem, der ikke forsvinder i morgen. Det kræver konstant opmærksomhed, nye metoder og – vigtigst af alt – en åben debat om, hvor meget vi tør stole på teknologien. Man opdager først forskellen, når man sidder med det i hænderne. Og det gør vi, hver dag.

Kilder:

• https://news.mit.edu/2026/mit-scientists-investigate-memorization-risk-clinical-ai-0105
• https://news.mit.edu/2025/explained-generative-ai-environmental-impact-0117
• https://jclinic.mit.edu/team-member/marzyeh-ghassemi/
• http://www.cs.toronto.edu/~stonekaboni/
• https://neurips.cc/virtual/2025/events/workshop
• https://arxiv.org/pdf/2510.12950

Målgruppens mening om artiklen

Anne Madsen, IT-sikkerhedsansvarlig på regionshospital: Jeg giver artiklen 92. Den rammer plet ift. de bekymringer, vi sidder med i hverdagen, især omkring AI og patientdata. Artiklen er konkret, realistisk og tager både de tekniske og organisatoriske udfordringer alvorligt. Jeg savner måske lidt flere danske cases, men ellers er det spot on.

Jesper Holm, CIO i større hospitalskoncern: Jeg giver den 85. Artiklen er meget relevant, og den forklarer problematikken med memorization i AI på en letforståelig måde. Jeg kunne dog godt have ønsket mig lidt mere om, hvordan man organisatorisk kan fordele ansvar og sikre governance i praksis, men det er absolut et vigtigt emne.

Maria Jensen, Data Protection Officer (DPO): Jeg giver den 95. Artiklen er ekstremt relevant for mit arbejde, og jeg synes, den balancerer tekniske, juridiske og etiske aspekter rigtig godt. Den sætter fokus på GDPR og nødvendigheden af dokumentation, hvilket ofte bliver overset i debatten.

Lars Friis, Klinisk forsker og AI-projektleder: Jeg giver den 78. Jeg synes, artiklen er god til at formidle problemstillingen, men jeg mangler noget mere om, hvordan man konkret kan implementere de foreslåede løsninger i forskningsprojekter. Det er dog et vigtigt wake-up call.

Camilla Sørensen, Sygeplejerske med interesse for digitalisering: Jeg giver den 88. Jeg forstår problematikken, selvom jeg ikke er teknisk specialist. Artiklen forklarer det på en måde, hvor jeg kan se, hvorfor det er vigtigt også for os på gulvet. Jeg kunne dog godt tænke mig flere eksempler fra dansk praksis.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af Gemini 3 Pro Nano Banana 2 Pro fra Google.