En tirsdag morgen i marts. En bankkunde i Odense forsøger at logge ind på sin netbank, men bliver afvist igen og igen. Systemet påstår, at hendes svar på sikkerhedsspørgsmålene er forkerte. Hun ringer til kundeservice, men får kun at vide, at det er en automatiseret fejl – ingen kan hjælpe hende, før systemet selv finder ud af det. Hun ender med at vente tre dage på adgang til sine penge. Det er ikke bare frustrerende, det er dybt utrygt. Og hun er ikke alene.

Effektivitet uden ansvar skaber tillidskrise

Vi ser det igen og igen: AI-systemer lover effektivitet og besparelser, men når ingen tager ansvar for fejlene, forsvinder tilliden – både hos medarbejdere og kunder. Det er ikke kun et spørgsmål om teknik. Det handler om, hvem der står på mål, når maskinen træffer en forkert beslutning. Og det sker oftere, end man tror.

95% af tidlige AI-projekter leverer ikke målbar ROI. Det er ikke teknologien, der fejler, men måden den bliver brugt på. Når ansvar og gennemsigtighed mangler, opstår der en kløft mellem dem, der udvikler systemerne, og dem, der skal leve med konsekvenserne.

Eksempler fra virkeligheden: Offentlig sektor, finans og industri

Tag UK Department for Work and Pensions. Her blev en algoritme sat til at afsløre svindel med boligstøtte. Resultatet? Omkring 200.000 borgere blev fejlagtigt mistænkt for fusk, selvom langt de fleste var uskyldige. Ingen kunne forklare, hvorfor netop deres sag blev udvalgt. Det var ikke teknologien, der var problemet, men fraværet af ejerskab. Da det gik galt, var der ingen, der tog ansvar – og det tog måneder at rydde op.

I finanssektoren har Klarna været bannerfører for automatisering. Siden 2022 har de halveret antallet af ansatte, mens AI har overtaget opgaver svarende til 853 fuldtidsstillinger. Lønnen til de tilbageværende medarbejdere er steget med 60%, og omsætningen er fordoblet. Men billedet er mudret: Klarna har stadig tab på 95 millioner dollars på et kvartal, og ledelsen varsler flere fyringer. Automatisering har givet gevinster, men også usikkerhed og tab af stabilitet. Det er ikke et eventyr uden bagside.

Industri og detail: Når AI fejler i praksis

Vi har selv set, hvordan AI i produktionen kan gå galt. En anonymiseret case fra en dansk industrivirksomhed: En automatiseret kvalitetskontrol begyndte pludselig at kassere 20% af produktionen som fejlbehæftet. Ingen kunne forklare, hvorfor. Det viste sig, at en ændring i belysningen på fabrikken havde forvirret systemet. Først efter flere dages produktionstab fandt man fejlen. Det er ikke sjovt at stå i den slags situationer, hvor ingen tør tage ansvar, fordi beslutningen var “autonom”.

Også i detailhandlen ser vi, hvordan automatisering kan forringe kundeoplevelsen. Når chatbotten ikke kan forstå kundens problem, og ingen mennesker kan træde til, mister man hurtigt tilliden. Vi har oplevet det på egen krop, da en kunde hos en stor dansk kæde blev fanget i et loop mellem automatiske svar og manglende hjælp – først da ledelsen greb ind, blev sagen løst, og tilliden genoprettet.

Hvorfor fejler AI-projekter?

Det overraskede mig faktisk, hvor ofte det handler om noget så lavpraktisk som manglende match mellem teknologi og forretningsproblem. Ifølge MLQ State of AI in Business 2025 leverer 95% af AI-piloter ikke den forventede værdi. Ofte fordi ingen har defineret, hvem der har ansvaret, hvis noget går galt. Governance er svag, rollerne uklare, og dokumentationen mangelfuld. Det er som at bygge et hus uden at vide, hvem der har nøglen.

Vi har set, hvordan ledere bliver usikre, når de ikke kan forklare, hvorfor et AI-system træffer bestemte beslutninger. Medarbejdere mister hurtigt tilliden, hvis de ikke kan gennemskue, om dashboardet viser sandheden. Og kunder? De forsvinder, hvis oplevelsen føles kold og automatiseret.

Praktiske råd: Sådan balancerer du autonomi og ansvar

Hvordan undgår man at havne i samme fælde? Her er nogle erfaringer, vi har gjort os:

• Start med governance. Definér klare roller og ansvar – også når AI træffer beslutninger.
• Dokumentér processer og beslutninger. Det skal være muligt at forklare, hvorfor systemet gør, som det gør.
• Vær åben om brugen af AI – både overfor medarbejdere og kunder. Det skaber psykologisk tryghed.
• Mål og dokumentér ROI løbende. Hvis værdien udebliver, skal du turde justere eller stoppe projektet.
• Vær klar til at gribe ind, når noget går galt. Hav en plan for at genoprette tillid – både internt og eksternt.
• Sørg for, at data og processer er modne nok til AI. Ellers forstærker du bare eksisterende fejl.

AI er ikke farlig – fraværet af ansvar er

Det er let at blive forført af tanken om autonomi. Men AI er ikke farlig i sig selv. Det er, når vi slipper ansvaret, at problemerne opstår. Autonomi skal altid balanceres med menneskelig involvering. Det er ikke nok at sætte strøm til processerne – vi skal stadig have hånden på rattet.

Vi har oplevet, at de bedste AI-projekter starter med et simpelt spørgsmål: Ville jeg selv stole på systemet? Hvis svaret er nej, er det ikke klar til drift. Og det er okay. Hellere vente end at skabe en tillidskrise, der kan tage år at rette op på.

Opsamling: Hold fast i det menneskelige ansvar

AI kan gøre meget, men ikke alt. Uden ansvar og gennemsigtighed risikerer vi at miste både effektivitet og tillid. Vores råd? Hold den menneskelige hånd på rattet – også når teknologien frister med autonomi. Det er ikke bare sund fornuft. Det er god forretning.

Man opdager først forskellen, når man sidder med det i hænderne. Eller når man – som bankkunden i Odense – står uden adgang til sine egne penge. Så er det ikke længere et spørgsmål om teknologi, men om tillid og ansvar.

Kilder:

• https://www.artificialintelligence-news.com/news/autonomy-without-accountability-the-real-ai-risk/
• https://www.theguardian.com/business/2025/nov/18/buy-now-pay-later-klarna-ai-helped-halve-staff-boost-pay
• https://www.artificialintelligence-news.com/news/autonomy-without-accountability-the-real-ai-risk/
• https://www.edelman.com/trust/2025/trust-barometer
• https://assets.kpmg.com/content/dam/kpmgsites/xx/pdf/2025/05/trust-attitudes-and-use-of-ai-global-report.pdf
• https://www.theguardian.com/society/article/2024/jun/23/dwp-algorithm-wrongly-flags-200000-people-possible-fraud-error

Målgruppens mening om artiklen

Anne Madsen, IT-chef i offentlig sektor:

Jeg giver artiklen 85. Den rammer plet i forhold til de udfordringer, vi oplever med AI i det offentlige – især omkring ansvar og governance. Casen fra UK Department for Work and Pensions er meget genkendelig, og jeg synes, artiklen er både relevant og konkret. Dog savner jeg lidt mere om, hvordan man praktisk kan implementere de anbefalede løsninger.

Jonas Kjær, Digitaliseringskonsulent i finanssektoren:

Jeg giver den 78. Artiklen er interessant og rammer mange af de problemer, vi ser med automatisering og AI, især i forhold til kundeoplevelser og ansvar. Eksemplet med Klarna er spot on. Jeg havde dog gerne set flere konkrete eksempler fra dansk finanssektor og lidt mere dybde i løsningsforslagene.

Maria Holm, HR-ansvarlig i større industrivirksomhed:

Jeg giver artiklen 90. Den beskriver meget præcist de frustrationer, vi oplever, når AI-systemer fejler, og ingen vil tage ansvar. Det er en vigtig debat, og artiklen formår at gøre det håndgribeligt med gode eksempler. Jeg kunne dog godt have brugt lidt mere fokus på medarbejderperspektivet.

Peter Sørensen, CIO i dansk detailkæde:

Jeg giver den 82. Artiklen rammer et ømt punkt, især omkring kundeoplevelser og chatbot-fejl. Jeg synes, den balancerer godt mellem kritik og konstruktive råd. Det trækker dog lidt ned, at der er mange internationale eksempler og lidt færre danske cases.

Lise Jensen, Forretningsudvikler i mellemstor tech-virksomhed:

Jeg giver den 75. Jeg synes, artiklen er relevant og velskrevet, men den gentager nogle pointer, jeg har læst mange gange før. Det er vigtigt med ansvar og governance, men jeg savner mere nytænkning og konkrete værktøjer, man kan tage med sig.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af Gemini 3 Pro Nano Banana 2 Pro fra Google.