AI på vej ind i alle kroge – men ikke uden bump på vejen

AI er ikke længere kun et buzzword i tech-branchen – det er blevet et strategisk satsningsområde for både private og offentlige organisationer. Deloitte har netop annonceret, at de ruller Anthropic’s Claude ud til samtlige 500.000 medarbejdere globalt. Men samtidig har virksomheden måttet refundere et millionbeløb til den australske stat, fordi en AI-genereret rapport var fyldt med falske citater. Det er et billede på, hvor hurtigt AI rykker ind i forretningskritiske processer – og hvor let det kan gå galt, hvis governance og kvalitetssikring ikke følger med.

Hvorfor satser Deloitte på AI trods fejl?

Deloitte har valgt at implementere Anthropic’s Claude på trods af de åbenlyse risici, som AI stadig indebærer. Ifølge både TechCrunch og The Tech Buzz handler det om at opnå erfaring og opbygge kompetencer, før konkurrenterne løber med gevinsterne. Virksomhederne oplever et massivt pres fra både kunder og markedet for at levere AI-drevne løsninger, og frygten for at sakke bagud vejer tungere end frygten for fejl. Deloitte’s samarbejde med Anthropic omfatter blandt andet et Center of Excellence og certificering af 15.000 specialister, der skal sikre, at AI-udrulningen sker ansvarligt og i stor skala.

Praktiske erfaringer: Succeser og faldgruber

Både offentlige og private organisationer rapporterer om betydelige effektiviseringsgevinster ved brug af AI – især inden for sagsbehandling, HR og kundeservice. Zendesk har eksempelvis lanceret AI-agenter, der kan håndtere op mod 80% af kundesagerne autonomt. Men erfaringerne viser også, at de sidste 20% kræver menneskelig indgriben for at sikre kvalitet og empati. Deloitte-sagen fra Australien illustrerer, at selv de største aktører kan snuble, hvis governance ikke følger med ambitionerne – og at fejl kan få både økonomiske og omdømmemæssige konsekvenser.

Konkrete cases fra virkeligheden

I den offentlige sektor har flere kommuner eksperimenteret med AI til at sortere borgerhenvendelser eller automatisere dokumentation. Her er erfaringen, at AI kan frigøre tid og ressourcer – men kun hvis der er styr på datakvalitet og løbende menneskelig kontrol. I private virksomheder som Zendesk ser man AI-løsninger, der effektivt håndterer store mængder rutineopgaver, men hvor de mest komplekse og følsomme sager stadig kræver menneskelig dømmekraft.

Hvordan undgår man falske citater og fejl?

En central læring er behovet for stærk governance og risikostyring. AI bør aldrig stå alene, når det gælder kritiske beslutninger eller rapporter. Organisationer bør etablere klare procedurer for kvalitetssikring, herunder tjek af kilder og validering af AI’s output. Det kræver både tekniske løsninger og opkvalificering af medarbejdere, så de kan spotte og håndtere fejl. Deloitte’s samarbejde med Anthropic omfatter netop udvikling af compliance-funktioner og træning af specialister, der skal sikre ansvarlig brug af AI på tværs af brancher.

AI’s indflydelse på medarbejdernes arbejdsgange

Implementering af AI ændrer ikke kun processer, men også medarbejdernes roller. Mange oplever, at rutineopgaver forsvinder, mens behovet for kritisk sans og teknologiforståelse vokser. For HR-ansvarlige er det afgørende at støtte medarbejderne i omstillingen, fx gennem træning i AI-kompetencer og åben kommunikation om forandringerne. Erfaringen viser, at modstand ofte skyldes usikkerhed om, hvad AI betyder for den enkeltes job og ansvar.

Forandringsledelse og kommunikation omkring AI

Succesfuld AI-implementering kræver mere end teknologi – det kræver også god forandringsledelse. Det handler om at involvere medarbejderne tidligt, adressere bekymringer åbent og sikre, at alle forstår både muligheder og begrænsninger. Organisationer, der lykkes, har typisk investeret i både træning og løbende dialog om AI’s rolle og potentiale.

Lessons learned: Hvad kan vi tage med videre?

De seneste eksempler viser, at AI kan skabe værdi, hvis organisationen har styr på governance, kvalitetssikring og medarbejdernes kompetencer. Det er vigtigt at lære af fejl – både egne og andres – og bruge dem til at justere processer og forventninger. Deloitte’s erfaringer understreger, at man ikke kan springe over, hvor gærdet er lavest, når det gælder ansvarlig brug af AI. Andre konsulenthuse som McKinsey og BCG har oplevet lignende udfordringer, men ofte uden samme offentlige bevågenhed.

Best practices for robust AI i praksis

• Etabler klare retningslinjer for brug af AI og kvalitetssikring af output.
• Involver både tekniske og forretningsmæssige kompetencer i udviklingen.
• Gennemfør løbende træning og opkvalificering af medarbejdere.
• Brug AI som supplement – ikke erstatning – for menneskelig dømmekraft i kritiske processer.
• Evaluer og justér governance løbende på baggrund af konkrete erfaringer.

Tekniske udfordringer og løsninger

AI-systemer fejler ofte, når de mangler adgang til opdateret eller korrekt data, eller når de bliver brugt til opgaver, de ikke er trænet til. For at bygge robuste løsninger skal man sikre datakvalitet, anvende flere valideringslag og have mulighed for at spore, hvordan AI er nået frem til sine konklusioner. Det kræver tæt samarbejde mellem udviklere, data scientists og domæneeksperter – og ikke mindst, at organisationen tør stille kritiske spørgsmål til AI’s output.

Hvordan sikrer man validitet i AI-genererede rapporter?

Validitet handler om mere end bare korrekt data – det handler også om at forstå, hvor AI kan fejle, og hvordan man opdager det i tide. Organisationer bør bruge manuelle stikprøver, automatiserede tjek og feedback fra brugere til løbende at forbedre AI’s præcision. Erfaringen fra både Deloitte og Zendesk viser, at det er muligt at opnå høj kvalitet, men kun med vedvarende indsats og opmærksomhed på risici.

Etiske aspekter: Misinformation og ansvar

AI’s evne til at generere tekst og rapporter rejser spørgsmål om misinformation og troværdighed. Det er afgørende, at organisationer tager ansvar for outputtet og ikke overlader det til AI alene. Etisk governance bør være en integreret del af AI-strategien, især i sektorer hvor tillid er altafgørende. Deloitte’s Trustworthy AI™ framework og samarbejdet med Anthropic om compliance-funktioner er eksempler på, hvordan man kan arbejde systematisk med etisk ansvar.

Snillds anbefalinger til ansvarlig AI-brug

Hos Snilld anbefaler vi at kombinere teknologisk nysgerrighed med sund skepsis. AI kan være en gamechanger, men kun hvis man investerer i governance, medarbejderkompetencer og løbende evaluering. Vi hjælper organisationer med at designe robuste AI-strategier, der balancerer innovation med ansvarlighed og kvalitet – og vi tror på, at de bedste resultater opnås, når man tør lære af både egne og andres fejltrin.

Hvad siger eksperterne?

Eksperter peger på, at AI’s succes afhænger af samspillet mellem teknologi, organisation og mennesker. Det handler ikke kun om at købe den nyeste løsning, men om at forstå, hvordan den passer ind i eksisterende processer – og hvor den kan skabe reel værdi. Lessons learned fra både private og offentlige cases viser, at de bedste resultater opnås, når man tør lære af fejl og justere kursen løbende.

Vejen frem: Fra hype til ansvarlig implementering

AI er kommet for at blive, men vejen til succes er brolagt med både muligheder og faldgruber. Organisationer, der satser på AI, bør gøre det med åbne øjne – og med vilje til at lære af både egne og andres erfaringer. Deloitte’s historie viser, at selv de største kan fejle, men også at fejl kan være værdifulde, hvis de bruges til at styrke governance og kvalitet fremover.

Kilder:

• https://techcrunch.com/video/why-deloitte-is-betting-big-on-ai-despite-a-10m-refund/
• https://www.deloitte.com/us/en/services/consulting/blogs/ai-adoption-challenges-ai-trends.html
• https://www.techbuzz.ai/articles/deloitte-deploys-ai-to-500k-staff-despite-10m-refund-scandal
• https://www.anthropic.com/news/deloitte-anthropic-partnership
• https://www.zendesk.com/service/ai/
• https://www.cbsnews.com/news/tesla-fsd-nhtsa-investigation-traffic-violations/

Målgruppens mening om artiklen

Anders, IT-chef i større kommune:

Jeg giver artiklen 82 ud af 100. Den rammer mange af de udfordringer og muligheder, vi selv oplever med AI i det offentlige. Jeg synes, den balancerer optimisme og skepsis på en god måde, og jeg kan genkende pointerne om governance og behovet for løbende opkvalificering. Dog kunne jeg godt have ønsket flere konkrete eksempler fra den kommunale verden.

Mette, HR-ansvarlig i mellemstor privat virksomhed:

Jeg giver artiklen 75. Den er relevant, især afsnittene om medarbejdernes omstilling og behovet for træning. Jeg savner dog lidt mere om, hvordan man konkret arbejder med forandringsledelse i praksis, og hvilke faldgruber man skal være opmærksom på i HR-perspektiv.

Jonas, digitaliseringskonsulent i region:

Jeg giver den 88. Artiklen er meget aktuel og rammer plet i forhold til de dilemmaer, vi står med omkring AI, kvalitetssikring og governance. Jeg synes, den er godt struktureret og giver nogle brugbare best practices. Den kunne dog godt have gået mere i dybden med de tekniske løsninger.

Camilla, leder af kundeservice i stor virksomhed:

Jeg giver den 80. Det er fedt, at Zendesk-casen er med, for det er meget genkendeligt for os. Artiklen er god til at nuancere, at AI ikke kan stå alene, og at de sidste 20% stadig kræver mennesker. Jeg kunne dog godt have brugt flere konkrete erfaringer fra danske virksomheder.

Peter, chef for data & analyse i konsulenthus:

Jeg giver den 70. Den er grundig og rammer mange relevante temaer, men jeg synes, den bliver lidt for overfladisk på de tekniske udfordringer og løsninger. Jeg havde gerne set mere om, hvordan man konkret arbejder med validering og compliance i praksis.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.