AI i virksomheder er ved at skifte karakter. Ikke med et stort brag, mere som den der let ubehagelige lyd, når et system pludselig får adgang til noget, det før bare kunne kigge på. Ifølge Artificial Intelligence News bliver AI-agenter nu i mange organisationer testet til at planlægge opgaver, træffe beslutninger og udføre handlinger med begrænset menneskelig input. Det er den egentlige nyhed her. Ikke endnu en chatbot, men systemer der får lov til at gøre noget i rigtige arbejdsgange.

Og dér bliver governance interessant på den usexede måde. For det afgørende spørgsmål er ikke længere kun, om modellen giver et godt svar. Det er, hvad der sker, når den booker noget, sender noget, opdaterer noget eller forbinder sig til et andet system og fortsætter derfra. Vi har set nok AI-demoer til at vide, at det er let at blive imponeret i de første ti minutter. Det svære kommer tirsdag formiddag, når data er rodede, en integration halter, og ingen helt kan huske, hvem der egentlig gav systemet lov.

Fra assistent til agent

De fleste AI-systemer i drift i dag er stadig relativt passive. De svarer på prompts, analyserer data eller foreslår tekst, men et menneske tager som regel næste skridt. Det er også derfor, så mange pilotprojekter føles trygge. Modellen siger noget, og så kan et menneske nikke, rette eller helt lade være.

Agentisk AI flytter på den arbejdsdeling. Ifølge hovedkilden adskiller de her systemer sig ved, at de kan nedbryde et mål i trin, vælge handlinger og interagere med andre systemer for at fuldføre opgaver. Det lyder måske som en semantisk detalje, men det er det ikke. Der er ret stor forskel på en assistent, der foreslår et kundesvar, og en agent, der selv finder sagen, skriver svaret, logger det i CRM og opretter en opgave til salg bagefter.

Det her er måske lidt niche, men det er integrationslaget, der gør forskellen. Mange taler stadig om modelkvalitet, som om det alene afgør værdien. Vi oplever ofte det modsatte. Den reelle risiko og den reelle nytte ligger i, hvad systemet må røre ved.

Det tørre stof, hvor tingene vælter eller virker

Når autonome systemer får lov til at handle, opstår der ifølge Artificial Intelligence News behov for klare grænser. Hvad må de tilgå. Hvad må de gøre. Hvordan bliver deres handlinger sporet. Det lyder som noget, der hører hjemme i en kedelig styregruppe med lunkne mødeboller, men helt ærligt: det er her forskellen ligger mellem nyttig automation og stille kaos.

Kilden er ret klar på et punkt, som mange helst springer let hen over. Uden den slags kontroller kan selv veltrænede systemer skabe problemer, som er svære at opdage eller rulle tilbage. Det giver god mening. Hvis en agent kun svarer i en chat, er fejlen synlig. Hvis den derimod opdaterer poster, ændrer prioriteringer eller sender noget videre på tværs af systemer, kan fejlen først dukke op senere, når andre mennesker står midt i konsekvensen.

Man behøver ikke opfinde dramatiske skrækeksempler for at forstå det. I en almindelig virksomhed kan en agentisk løsning tænkes at få adgang til kundedata, interne dokumenter, opgavestyring eller standardsvar. Så snart den også kan eksekvere, er governance ikke et juridisk sidespor. Det er drift. Punktum.

Rådgiverne bygger nu rammerne

Det er ikke kun teknologileverandører, der har fået øje på problemet. Artificial Intelligence News peger på Deloitte som et konkret eksempel på en aktør, der udvikler governance-rammer og rådgivningstilgange for at hjælpe organisationer med at håndtere AI-systemer. Det skal ikke læses som et bevis for hele markedet, men som et signal om, at efterspørgslen er rykket. Når de store huse bygger ydelser omkring styring, er det sjældent fordi emnet er teoretisk.

Deloitte citeres også i artiklen for, at brugen af AI-agenter bevæger sig hurtigere end de kontroller, der skal styre dem. Der nævnes tal for både nuværende brug og forventet vækst, men her bør man holde tungen lige i munden. Tallene stammer fra Deloitte-forskning omtalt i artiklen, ikke fra en uafhængig samlet markedsmåling, og vi har ikke i materialet nok til at vurdere metode eller repræsentativitet. Retningen virker troværdig. Præcisionen bør man være mere forsigtig med.

Credo AI, som har egen interesse i governance, peger i samme retning i en whitepaper-lignende analyse. Deres pointe er, at mere autonomi, bredere adgangsrettigheder og evnen til at udføre handlinger ændrer risikobilledet markant. Det er en brugbar støttekilde, men ikke en neutral dommer, og sådan skal den også læses.

Governance skal ind før go-live

En af de vigtigste pointer i hovedkilden er, at governance ikke bør limes på efter implementering. Den skal bygges ind i hele livscyklussen for AI-systemet. Det lyder næsten for banalt, men det er præcis den del, mange organisationer springer over, fordi de gerne vil hurtigt i gang. Først demo. Så pilot. Så lidt panik. Så en politik i PDF. Det er ikke en stærk rækkefølge.

I designfasen bør virksomheden ifølge kilden definere, hvad systemet må gøre, hvor grænserne går, hvordan data må bruges, og hvordan det skal reagere i usikre situationer. Det er ledelsesarbejde, ikke bare modelopsætning. Hvis en agent bliver usikker, må den så selv vælge den mest sandsynlige handling. Skal den stoppe. Skal den bede om godkendelse. Der er stor forskel, og den forskel skal være besluttet på forhånd, ikke opdaget bagefter i loggen.

Her overvurderer mange teknologien og undervurderer deres eget ansvar. Man taler om agenten som om den er klog, men springer det kedelige spørgsmål om tilladelser over. Hvad må den helt konkret. Ikke i visionen. I produktionsmiljøet.

Implementering er adgangskontrol forklædt som innovation

Når systemet skal sættes i drift, skifter governance-karakter. Ifølge Artificial Intelligence News handler implementering blandt andet om adgangskontrol, herunder hvem der må bruge systemet, og hvilke andre systemer det må forbindes til. Der ligger en ret afgørende erkendelse gemt dér. En middelmådig model med snævre rettigheder er ofte mindre farlig end en glimrende model med for brede rettigheder.

Det er også her, den praktiske ledelsesopgave bliver synlig. Hvilke handlinger kræver menneskelig godkendelse. Må agenten kun læse, eller må den også skrive tilbage i systemer. Må den oprette, slette, eskalere, godkende. Vi har siddet med workflows, hvor næsten hele diskussionen handlede om modellen, og så viste det sig, at det mest afgørende spørgsmål var, om systemet overhovedet skulle have lov til at sende noget ud uden et menneske i løkken. Der bliver ofte lidt stille i rummet dér.

Det interessante er, at mange stadig tror, risikoen primært ligger i hallucinationer i tekst. I praksis ligger en stor del af risikoen i kombinationen af model plus integration plus rettigheder. Altså den del, man ikke kan vise lige så pænt på en scene.

Drift er der, hvor sandheden kommer frem

Når agenten er live, bliver overvågning central. Hovedkilden understreger, at autonome systemer kan ændre sig over tid gennem møder med nye data, og at løbende kontrol derfor er nødvendig. En agent, der var fornuftig i sidste uge, kan begynde at opføre sig anderledes, hvis rammerne er for løse.

Deloitte fremhæver ifølge artiklen realtids-overvågning som en del af tilgangen, så organisationer kan følge, hvad et AI-system gør, mens det udfører opgaver. Ideen er enkel nok: hvis systemet opfører sig uventet, skal man hurtigt kunne gribe ind, pause handlinger eller justere rettigheder. Det er ikke futurisme. Det er bare sund driftstænkning.

Og ja, det lyder lidt som gammeldags IT-disciplin. Det er det også. Men når folk taler om autonome systemer som noget helt nyt, glemmer de nogle gange, at de stadig ender i gamle problemer: ændringsstyring, rollback, rettigheder, logning, ansvar. Teknologien er ny. Rodet er gammelt.

Sporbarhed og ansvar er ikke kun til revision

Når et autonomt system tager en handling, bliver det sværere at spore, hvordan beslutningen blev til. Derfor fremhæver kilden behovet for stærkere transparens, herunder logning af handlinger og dokumentation af beslutninger. Det er værd at stoppe op ved. For logning er ikke kun noget, man gør for en revisor eller en compliance-funktion. Det er også det, der gør det muligt at forstå, hvad pokker der lige skete, når noget går skævt.

Hvis en agent sender et svar, ændrer en status eller henter data, skal virksomheden kunne se forløbet. Hvad var inputtet. Hvilke regler gjaldt. Hvilket system blev kaldt. Hvem havde godkendt opsætningen. Og hvem ejer ansvaret. Ikke ansvaret i filosofisk forstand, men i tirsdag-klokken-10.17-forstand, hvor nogen skal kunne stoppe, rette og forklare.

Her bliver governance meget håndgribeligt. Det er adgangsrettigheder. Logs. Roller. Stopknapper. Måske lyder det ikke sexet. Men man opdager først forskellen, når systemet står med fingrene i rigtige data.

Det kendte modargument holder kun et stykke

Der er selvfølgelig et modargument, og det er ikke helt urimeligt. For mange regler kan bremse tempoet. For meget governance kan kvæle eksperimenter, gøre teams forsigtige og få projekter til at drukne i proces. Det synspunkt møder vi ofte, og nogle gange er det fair nok. Der findes organisationer, som kan styre al ny teknologi ihjel med skabeloner alene.

Men i praksis er det ofte det modsatte, der sker med agentiske systemer. Uden tydelige rammer tør organisationen ikke slippe dem løs dér, hvor værdien faktisk ligger. Så bliver det ved de ufarlige demoer, de lukkede sandkasser og de lidt polerede præsentationer, hvor alt virker, fordi intet rigtigt må ske. Governance er ikke nødvendigvis en bremse. Ofte er det det, der gør, at nogen tør trykke på start.

PwC peger bredt på, at agenter kan komme til at tage mere midlevel-arbejde fremover. Det er interessant som temperaturmåling, men ikke et præcist bevis på, hvor hurtigt danske virksomheder flytter sig. Kilderne dokumenterer test, stigende fokus og stigende forventninger. De giver ikke et fuldt, samlet mål for den faktiske udbredelse. Og det er bedre at sige højt end at lade som om markedet er mere entydigt, end det er.

Tre spørgsmål ledelsen bør kunne svare på nu

Hvis man skærer alt management-sproget væk, står der tre ret enkle spørgsmål tilbage. Hvilke handlinger må agenten udføre. Hvilke systemer må den røre. Hvordan opdager vi hurtigt, hvis den gør noget forkert. Kan ledelsen ikke svare klart på de tre, så er man efter vores mening ikke klar til at give agenten reelt ansvar, uanset hvor flot demoen ser ud.

Det er i virkeligheden det mest jordnære ved hele historien. AI-agenter bliver først nyttige i praksis, når governance er så konkret, at den kan mærkes i opsætning, roller, logs og hverdagsrutiner. Ikke i et princippapir. Ikke i en keynote. I systemet. Det er der, forskellen viser sig.

Kilder

• As AI agents take on more tasks, governance becomes a priority
• From Assistant to Agent: Governing Autonomous AI
• 2026 AI Business Predictions
• AI Agents Join Workforce: Governance Challenges
• Tech Trends: Why AI Is a Top Management Priority for State and …
• Building the Future: VA's Strategy for Adopting High-Impact Artificial …
• AI Agents and Memory: Privacy and Power in the Model Context …