AI-assistenter: Nyttige værktøjer eller skjulte risici?

AI-assistenter og store sprogmodeller er blevet hverdag i både offentlige og private organisationer. De hjælper med alt fra sagsbehandling til kundeservice og automatisering af interne processer. Men de samme funktioner, der gør dem uundværlige – adgang til internettet, integration med forretningssystemer og evnen til at huske brugerens kontekst – åbner også for helt nye angrebsflader. Seneste forskning fra Tenable har påvist, hvordan sårbarheder som “indirekte prompt injection” kan udnyttes til at stjæle data eller fastholde malware, ofte uden at brugeren opdager det. Det er en påmindelse om, at AI ikke kun er et værktøj, men også et potentielt mål for cyberangreb.

For ledere og specialister, der arbejder med AI i kritiske miljøer, er spørgsmålet ikke længere om, men hvordan man bedst beskytter sig mod disse nye trusler – uden at kvæle innovationen. Det kræver en ny tilgang til governance, sikkerhed og daglig drift.

Konkrete eksempler på AI-sårbarheder

Tenable har dokumenteret flere angrebsveje under navnet “HackedGPT”. Her kan hackere skjule instruktioner i webindhold, som AI-assistenten læser, eller plante ondsindede kommandoer via brugerforespørgsler. Resultatet kan være uautoriseret adgang til følsomme data eller at assistenten udfører uønskede handlinger på tværs af systemer. Disse angreb er ikke teoretiske – de er blevet demonstreret i praksis, og nogle af sårbarhederne er stadig aktive, selv efter at leverandører har forsøgt at lukke hullerne.

Et konkret eksempel: En AI-assistent, der får adgang til et dokument med skjulte instruktioner, kan automatisk sende data til en ekstern server – uden at nogen medarbejder har givet samtykke. Dette er ikke kun et teknisk problem, men også et spørgsmål om compliance og ansvar. Organisationer risikerer både datalæk og brud på GDPR, hvis ikke de har styr på, hvordan AI-assistenter opfører sig og hvilke data, de kan tilgå.

Hvad betyder det for offentlige organisationer og virksomheder?

For offentlige organisationer og virksomheder med strenge compliance-krav er udfordringen todelt: Dels skal man sikre, at AI-assistenter ikke bliver en bagdør for datalæk eller uautoriseret adgang. Dels skal man kunne dokumentere styring og kontrol, så man kan bestå audits og tilsyn. Risikoen for “shadow AI” – altså uautoriserede AI-værktøjer, som medarbejdere selv tager i brug – gør det endnu vigtigere at have overblik og governance på plads.

Det er ikke længere nok at stole på leverandørernes sikkerhedsopdateringer. Organisationen skal selv tage ansvar og etablere klare processer for, hvordan AI-assistenter må bruges, overvåges og dokumenteres. Det gælder især i sektorer som finans, sundhed og det offentlige, hvor kravene til datasikkerhed er skærpede.

Fem konkrete skridt til bedre AI-sikkerhed

• Opret et AI-systemregister: Få overblik over alle AI-modeller, assistenter og agenter i brug – både i skyen, on-premises og som SaaS. Registrér ejer, formål, adgangsrettigheder og hvilke data, de kan tilgå.
• Adskil identiteter: Giv AI-assistenter deres egne identiteter i jeres IAM-system, så de ikke deler konti med brugere eller andre systemer. Indfør zero-trust og mindst mulige rettigheder.
• Begræns risikable funktioner: Gør browsing og automatiske handlinger til noget, man aktivt skal slå til pr. brugssag. Sæt korte datalagringstider for kundevendte assistenter og brug stram logging i interne projekter.
• Overvåg som var det en webapplikation: Log alle handlinger og vær opmærksom på unormal adfærd – fx pludselige besøg på ukendte domæner eller forsøg på at tilgå følsomme data.
• Opbyg menneskelig kompetence: Træn udviklere, IT-drift og brugere i at spotte mistænkelig AI-adfærd og gør det let at rapportere og isolere assistenter ved mistanke.

Sådan balancerer du innovation og sikkerhed

Det er fristende at låse alt ned for at undgå risiko, men det kvæler innovationen. I stedet bør man arbejde med segmentering: Giv adgang til AI-assistenter i kontrollerede miljøer, hvor der er styr på logging og rettigheder. Brug testmiljøer til at afprøve nye funktioner, før de rulles ud bredt. Automatisér overvågning og brug værktøjer, der kan identificere usædvanlig adfærd eller forsøg på prompt injection. Snilld hjælper organisationer med at opsætte sådanne løsninger, så man kan reagere hurtigt, hvis noget går galt.

Balancegangen mellem innovation og sikkerhed kræver løbende dialog mellem IT, forretning og ledelse. Det er vigtigt at forstå, at AI ikke bare er endnu et IT-system, men en dynamisk aktør, der kan tage uforudsete beslutninger – både til gavn og til fare.

Compliance og dokumentation: Forberedelse til audits

For finansielle og offentlige aktører er det afgørende at kunne dokumentere, hvordan AI-assistenter styres og overvåges. Det gælder både i forhold til GDPR, NIS2 og andre relevante standarder. Et AI-systemregister og klare processer for adgangsstyring, logging og incident response er centrale elementer. Snilld har erfaring med at hjælpe organisationer med at forberede sig på audits, fx ved at udarbejde tjeklister og dokumentationspakker, der kan præsenteres for tilsynsmyndigheder.

En veldokumenteret governance-struktur gør det lettere at håndtere både interne og eksterne krav – og mindsker risikoen for ubehagelige overraskelser ved audits.

Shadow AI: Sådan får du styr på de skjulte risici

“Shadow AI” opstår, når medarbejdere selv tager AI-værktøjer i brug uden om IT. Det kan ske, hvis governance er for tung, eller hvis organisationen ikke tilbyder brugervenlige alternativer. Løsningen er ikke at forbyde alt, men at gøre det let at registrere og godkende nye AI-værktøjer – og samtidig kommunikere klart om risici og ansvar.

Eksempel: En kommune kan indføre en simpel indmeldingsproces, hvor medarbejdere kan foreslå nye AI-værktøjer, som så vurderes af IT og ledelse. Det giver overblik og gør det lettere at håndtere compliance. Erfaringer viser, at åbenhed og dialog mindsker risikoen for, at “skjulte” AI-løsninger sniger sig ind ad bagdøren.

Tekniske værktøjer og processer: Fra teori til praksis

IAM-systemer som Azure AD eller Okta kan bruges til at oprette separate AI-identiteter og styre rettigheder. SIEM-løsninger som Splunk eller Microsoft Sentinel kan overvåge AI-assistenters adfærd og advare ved mistænkelige hændelser. Data Loss Prevention (DLP) kan sættes op på connector-trafik for at forhindre datalæk. Snilld rådgiver om valg og implementering af disse værktøjer, og vi hjælper med at tilpasse processer, så de passer til både IT og forretning.

Teknologi alene løser dog ikke problemet. Det er samspillet mellem værktøjer, processer og menneskelig årvågenhed, der afgør, om AI bliver en styrke eller en sårbarhed.

Kommunikation og forankring på tværs af organisationen

Det er afgørende, at både IT, HR og forretningen er involveret i arbejdet med AI-governance. Ledelsen skal forstå risici og muligheder, mens brugerne skal have klare retningslinjer og let adgang til support. Snilld tilbyder workshops og kommunikationspakker, der kan bruges til at forankre governance-indsatsen bredt.

Eksempel: En offentlig organisation kan afholde fælles workshops, hvor både teknikere og beslutningstagere diskuterer konkrete cases og finder løsninger sammen. Det styrker forståelsen og sikrer, at governance ikke bliver en skrivebordsøvelse, men en integreret del af hverdagen.

Tjekliste: Hvad skal du gøre i morgen?

• Lav en hurtig kortlægning af alle AI-assistenter og plugins i brug.
• Gennemgå IAM-opsætningen og opret separate AI-identiteter.
• Indfør logging og overvågning af AI-assistenters handlinger.
• Udarbejd en simpel proces for indmelding af nye AI-værktøjer.
• Kommunikér klart om risici og ansvar til hele organisationen.

Konklusion: AI-assistenter kræver nye sikkerhedsvaner

AI-assistenter er både en gave og en risiko. Med de rette værktøjer, processer og en åben tilgang til governance kan organisationer udnytte AI’s potentiale – uden at åbne døren for nye trusler. Snilld står klar til at hjælpe med både strategi, implementering og forankring, så AI bliver en styrke, ikke en sårbarhed. Det kræver ikke kun teknologi, men også nye vaner og samarbejde på tværs af organisationen. For AI er ikke bare endnu et IT-system – det er en ny kollega, der skal have klare rammer og løbende opmærksomhed.

Kilder:

• https://www.artificialintelligence-news.com/news/tenable-untenable-ai-assistant-attack-threats-what-enterprises-should-do/
• https://www.tenable.com/blog/hackedgpt-novel-ai-vulnerabilities-open-the-door-for-private-data-leakage
• https://genai.owasp.org/llmrisk/llm01-prompt-injection/
• https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook
• https://www.reco.ai/learn/zero-trust-saas
• https://www.edpb.europa.eu/system/files/2025-04/ai-privacy-risks-and-mitigations-in-llms.pdf

Målgruppens mening om artiklen

Anne Madsen, IT-sikkerhedsansvarlig i kommune:

Jeg giver artiklen 92. Den rammer plet ift. de udfordringer, vi sidder med i det offentlige. Den forklarer både de tekniske og organisatoriske risici ved AI-assistenter og kommer med konkrete forslag, vi kan bruge direkte. Jeg savner måske lidt mere om, hvordan man håndterer modstand fra medarbejdere, men ellers er den virkelig relevant.

Jesper Holm, CISO i finansiel virksomhed:

Jeg giver den 85. Artiklen er meget aktuel og dækker både compliance, governance og tekniske værktøjer, hvilket er afgørende for os i finanssektoren. Jeg synes dog, at den bliver lidt reklamepræget til sidst, hvilket trækker lidt ned. Men indholdet er solidt og brugbart.

Maria Jensen, Digitaliseringskonsulent i region:

Jeg giver den 90. Den er let at forstå, og jeg kan bruge flere af de konkrete råd direkte i vores arbejde. Især afsnittet om shadow AI og den praktiske tjekliste er værdifuldt. Jeg kunne godt have ønsket flere eksempler fra det offentlige, men ellers rammer den meget godt.

Thomas Bæk, IT-driftchef i større kommune:

Jeg giver den 88. Artiklen er praktisk orienteret og tager fat i de reelle problemer, vi oplever med AI-assistenter. Jeg kan især bruge delen om IAM og logging. Den kunne dog godt have haft lidt mere fokus på ressourcer og implementeringsudfordringer.

Louise Friis, HR-partner med ansvar for digital kompetenceudvikling:

Jeg giver den 80. Jeg synes, artiklen er god til at forklare, hvorfor governance og træning er vigtigt, men den er meget teknisk flere steder. Jeg savner lidt mere om, hvordan vi får medarbejderne med og sikrer, at de forstår deres ansvar.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.