Skarp introduktion: Hvorfor balancen mellem AI-sikkerhed og performance er svær

Forestil dig en stor dansk finansvirksomhed, hvor AI-chatbotten pludselig nægter at svare på helt almindelige kundehenvendelser. Det skete faktisk for en af vores kunder sidste år, da et for stramt filter blokerede alt, der bare mindede om spørgsmål om “konto” – fordi ordet også optrådte i risikofyldte sammenhænge. Resultatet? Frustrerede kunder, supportkøer og en ledelse, der måtte forklare sig. Omvendt har vi set løsere guardrails føre til, at personfølsomme oplysninger slap igennem og blev logget. Det er ikke nok bare at slå en sikkerhedsfunktion til. Det kræver løbende justering, forståelse for både forretning og teknik – og en god portion tålmodighed. Det overraskede os faktisk, hvor hurtigt balancen kan tippe.

Hvad er Amazon Bedrock Guardrails – og hvorfor er det relevant?

Amazon Bedrock Guardrails er et værktøj, der hjælper dig med at styre, hvad din AI må og ikke må. Det er ikke bare en “on/off”-knap for farligt indhold. Guardrails kan blokere eller maskere følsomme data (PII), filtrere bestemte emner eller ord, og beskytte mod såkaldte prompt attacks. Vi har arbejdet med flere kunder, hvor Bedrock Guardrails har gjort forskellen mellem et AI-projekt, der kunne gå live, og et der blev stoppet af compliance-afdelingen. Det handler ikke kun om at beskytte mod det åbenlyst farlige – men også om at sikre, at man kan dokumentere, at man faktisk gør det.

Praktisk opsætning: Valg af policies og filterstyrke

Du vælger policies ud fra, hvad du vil beskytte: indhold, følsomme oplysninger, forsøg på at snyde prompten, bestemte emner eller ord. Hver policy kan have filterstyrker: NONE, LOW, MEDIUM, HIGH. Vi anbefaler at starte med HIGH og så skrue ned, hvis du får for mange falske positiver. Det gjorde vi selv hos en kunde, hvor HIGH blokerede næsten halvdelen af de legitime forespørgsler – det var for meget. Men LOW var for slapt, og så slap der ting igennem, der ikke burde. Det er en balance, og man skal teste på rigtige data, ikke bare eksempler.

Databeskyttelse i praksis: PII, sensitive data og dokumentation

Bedrock Guardrails kan automatisk maskere eller fjerne PII – som CPR-numre, e-mails eller telefonnumre. Men ikke alt fanges af standardfiltrene. Vi har flere gange måtte lave custom policies, fx for at fange interne medarbejdernumre eller særlige kundekoder. Det kræver, at man forstår sine egne datatyper. Og det kræver dokumentation: Hvilke regler har vi sat op, hvorfor, og hvordan kan vi vise det til ledelsen eller myndigheder? Vi har oplevet, at det er lige så vigtigt som selve teknikken.

Integration med eksisterende systemer og API-brug

Du kan integrere Bedrock Guardrails direkte i dine AI-workflows via ApplyGuardrail API eller bruge det som en del af Bedrocks egne inference-API’er. Vi har prøvet begge dele. ApplyGuardrail API giver fleksibilitet – du kan selv styre, hvor og hvornår du vil tjekke indhold. Men det kan koste på performance, fordi du betaler for hvert kald, og det kan give ventetid. Native integration er hurtigere, men mindre fleksibel. Vi har set, at brugeroplevelsen kan lide, hvis der er for meget ventetid – især i chatbots. Det er ikke altid let at forudsige, før man har prøvet det i praksis.

Løbende monitorering og justering af guardrails

Bedrock har en detect mode, hvor du kan overvåge, hvad der ville være blevet blokeret, uden at det faktisk bliver det. Vi anbefaler altid at starte her. Det giver dig et overblik over, hvor meget (eller lidt) dine regler rammer. Men det stopper ikke der – brugsmønstre ændrer sig, og det gør trusselsbilledet også. Vi har oplevet, at noget der virkede perfekt i januar, pludselig var for stramt eller for løst i marts. Derfor: Sæt tid af til løbende at justere og dokumentere, hvad du gør.

Guardrails som konkurrenceparameter og salgsargument

Flere virksomheder bruger nu guardrails aktivt i markedsføringen: “Vi beskytter dine data bedre end konkurrenterne”. Det virker – men kun hvis det også er sandt. Vi har set eksempler, hvor for stramme regler faktisk skræmte brugere væk, fordi systemet blev for ufleksibelt. Det er en balance. Guardrails kan være et stærkt salgsargument, men kun hvis det ikke går ud over brugeroplevelsen. Det er lidt som at sælge en bil med verdens sikreste bremser – hvis den aldrig kan køre, er det ligegyldigt.

Tekniske detaljer og optimering

Under motorhjelmen bruger Bedrock Guardrails en kombination af klassiske content filters, topic classifiers og algoritmer til at opdage forsøg på at snyde systemet (prompt attacks). Sammenlignet med fx OpenAI’s moderation eller Google Vertex AI’s content safety, oplever vi, at Bedrock er mere fleksibel, men også kræver mere opsætning. Benchmarks varierer, men vi har set, at Bedrock kan matche de bedste – hvis man bruger det rigtigt. Et tip: Brug custom regex-filtre til de ting, du ved, standarden ikke fanger. Og test, test, test – på rigtige data.

Konkrete anbefalinger og afsluttende pointer

Vores vigtigste råd: Start stramt, men vær klar til at justere. Brug detect mode først. Dokumentér alt – ikke kun for compliance, men så du selv kan forstå, hvorfor du gjorde, som du gjorde. Involvér både teknik, forretning og compliance fra starten. Og husk: Du mærker først balancen mellem sikkerhed og performance, når du sidder med det i hænderne. Det kræver løbende justering – og lidt tålmodighed. Vi har endnu ikke set to virksomheder, der havde præcis samme behov. Det er måske det mest menneskelige ved hele AI-sikkerhedsarbejdet.

Kilder:

• https://aws.amazon.com/blogs/machine-learning/build-safe-generative-ai-applications-like-a-pro-best-practices-with-amazon-bedrock-guardrails/
• https://aws.amazon.com/blogs/machine-learning/category/artificial-intelligence/amazon-machine-learning/amazon-bedrock/amazon-bedrock-guardrails/
• https://aws.amazon.com/blogs/machine-learning/category/post-types/best-practices/
• https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-content-filters.html
• https://aws.amazon.com/bedrock/pricing/
• https://aws.amazon.com/blogs/machine-learning/build-safe-generative-ai-applications-like-a-pro-best-practices-with-amazon-bedrock-guardrails/

Målgruppens mening om artiklen

Anders, IT-sikkerhedschef i storbankJeg giver artiklen 85. Den rammer meget præcist de udfordringer, vi selv sidder med, når vi skal balancere AI-sikkerhed og performance. Eksemplerne er relevante, og jeg kan genkende problematikken med for stramme eller for løse guardrails. Dog kunne jeg godt have ønsket mig endnu flere konkrete tekniske eksempler og måske lidt mere om, hvordan man bedst dokumenterer overfor myndigheder.

Mette, AI Product Owner i forsikringsselskabJeg giver den 90. Artiklen er super relevant for mit arbejde, især fordi den både adresserer compliance, brugeroplevelse og integration. Jeg kan bruge anbefalingerne direkte, og jeg synes det er stærkt, at der ikke kun fokuseres på teknik, men også på forretning og dokumentation. Det er præcis det, vi kæmper med i hverdagen.

Jesper, Lead Developer i fintech scaleupJeg giver den 75. Artiklen forklarer godt, hvorfor balancen er svær, og jeg kan lide de praktiske råd om at teste på rigtige data og bruge custom policies. Men jeg savner mere dybde på de tekniske løsninger og flere benchmarks. Det ville gøre den endnu mere værdifuld for udviklere som mig.

Louise, Compliance Officer i pensionskasseJeg giver artiklen 80. Den er meget brugbar, især afsnittene om dokumentation og vigtigheden af at kunne vise, hvad man har sat op. Jeg kunne dog godt have brugt flere konkrete eksempler på, hvordan man bedst dokumenterer og rapporterer til ledelsen og myndigheder.

Rasmus, Data Engineer i stor detailkædeJeg giver den 70. Artiklen er relevant, men jeg synes, den bliver lidt overfladisk på de tekniske detaljer. Jeg ville gerne have haft flere konkrete eksempler på integration og performance-målinger. Men den rammer plet med pointerne om, at man skal teste og justere løbende.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af Gemini 3 Pro Nano Banana 2 Pro fra Google.