Californien tager førertrøjen i AI-regulering

Californien har netop skrevet historie som den første stat, der kræver fuld åbenhed om AI-sikkerhed fra de største laboratorier i branchen. Med guvernør Newsoms underskrift på SB 53 er der nu lovkrav om, at AI-giganter som OpenAI og Anthropic skal offentliggøre og overholde deres sikkerhedsprotokoller. Det har allerede sat gang i diskussioner om, hvorvidt andre stater – og måske EU – vil følge trop. Ifølge officielle udmeldinger fra staten Californien er målet at balancere innovation med ansvar og offentlig sikkerhed, så AI både kan udvikle sig og skabe tillid blandt borgere og virksomheder.
SB 53 bygger på anbefalinger fra et ekspertpanel nedsat af guvernøren og markerer et skifte fra tidligere forsøg på AI-lovgivning, hvor ansvar og risici var sværere at håndtere politisk.

Hvorfor lykkedes SB 53, når SB 1047 fejlede?

SB 53 blev til virkelighed, hvor dens forgænger SB 1047 strandede. Ifølge Adam Billen fra Encode AI skyldes det især, at SB 53 fokuserer på transparens frem for ansvarspådragelse. Loven kræver, at virksomhederne rapporterer om sikkerhedshændelser og beskytter whistleblowere, men pålægger dem ikke direkte ansvar for potentielle AI-skader. Det gør den mere spiselig for både industri og politikere, og det har været afgørende for, at loven kunne samle bred opbakning på tværs af partier og brancher. Kilder fra TechCrunch og guvernørens kontor bekræfter, at denne tilgang har været central for at få loven igennem.

Konkrete krav: Hvad skal AI-labs offentliggøre?

De store AI-udviklere skal nu dokumentere deres sikkerhedsprotokoller, rapportere større hændelser og sikre, at interne kritikere kan ytre sig uden frygt for repressalier. Detaljerne om, hvilke sikkerhedsforanstaltninger der skal offentliggøres, er stadig under udvikling, men det forventes at omfatte risikovurderinger, testprocedurer og beredskabsplaner ved fejl eller misbrug. Ifølge den officielle lovtekst skal virksomhederne også beskrive, hvordan de følger nationale og internationale standarder samt best practices fra branchen. Whistleblowere får desuden en særlig beskyttelse, og der indføres civilretlige sanktioner ved manglende overholdelse.

Hvad kan Danmark lære af Californiens tilgang?

For danske offentlige it-chefer og digitaliseringskonsulenter er det oplagt at spørge, om lignende krav kan overføres til vores kontekst. Hvis AI-leverandører skal dokumentere sikkerhedsprotokoller, vil det kunne indgå som krav i offentlige udbud og kontrakter. Det kan styrke datasikkerheden, men også øge de administrative byrder – især hvis kravene ikke er harmoniseret internationalt. Erfaringerne fra Californien viser dog, at gennemsigtighed kan skabe tillid uden nødvendigvis at kvæle innovationen, hvis balancen rammes rigtigt.

Indflydelse på offentlige it-projekter og leverandørstyring

Hvis danske myndigheder vælger at følge Californiens eksempel, kan det betyde, at leverandører skal dokumentere deres AI-sikkerhed langt mere detaljeret. Det kan give bedre overblik over risici, men vil kræve nye kompetencer i både indkøb og compliance. For eksempel kan det blive nødvendigt at stille krav om løbende rapportering af AI-hændelser og adgang til leverandørens interne audits. Det vil også kræve, at offentlige organisationer opbygger viden om, hvordan man vurderer og følger op på dokumentationen.

Muligheder og udfordringer for offentlige organisationer

På plussiden kan øget transparens give bedre mulighed for at opdage og håndtere fejl tidligt. På minussiden kan det føre til flere administrative processer og potentielt højere omkostninger, hvis leverandørerne skal tilpasse deres systemer til nye krav. Det er derfor vigtigt at balancere ønsket om sikkerhed med behovet for smidige processer. Erfaringerne fra Californien peger på, at løbende dialog mellem myndigheder og leverandører er afgørende for at undgå unødvendigt bureaukrati.

Hvad betyder det for danske AI-startups?

For mindre virksomheder kan krav om dokumentation og rapportering virke overvældende. CTO’er i danske AI-startups bør holde øje med, om EU eller Danmark indfører lignende regler. Hvis det sker, kan det betyde, at små aktører skal investere i compliance og dokumentation, hvilket kan påvirke både innovationstempo og konkurrenceevne. Omvendt kan klare regler også gøre det lettere for startups at konkurrere med de store, hvis alle skal spille efter samme regler. Det er derfor vigtigt at følge udviklingen tæt og forberede sig på mulige krav.

Risiko for øget regulering i EU og Danmark?

EU’s AI Act er allerede på vej, og flere eksperter vurderer, at Californiens lov kan inspirere europæiske politikere. Forventningen er, at krav om transparens og sikkerhed bliver et centralt tema i kommende reguleringer. For danske virksomheder betyder det, at forberedelse på øget dokumentationskrav og risikovurdering bør starte nu. Det gælder især for dem, der leverer til det offentlige eller samarbejder med internationale partnere.

Eksempler fra branchen: Sådan tilpasser virksomheder sig

Flere internationale AI-virksomheder har allerede indført interne whistleblower-ordninger og offentliggjort dele af deres risikovurderinger. For eksempel har OpenAI offentliggjort rapporter om deres sikkerhedsarbejde, mens Anthropic har udviklet interne processer for at håndtere sikkerhedshændelser. Danske virksomheder kan med fordel lade sig inspirere af disse eksempler, når de forbereder sig på kommende krav. Det kan også give et forspring, hvis lignende krav bliver indført i Danmark eller EU.

Indflydelse på samarbejde med internationale leverandører

For offentlige og private organisationer, der samarbejder med internationale AI-leverandører, kan den nye californiske lov betyde, at leverandørerne allerede har processer for transparens og rapportering. Det kan gøre det lettere at stille krav i kontrakter, men også føre til, at leverandører hæver priserne for at dække de ekstra omkostninger. Det er derfor vigtigt at have et klart billede af, hvilke krav der er realistiske at stille, og hvordan de kan følges op i praksis.

Kontraktstyring og udbud: Nye krav på vej?

Digitaliseringskonsulenter og indkøbere bør overveje, hvordan krav om AI-sikkerhed kan indarbejdes i kommende udbud. Det kan for eksempel være krav om adgang til leverandørens sikkerhedsrapporter, dokumentation for risikovurderinger eller mulighed for at gennemføre audits. Det vil kræve tæt dialog med både leverandører og jurister for at sikre, at kravene er realistiske og ikke hæmmer innovationen unødigt. Erfaringerne fra Californien viser, at det er muligt at skabe rammer, der både beskytter og fremmer udvikling.

Tekniske aspekter: Hvad kræves der reelt?

IT-sikkerhedsrådgivere vil især være optaget af, hvilke konkrete tekniske protokoller der skal offentliggøres. Selvom detaljerne stadig er under udarbejdelse, forventes det, at kravene vil omfatte beskrivelser af modeltræning, testprocedurer for bias og robusthed, samt beredskabsplaner for håndtering af misbrug. Det er endnu uklart, om det vil øge den reelle sikkerhed, eller blot føre til mere bureaukrati – men det vil give et bedre indblik i leverandørernes processer. Ifølge guvernørens kontor skal loven løbende opdateres, så den følger den teknologiske udvikling.

Ekspertkommentarer: Både muligheder og faldgruber

Flere eksperter peger på, at transparens kan være et effektivt værktøj til at øge tilliden til AI-systemer. Men de advarer også om, at for omfattende krav kan kvæle innovation, især for mindre aktører. Det er derfor afgørende, at kommende reguleringer balancerer behovet for sikkerhed med hensynet til vækst og konkurrence. Erfaringerne fra Californien viser, at det kan lade sig gøre, hvis der er tæt samarbejde mellem myndigheder, industri og eksperter.

Strategiske overvejelser for danske virksomheder

Chefer for digital innovation bør allerede nu overveje, hvordan øget regulering kan påvirke deres muligheder for at anvende AI-løsninger fra internationale leverandører. Det kan skabe nye barrierer, men også åbne for samarbejde med leverandører, der prioriterer sikkerhed og transparens. En proaktiv tilgang til compliance kan blive et konkurrenceparameter. Det gælder om at være på forkant, så man ikke bliver fanget på bagkant, når nye krav rammer markedet.

Sådan kan Snilld hjælpe

Hos Snilld rådgiver vi både offentlige og private organisationer om, hvordan de kan forberede sig på øgede krav til AI-sikkerhed og transparens. Vi hjælper med at analysere leverandørernes dokumentation, udforme krav til udbud og udvikle interne processer for compliance. Kontakt os, hvis I vil styrke jeres position i en mere reguleret AI-verden – og slippe for at læse 200 sider lovtekst på engelsk. Vi lover, at vi kan gøre det både grundigt og forståeligt – og med et glimt i øjet.

Kilder:

• https://techcrunch.com/video/why-californias-new-ai-safety-law-succeeded-where-sb-1047-failed/
• https://www.gov.ca.gov/2025/09/29/governor-newsom-signs-sb-53-advancing-californias-world-leading-artificial-intelligence-industry/
• https://www.globalpolicywatch.com/2025/03/california-senator-introduces-ai-safety-bill/
• https://www.gov.ca.gov/wp-content/uploads/2025/06/June-17-2025-%E2%80%93-The-California-Report-on-Frontier-AI-Policy.pdf

Målgruppens mening om artiklen

Anne Madsen, IT-chef i kommune:
Jeg giver artiklen 85. Den er meget relevant for mit arbejde, fordi den går i dybden med, hvordan AI-regulering kan påvirke offentlige udbud og kontrakter. Jeg kan bruge den direkte i dialogen med vores leverandører, og jeg synes, den balancerer godt mellem muligheder og udfordringer. Dog kunne jeg godt have ønsket flere konkrete eksempler fra danske forhold.

Jonas Sørensen, Digitaliseringskonsulent i region:
Jeg giver artiklen 80. Den forklarer klart, hvad der sker i Californien, og hvilke konsekvenser det kan få for os i Danmark. Jeg savner dog lidt mere om, hvordan mindre organisationer kan håndtere de nye krav, og hvordan man konkret kan implementere dem i praksis.

Maria Jensen, CTO i dansk AI-startup:
Jeg giver artiklen 75. Det er spændende at se, hvordan store spillere bliver reguleret, og hvilke krav der kan komme til startups. Men jeg synes, artiklen undervurderer, hvor stor en byrde det kan blive for små virksomheder, og jeg savner flere konkrete råd til startups.

Peter Holm, IT-sikkerhedsrådgiver:
Jeg giver artiklen 90. Den rammer plet i forhold til de tekniske og sikkerhedsmæssige aspekter, jeg arbejder med. Jeg sætter pris på, at den nævner både risici og muligheder, og at den tager whistleblower-beskyttelse med. Jeg kunne dog godt have brugt endnu mere om de tekniske krav.

Camilla Friis, Chef for digital innovation i større dansk virksomhed:
Jeg giver artiklen 82. Den er meget brugbar som strategisk overblik og giver gode input til, hvordan vi skal forberede os på kommende regulering. Jeg savner dog lidt flere konkrete anbefalinger til, hvordan man bedst arbejder proaktivt med compliance og leverandørstyring.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.