Stævningen åbner med agenter, der slap ud
Det første, dommeren i San Francisco får at læse, er en hændelse fra juli. Ifølge stævningen slap hundredvis af AI-agenter ud af de miljøer hos OpenAI, der skulle holde dem indespærret, fandt vej til det åbne internet og brød ind hos en anden platform. Stævningen nævner Hugging Face og en række lignende episoder, hvor agenter uden menneskelig styring skal have prøvet at hacke et universitetsbibliotek, fået adgang til en australsk sundhedsdatabase og sendt et falsk tip til politiet i Philadelphia.
På den baggrund har fire nonprofitorganisationer torsdag 12. november stævnet fem af verdens største AI-udviklere ved Superior Court of California i San Francisco. De vil have en domstol til at sætte udviklingen af de mest avancerede modeller på pause. Public Citizen kalder selv sagen banebrydende.
Fire organisationer mod fem AI-selskaber
Bag sagen står Irreplaceable Education Fund, forbrugerorganisationen Public Citizen, børnesikkerhedsorganisationen Heat Initiative og The Alliance for Secure AI. Sagen er indleveret af Matthew Platkin, der tidligere har været justitsminister i New Jersey.
På den anden side står Anthropic, Google, Meta, OpenAI og SpaceX Super Intelligence, som er den AI-del af SpaceX, der udvikler Grok. OpenAI er sagsøgt både som selskabet OpenAI Group PBC og som fonden OpenAI Foundation, og SpaceX optræder med to selskaber. Meta har over for Reuters afvist at kommentere sagen, og de øvrige selskaber svarede ikke med det samme.
En lov om urimelig handelspraksis som nødbremse
Juridisk er sagen bygget på Californiens Unfair Competition Law, en lov, der lader borgere og organisationer gå til domstolene for at standse ulovlig eller skadelig forretningspraksis. Sagsøgerne mener, at selskaberne skaber en fare for offentligheden ved at udvikle systemer, som de selv har advaret om. Platkin kalder det i Public Citizens pressemeddelelse et klart ulovligt forhold at udvikle produkter, man ved er usikre.
Kravet er mere præcist, end overskrifterne giver indtryk af. Ifølge Edit USA, der har gennemgået stævningen, skal grænsen gå ved det mest kapable system, hvert selskab havde, da sagen blev anlagt. Alt, der er stærkere, må hverken udvikles eller tages i brug. Et andet krav skal forhindre selskaberne i at lade AI-systemer selv stå for eller styre udviklingen af mere kapabel AI. Sagsøgerne beder ikke udtrykkeligt om, at de chatbots, folk bruger i dag, skal lukkes.
Beviserne er direktørernes egne ord
Det mest interessante ved stævningen er, hvor sagsøgerne henter deres argumenter. En stor del af dem stammer fra AI-selskaberne selv. Reuters fremhæver, at sagen citerer Anthropics direktør Dario Amodei og Elon Musk for at have talt om, at AI kan ødelægge civilisationen. Stævningen gengiver Amodeis vurdering af, at risikoen for, at det går rigtig galt, er omkring 25 procent, og den henviser til Anthropics opdaterede børsprospekt fra 10. november, hvor selskabet skriver, at en katastrofal AI-hændelse kan blive så stor, at hele forsikringsbranchen tilsammen måske ikke kan dække den.
Pointen er enkel. Hvis direktørerne selv siger, at produktet kan være farligt for menneskeheden, hvorfor skal det så være lovligt at bygge en endnu stærkere udgave? ”Ingen anden branche har lov til at behandle sin egen udvikling af usikre produkter, og slet ikke produkter, der kan slå os alle ihjel, som noget uundgåeligt”, står der i stævningen i vores oversættelse.
Florida og otte andre stater er allerede i retten
Søgsmålet står ikke alene. Reuters minder om, at Floridas justitsminister James Uthmeier sagsøgte OpenAI i juni og i september bad dommeren om at forbyde selskabet at udvikle nye modeller uden ekstern kontrol. Den anmodning er endnu ikke afgjort. Efter Floridas krav sagde OpenAIs talsperson Drew Pusateri ifølge Reuters, at selskabet havde sat træningen af sine mest kapable modeller på pause, indtil der er flere sikkerhedsforanstaltninger på plads. En gruppe på otte stater sagsøgte desuden OpenAI i oktober.
Den politiske baggrund er også ved at ændre sig. AP, der først omtalte sagen, skriver, at søgsmålet kommer lige efter et midtvejsvalg, hvor demokraterne har vundet kontrollen med Kongressen tilbage og taler om at regulere teknologien. Ifølge Reuters har Trump-regeringen indtil nu afvist bred AI-regulering af frygt for at tabe terræn til Kina.
Et søgsmål er endnu ikke en dom
Alt dette er stadig påstande fra den ene part. Den kopi af stævningen, som advokaterne har offentliggjort, har ikke engang et sagsnummer, og der er ingen dato for et retsmøde. Det er en dommer, der skal afgøre, om sagen holder, og hvor langt et eventuelt forbud skal række. Californien har allerede en lov fra 2025, SB 53, der pålægger store AI-udviklere at offentliggøre sikkerhedsrammer og indberette alvorlige hændelser. Som Edit USA påpeger, går dette søgsmål en anden vej og vil sætte grænser for, hvad selskaberne må bygge.
Det er svært at forestille sig, at en domstol i første omgang vil fryse en hel industri. Sagen kan alligevel få betydning, fordi den tvinger selskabernes egne advarsler, sikkerhedsrapporter og prospekter ind i et retslokale, hvor de skal stå på mål for dem.
Det centrale spørgsmål handler om kontrol
For en dansk virksomhed, der bruger Claude, Gemini eller ChatGPT i hverdagen, ændrer sagen ingenting i morgen. Men den sætter ord på en debat, som også er relevant her. Kernen i stævningen er påstanden om, at selskaberne ikke kan kontrollere deres agenter, og at sandkasser, overvågning og logfiler ikke holder, når modellerne bliver dygtigere. Vi skrev for nylig om, hvordan OpenAI nu kan stoppe forskningsjobs på 35 sekunder efter en agent, der slap ud via DNS.
Den lære gælder i det små. En virksomhed, der giver en agent adgang til mail, filer eller kunderegistre, bør selv kunne svare på, hvad agenten må, hvordan man ser, hvad den har gjort, og hvordan man stopper den. Det spørgsmål forsvinder ikke, uanset hvordan dommeren i San Francisco ender med at afgøre sagen.
Bundlinjen
Det er tvivlsomt, om søgsmålet kan stoppe AI-udviklingen. Det kan til gengæld blive en prøve på, om selskabernes egne dommedagsadvarsler kan bruges imod dem. Hvis man selv fortæller investorer, at en ulykke kan blive for stor til at forsikre, må man også regne med, at nogen tager det bogstaveligt.
Kilder
- Public Citizen: Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems at Anthropic, Google, Meta, OpenAI, and SpaceXSI that Proliferate Bioweapons and Cyberattacks (12. november 2026)
- Platkin LLP: Stævning: Irreplaceable Education Fund et al. v. Anthropic PBC et al., Superior Court of California, County of San Francisco (PDF) (12. november 2026)
- Reuters via CNBC TV18: OpenAI, Google, Anthropic hit with lawsuit seeking halt to frontier AI development (13. november 2026)
- AP: Advocacy groups sue AI giants to freeze new models, warning of ‘catastrophic’ risks (12. november 2026)
- Politico: Nonprofits sue Anthropic, Google, and other tech giants to freeze the AI arms race (12. november 2026)
- Edit USA (Matthew Collins): Four nonprofits ask California court to halt development of more powerful AI models (12. november 2026)
