Anthropics topchef, Dario Amodei, lægger en klar markør. I et nyt essay, Policy on the AI Exponential, foreslår han en FAA-lignende ordning for AI. Samme dag lander to policy-roadmaps og to nye modeller. Lyder politisk? Ja. Men vigtigst: det er drift og beslutninger for alle, der bygger på store sprogmodeller.
Vi har haft den i hånden flere gange: den dér knugen i maven, når en modelopdatering vælter et forretningskritisk flow kl. 08.14 en tirsdag. Det er ikke teori. Det er tirsdag.
Amodeis forslag i korte træk
I essayet sammenligner Amodei reguleringen af frontier-modeller med kommerciel luftfart. Pointen, som VentureBeat sammenfatter, er enkel: kraftige AI-modeller skal igennem teknisk test og tredjepartsaudit, og hvis de ikke lever op til skrappe sikkerhedskrav – eller viser sig risikable – skal en myndighed kunne blokere eller rulle en udgivelse tilbage. Tænk FAA, der holder et fly på jorden, når noget ikke er i orden – eller trækker en typegodkendelse.
Det skal siges tydeligt: Det er et forslag, ikke gældende lov. VentureBeat gengiver, at modeller over visse tærskler (f.eks. beregningsforbrug eller omsætning\/FoU-niveau hos udvikleren) skal underlægges obligatoriske tests, og at myndigheder skal kunne forsinke eller stoppe en deployment ved alvorlige bio-, cyber- eller autonomirisici. Amodei skrev også på X, at de tidligere gennemsigtighedskrav ikke længere rækker, fordi risiciene er vokset. Det skærper tonen.
To roadmaps og to modeller
Parallelt udgiver Anthropic to politiske køreplaner: Advanced AI Framework, der adresserer katastroferisici, og Economic Policy Framework, som handler om arbejdsmarked og omstilling. VentureBeat skriver, at det økonomiske framework bakkes op af 350 millioner dollar. Vi har ikke set en offentlig kilde, der nedbryder midlerne i detaljer, så tag tallet med forbehold – signalet er dog klart: der reserveres midler til omstilling.
Samtidig kom to modeller den 9. juni 2026: Claude Fable 5 og Claude Mythos 5. Ifølge VentureBeat og MarkTechPost deler de samme grundmodel, men adskiller sig på sikkerhedslag og release-gating. Fable 5 er bredt anvendelig; Mythos 5 er mere begrænset i adgang og med visse beskyttelser løftet. MarkTechPost nævner også store kontekstvinduer og høje outputgrænser, men uden officiel teknisk specifikation fra Anthropic bør de tal behandles forbeholdent.
Hvorfor FAA-analogien faktisk giver mening
Analogier kan blive slidte, men luftfart rammer noget centralt: komplekse systemer, store konsekvenser ved fejl, dybe leverandørkæder – og en myndighed, der kan sige “ikke i dag”. Det vigtige er ikke billedsproget, men processerne. Test før “takeoff”. Certificering. Hændelsesrapportering. Og ja: grounding.
Grænserne for analogien er også tydelige. Fly kan inspiceres efter faste standarder. Store sprogmodeller er sandsynlighedsfordelinger fordelt på titusindvis af GPU’er. Hvordan tester man nok? Amodei peger på teknisk test og audit af frontier-modeller, plus vægtbeskyttelse og sikker drift. VentureBeat refererer også til krav om rapportering af “model distillation”-angreb. Det lugter af en software-sikkerhedsmodenhed, der er ved at blive formaliseret.
Og så den svære: tilbagekaldelser. En myndighed kan i teorien kræve en version rullet tilbage, hvis nye test udstiller uacceptable risici. I praksis betyder det, at leverandøren skal kunne slukke eller versionstyre kundeadgang. Det går lige i hjertet af jeres arkitektur – og jeres SLA’er.
Leverandørkæde og risiko når en model sættes på hold
Konsekvens nummer ét: tilgængelighed er ikke givet. Hvis en frontier-model pludselig bliver groundet, og jeres kernesystem hviler på netop dén, er det ikke “tryk på en knap”. Det er driftstop – eller i bedste fald “degraderet mode”. VentureBeat er tydelig: planlæg efter regulatoriske holds.
Vores råd er ikke eksotiske – de skal bare i drift. Byg en multi-model arkitektur, så en API-udbyder kan erstattes af en anden inden for timer, ikke uger. Det kræver kontrakter, der giver jer ret til at køre alternative modeller i nøddrift og holde to leverandører varme. Ja, det koster. Billigere end nedetid.
Hav også fallback-strategier. Det kan være en lokal open-weight model til lavkritiske flows, en “sikkerhedsvariant” som Fable 5 ved siden af en mere skarp, men gated Mythos 5, eller helt banalt: cached svar til hyppige forespørgsler. Skriv det ind i SLA’erne: leverandøren skal varsle regulatoriske holds, eksponere version-ID’er og tilbyde dokumenteret rollback.
Sidste note i leverandørsporet: Stil certificeringskrav. Hvis Amodeis model får traction, kommer der test-rapporter, auditorer og attester. Gør plads til dem i kontrakten nu – og få dem leveret automatisk via portal eller dataplatform, ikke som PDF’er på mail. Små greb, stor effekt.
Drift, CI\/CD og sikkerhed i hverdagen
Konsekvens nummer to: jeres ML\/LLM-pipeline skal ligne en sikkerhedspipeline, ikke en featurefabrik. Indfør gates før hver større modelopgradering: automatiske evals, jailbreak- og promptinjektions-tests, og canary-deploy på et snævert segment, før I skruer op. Vi havde et finansprojekt, hvor et leverandørskifte af model uventet øgede hallucinationsraten i et rapporteringsværktøj. Vi fik canary og rollback på plads og stoppede skaden. Læringen er lavpraktisk: få et stophåndtag i UI’et – ikke kun i en YAML-fil.
Fable\/Mythos-splittet er en fin anledning til to sikkerhedsspor i jeres pipeline. Ét spor til bred-brug modeller med stramme outputfiltre og konservative temperaturer. Ét spor til gated, højrisiko-brug (sikkerhedstest, intern R&D), hvor adgang er begrænset, og logningen er dyb og aktivt overvåget. Forskellige gates, forskellige alarmer.
Overvågning bliver tungere med længere kontekster. MarkTechPost skriver, at Fable 5\/Mythos 5 understøtter kontekstvinduer i millionklassen og meget lange outputs. Hvis Anthropic bekræfter det, betyder det større lagringspres, dyrere observability og en ny klasse fejl, hvor en ældre prompt “spøger” langt senere. Vi har set costprofilen løbe, hvis man ikke sampler og beskærer logs klogt. Sæt kvoter, skygge-log mindre vigtige tokens og brug sampling til kvalitetsmålinger.
Incident response bør spejle softwaredrift. Definér P1\/P2 for AI-fejl. Hvem må rulle en modelbinding tilbage? Hvem godkender et midlertidigt skift fra Mythos-sporet til Fable-sporet? Og hvor hurtigt? Få det skrevet ned – også hvis beslutningen tages i Slack. Bare det er tydeligt.
Governance, compliance og det nye revisionsspor
Konsekvens nummer tre: dokumentation er ikke pynt. Modelkort, datasporbarhed og testlogs skal kunne lægges på bordet for en ekstern revisor. Amodeis Advanced AI Framework peger mod tredjepartstest af frontier-modeller. Det forplanter sig nedad: kunder vil blive bedt om at vise, hvordan de anvender modellen ansvarligt. Forbered jer på at modtage – og aflevere – revisionsklare datapakker.
Opskriften er kedelig og effektiv. Standardisér modelkort for alle modeller i brug, også de små. Gem trænings- eller finetune-linjer i en datakatalog, så I kan forklare, hvorfor en afdeling fik de svar, den fik, den tirsdag i marts. Hold en versionsmatrix pr. miljø. Og gem test-artefakter: hvilke jailbreak-tests kørte I, hvornår, med hvilke scores.
Forvent tredjepartsaudits. Bed jeres leverandør dele deres sikkerhedsdesign for vægtbeskyttelse, insidertrusler og processer ved regulatoriske anmodninger. Hvis FAA-ideen materialiserer sig i USA, vil EU’s AI Act og lokale tilsyn ikke stå stille. Etabler en funktion, der kan svare hurtigt og konsistent – ellers forsvinder timerne i ad hoc-svar til jurister.
Arbejdskraft og de 350 millioner
Anthropics Economic Policy Framework handler om at mindske friktionen, når jobindhold flytter sig. VentureBeat skriver, at der følger 350 millioner dollar med. I praksis vil det trække på opkvalificering, især i roller tæt på compliance, data og AI-drift. Forvent mere efterspørgsel efter “AI compliance engineers” og auditorer, der kan læse både kode, log og politik.
Internt bør I planlægge omstillinger. Hvor kan AI tage de ensformige kvalitetstjek, og hvor skal der manuelt kontroltryk på? Start småt: en procesejer, der får hjælp til dokumentation. En analytiker, der får et eval-dashboard i stedet for rå logs. De små skridt baner vejen for de store.
Snillds vurdering og tjekliste
Vi vurderer, at Amodeis linje er fornuftig. Ikke fordi staten altid ved bedst, men fordi software i den her klasse kalder på standarder og modspil. Og uanset om forslaget lander 1:1 i lov, er retningen sat: skarpere test, skarpere dokumentation, flere stophåndtag. Det kan man planlægge efter nu.
Hvis du skal gøre noget konkret i denne uge, så brug denne prioriterede liste. Ikke alt på én gang – men mere end nul.
- Kortlæg afhængigheder: lav et enkelt diagram over alle steder, hvor en given model rammer forretningen. Versioner, miljøer, nøgleflows.
- Etabler en sekundær model: vælg og test mindst én alternativ model til hvert kritisk flow. Automatisér skiftet.
- Indfør en deploy-gate: automatiske jailbreak\/promptinjektions-tests før hver opgradering. Canary på 1–5 procent af trafikken.
- Skru op for logging klogt: gem prompts\/outputs med labels, men begræns token-tunge logs via sampling og retention-politikker.
- Standardisér modelkort: ét skema, alle modeller. Felter for træning\/finetune, kendte fejl, eval-resultater og kontaktperson.
- Opdater kontrakter: tilføj klausuler om regulatoriske holds, version-ID’er, audit-artefakter og varslingsfrister.
- Kør en tabletop-øvelse: simuler en myndighedsblokering fredag kl. 16. Hvem gør hvad? Hvor skifter I hen?
- Udpeg en ansvarlig: én navngiven person, der kan stoppe en model i produktion uden mødeindkaldelse.
Modargumenter og åbne spørgsmål
Kan man overhovedet lave en FAA for AI? Skeptikere vil pege på tempo, åbenhed og modulopbygning, som ikke passer til en tung, central regulator. Der er også juridiske spørgsmål i USA om mandat og koordinering på tværs af FTC, DHS, FDA m.fl. Amodeis essay er et forslag, ikke et lovudkast. VentureBeat opsummerer rammen; de konkrete processer mangler.
Teknisk audit er heller ikke trylleri. Hvilke tests er nok? Hvem får adgang til vægte og data? Hvordan undgår man box-ticking? Her halter branchen. Vi savner standardiserede eval-suiter, der måler reelle risici i kundekontekst – ikke kun benchmarks. Og vi mangler cases på reelle “recalls” af modeller. Luftfart har dem. Software? Færre, og typisk frivillige.
Og så omgåelserne. Hvis en frontier-model bremses, vil nogen forsøge at distillere den til en open-weight pendant. Amodei nævner problemet med modeldistillation. Hvordan man håndhæver uden at kvæle legitim forskning, er en balance. Her bliver international koordinering – og samspil med EU’s AI Act – afgørende.
Hvad vi ikke gør her
Vi lovgiver ikke. Der er brug for juridisk analyse af, hvordan en FAA-lignende myndighed kan forankres, og hvordan den spiller sammen med eksisterende tilsyn. Der er også brug for data på de 350 millioner dollar og en økonomisk model for effekten på arbejdsmarkedet. Det tager vi, når kilderne ligger klart.
Slutnote
Start småt. Tag ét kritisk flow og giv det en sekundær model og en deploy-gate. Man mærker forskellen, når man trykker på knappen, noget stopper – og systemet stadig leverer.
