AI udvælger til kontrol. Nu bliver udvælgeren undersøgt.
Papirerne skal også kunne findes i den anden mappe.
Uge 45: Ugens AI-begivenheder fra 31. okt. – 6. nov. – Af Snilld-redaktionen
Har du bygget en maskine, der udvælger kolleger til kontrol, kan du godt forberede dig på, at nogen beder om at se brugsanvisningen. Datatilsynet oplyste 4. november, at det har indledt tilsyn med AI hos Skatteforvaltningen og Region Midtjylland, blandt andet med fokus på konsekvensanalyser og ansvarsfordeling. Imens vil Novo Nordisk Fonden med op til 100 mio. kr. til AI4GRIDS have elnettet til at regne hurtigere, mens AI Sweden lader en agent teste tusindvis af planlægningsforslag, før nogen tegner nye streger. BullWall skifter navn til Helm og vil også inddæmme skader fra egne AI-agenter, og Saab har ladet egne agenter styre Gripen E i forsøg. Flyvehøjden i præsentationen er stadig noget andet end en plads på vagtplanen.
Globalt finder OpenAI 948 veje til forhøjede rettigheder i Linux og vil købe Pierre for at samle mere kodearbejde i Codex, mens Meta har købt Conductor og lukker skytjenesten 20. november. Udviklernes værktøjskasse er åbenbart også blevet en indkøbskurv, og det er smartest at kigge efter udgangen, før man sætter sig til rette. Google foreslår en ramme, hvor sundheds-AI skal vurderes på præcision, sikkerhed og nytte samtidig, og OpenAI sætter fart på billedproduktionen med Images 2.6. Der bliver god lejlighed til at spørge, om godkendelserne kan følge med leverancerne. Velkommen til ugens puls.
Vigtigste AI-Nyheder fra Danmark og Norden

1. Datatilsynet undersøger AI hos Skatteforvaltningen og Region Midtjylland
Udvælgelsen til kontrol er selv kommet under lup.
Datatilsynet oplyste 4. november, at det har indledt tilsyn med konkrete AI-løsninger hos Skatteforvaltningen og Region Midtjylland. Hos Skatteforvaltningen udvælger en løsning medarbejdere i Skatteministeriets koncern til intern kontrol af skatte- og afgiftslovgivningen. En klage er blandt anledningerne til tilsynet. Regionens Fokuspatienter i Psykiatrien skal identificere patienter med forhøjet risiko for bæltefiksering, så behandlingstiltag kan forebygge den. Begge tilsyn undersøger blandt andet konsekvensanalyser og fordelingen af roller og ansvar. I skattesagen undersøger Datatilsynet desuden forhold vedrørende forbudt AI-praksis efter AI-forordningen. Nyheden indeholder ingen afgørelse, sanktion eller påbud. Det er dermed fortsat åbent, hvad undersøgelserne vil føre til, og om reglerne er overholdt.
Også udvælgelsen skal kunne forklares
For organisationer med AI tæt på medarbejdere eller patienter er tilsynene en anledning til at finde dokumentationen frem. Kan man forklare, hvilke oplysninger løsningen behandler, hvorfor de er nødvendige, og hvem der har ansvaret for vurderingerne? En god hensigt, som at forebygge bæltefiksering, besvarer ikke de spørgsmål alene. Det vil være for tidligt at læse tilsynene som en dom over løsningerne. Til gengæld viser undersøgelsespunkterne, hvad ledelsen bør kunne redegøre for, før den overlader udvælgelse eller beslutningsstøtte til en model. Det gælder også samarbejdet med leverandører, hvor ansvarsfordelingen bør kunne beskrives konkret. Kontrolapparatet har fået en sag, hvor det selv ligger i sagsmappen.

2. Novo Nordisk Fonden bevilger op til 100 mio. kr. til elnettets AI
Der skal regnes hurtigere, så operatørerne kan bevare roen.
Novo Nordisk Fonden meddelte 3. november, at den bevilger op til 100 mio. kr. over fire år til AI4GRIDS. DTU leder arbejdet sammen med Lunds Universitet og NTNU. Projektet skal kombinere AI med matematiske modeller for at udnytte det eksisterende nordiske elnet bedre, håndtere usikkerhed fra vind og sol og øge robustheden. Ifølge fonden kan AI-værktøjerne regne op til 100 gange hurtigere. Operatørerne beholder ansvaret, selv om ambitionen er mere selvstyrende net med mennesker i en tilsynsrolle. Projektet skal uddanne mere end 30 ph.d.er, postdoktorer og specialister og forventes at begynde i første kvartal 2027. Bevillingen finansierer altså et forskningsarbejde med en kommende start.
Hurtige beregninger skal passe til ledningerne
For elnettets operatører er løftet interessant, fordi hurtigere beregninger kan give plads til at afprøve flere muligheder, inden der skal handles. Hastighed gør dog først arbejdet lettere, når beregningerne passer til nettets fysiske begrænsninger og den usikkerhed, operatørerne står med. Kombinationen af AI og matematiske modeller er derfor værd at følge. Organisationer, der overvejer lignende værktøjer, bør spørge, hvordan forslag kontrolleres, og hvad medarbejderne gør, når modellens forventninger svigter. Fondens hastighedstal er en påstand om værktøjernes beregninger; det er ingen opgørelse over allerede undgåede strømsvigt. Med mennesker fortsat ansvarlige skal betjeningen kunne følge med regnekraften. Elnettet får mere hovedregning, men sikringsskabet har stadig ingen respekt for et flot gennemsnit.

3. BullWall bliver til Helm og vil også bremse egne AI-agenter
Gyldig adgang kan stadig føre til ugyldigt arbejde.
BullWall skiftede 2. november navn til Helm, oplyste selskabet i sin pressemeddelelse og sine spørgsmål og svar. Det danske selskab begrunder ændringen med cyberangrebs hastighed og skala samt risikoen for, at egne AI-agenter ødelægger data med gyldige adgangsoplysninger. Platformen reagerer på, hvordan data ændrer sig, og kan ifølge selskabet stoppe aktiv kryptering inden for sekunder og isolere konti eller enheder. Den kontrollerer sikkerhedskopier før gendannelse og skriver hændelsesrapport under inddæmningen. Helm oplyser, at indgrebene bygger på faste, reviderbare regler frem for AI-vurderinger. Hovedsædet er fortsat i København, og Axcel er uændret ejer. Navneskiftet ændrer dermed hverken den oplyste ejer eller placeringen af hovedsædet.
Adgang er ingen garanti for omtanke
Når en organisation giver AI-agenter adgang til at ændre data, bør den også beslutte, hvilke ændringer der skal udløse et stop. En godkendt konto fortæller, hvem der må komme ind; den fortæller mindre om, hvorvidt arbejdet går som planlagt. Helms tilgang retter kontrollen mod selve ændringerne og behandler derfor skade fra egne agenter som noget, der også skal kunne inddæmmes. Det er en relevant skelnen ved indkøb, men selskabets løfter om hastighed bør afprøves på organisationens egne arbejdsgange. Spørg også, hvem der kan genåbne en isoleret konto, og hvordan gendannelse kontrolleres bagefter. Makulatoren bliver trods alt ikke mere betryggende af at have medarbejderkort.

4. Saab har testet egne AI-agenter i Gripen E
Agenterne har været i luften; den operative indførelse venter.
Saab har ladet egne AI-agenter styre Gripen E autonomt i luftkampscenarier uden for synsvidde, skrev SVT 3. november. Ifølge ABC Nyheter samme dag kan agenterne støtte piloten i cockpittet eller operere fra ubemandede fly sammen med piloter. Gripen E holder kampmissionssoftware adskilt fra flyvekritiske funktioner, hvilket letter integration og afprøvning. Saab beskriver fremtidens luftkamp som et samspil mellem bemandede og ubemandede systemer. Teknologien skal stadig indføres operativt af det svenske luftforsvar og FMV. ABC Nyheter gengiver en tidshorisont fra måneder til et ensifret antal år. Den offentlige bekræftelse gælder altså gennemførte forsøg med Saabs egne agenter, mens den operative anvendelse fortsat ligger foran dem.
En vellykket prøve er begyndelsen på et ansvar
Den organisatoriske lære er at skelne mellem, hvad et system har gjort under afprøvning, og hvad nogen vil betro det i drift. Adskillelsen mellem kampmissionssoftware og flyvekritiske funktioner gør den tekniske opbygning relevant ud over selve forsøget: ændringer kan afprøves med en tydelig grænse mellem funktionerne. For virksomheder med agenter i kritiske arbejdsgange er det værd at overveje en tilsvarende afgrænsning. Hvilke dele må agenten påvirke, og hvilke skal holdes udenfor? Saabs forsøg besvarer ikke alle spørgsmål om fremtidens anvendelse, og den brede tidshorisont bør læses som netop en tidshorisont. At have været i luften giver heller ikke automatisk adgang til vagtplanen.

5. AI Sweden udvikler en agent til elnettets planlægning
Flere muligheder skal prøves af, før der tegnes nye streger.
AI Sweden beskrev 2. november projektet GridForesight, hvor elnetselskaber udvikler en AI-agent som støtte til netplanlægning. Agenten får gennem en programgrænseflade adgang til de samme beregningsmodeller som det grafiske planlægningsværktøj. Jimmy Sandström fra Umeå Energi fremhæver, at en agent kan afprøve tusindvis af alternativer, hvor et menneske tester et antal. Målet er mere tilgængelig effekt gennem små tiltag. Agenten kan nu analysere den aktuelle situation og lave enklere fremtidsprognoser. Senere skal den foreslå mindre tekniske tiltag og derefter ændringer i nettets struktur. Sverige har cirka 170 elnetselskaber. AI Sweden vurderer, at erfaringerne også kan bruges inden for vand, transport og telekommunikation på længere sigt.
Mange forslag kræver et brugbart udvalg
GridForesight er interessant som en måde at lade en agent arbejde med beregningsmodeller, der allerede indgår i planlægningen. Den får dermed et konkret arbejdsredskab, som dens forslag kan prøves med. For et elnetselskab vil værdien afhænge af, om de mange alternativer kan omsættes til forslag, som planlæggerne kan kontrollere og prioritere. Ellers flytter man blot køen fra beregningerne til gennemgangen af resultaterne. Den beskrevne rækkefølge fra situationsanalyse til mindre tiltag og senere strukturændringer giver samtidig mulighed for gradvis afprøvning. En indkøber bør derfor spørge til den nuværende funktion, før fremtidsplanerne får plads i kontrakten. Tusindvis af forslag er kun en hjælp, hvis de ikke alle kræver et møde.
Vigtigste globale AI-nyheder

1. OpenAI finder 948 angrebsveje til forhøjede rettigheder i Linux
Fejlene kan findes automatisk; rettelserne skal stadig gennemgås.
OpenAI offentliggjorde 4. november resultater fra et autonomt system til at finde og afprøve sårbarheder i Linux. En kommende sikkerhedsmodel fandt 2.308 kandidater, hvoraf 1.724 blev genskabt dynamisk. Efter variantanalyse stod forskerne med 948 særskilte angrebsveje fra en lokal bruger uden særlige rettigheder til administratoradgang samt rettelsesforslag. OpenAI opgiver omkostningen til cirka 1.213.430 amerikanske dollar for brugen af modellen gennem en programgrænseflade. Menneskelige forskere gennemgår resultaterne, før de indsendes til vedligeholderne, i samarbejde med Patch the Planet. Under scanningen på under 10 dage var rettelser til 61 angrebsveje allerede indarbejdet i den officielle kode, mens 299 var under offentlig diskussion. Tallene er OpenAI’s egne.
Et fund er først nyttigt, når nogen kan handle på det
For organisationer, der vedligeholder software, peger forsøget på en mulig forskydning af arbejdet. Hvis modeller kan finde og afprøve flere fejl, bliver der tilsvarende mere materiale at kontrollere, prioritere og rette. De 948 angrebsveje kræver lokal adgang som udgangspunkt; tallet beskriver derfor ikke angreb, der uden videre kan gennemføres udefra. Det er også værd at skelne mellem et rettelsesforslag og en ændring, der er gennemgået og taget i brug. OpenAI har mennesker med før rapporteringen, hvilket gør deres arbejde til en del af metoden. Ved indkøb af automatisk fejlfinding bør kapaciteten til opfølgning følge med. En røgalarm er mindre hjælpsom, hvis den afleverer sit arbejde i en ubemandet indbakke.

2. OpenAI vil købe Pierre og flytte kodeværktøjer ind i Codex
Værktøjerne bruges allerede; ejerskiftet afventer godkendelser.
OpenAI meddelte 4. november, at selskabet vil købe Pierre Computer Company. Pierres værktøjer Trees og Diffs bruges allerede i Codex-appen til filnavigation og kodegennemgang. Efter handlens afslutning vil OpenAI bringe funktioner fra Code Storage ind i Codex. Værktøjer med åben kildekode skal fortsat have åben kildekode, skriver selskabet. Handlen afhænger af sædvanlige betingelser, herunder myndighedsgodkendelser, og selskaberne forbliver separate indtil afslutningen. Prisen fremgår ikke af meddelelsen. OpenAI henviser også til Pando, selskabets egen Git-infrastruktur til ingeniører og agenter, som blev offentliggjort tidligere på ugen. Ambitionen om at samle mere af arbejdet i Codex omfatter dermed både opbevaring af kode og værktøjer til at gennemgå den.
Koden har brug for en adresse, man kan flytte fra
Opkøbsplanen er relevant for virksomheder, der overvejer, hvor meget af udviklingsarbejdet de vil samle hos samme leverandør. Når agent, filnavigation, kodegennemgang og opbevaring ligger tæt, kan det gøre arbejdsgangen lettere. Det gør samtidig spørgsmål om adgang, flytning og versionshistorik værd at afklare inden indkøb. Løftet om fortsat åben kildekode vedrører værktøjerne; det beskriver ikke i sig selv vilkårene for al fremtidig drift eller integration. Bed derfor om at få vist, hvordan organisationen kan hente sit arbejde ud og fortsætte andetsteds. Indtil handlen er afsluttet, bør fremtidige funktioner behandles som planer. Det er lettere at forelske sig i et værksted, hvis man også har set udgangen.

3. Meta køber Conductor, og skytjenesten lukker
Udviklerne får en ny ejer og en dato at pakke efter.
Meta har købt Conductor, bekræftede selskabet over for TechCrunch 4. november. Conductor lader udviklere køre flere kodeagenter i parallelle arbejdsområder fra skyen, lokalt eller telefonen. Agenterne bruger modeller fra blandt andre Anthropic og OpenAI; Conductor udvikler ikke selv modellerne. Vilkårene for handlen er ikke oplyst. Ifølge Conductors meddelelse lukker skytjenesten 20. november 2026, og data i skyen slettes derefter. Den lokale app fortsætter ind i begyndelsen af 2027. Stifteren Charlie Holtz varsler et nyt produkt tidligt næste år og ser frem til samarbejdet med Alexandr Wang og Nat Friedman. For de nuværende brugere følger der dermed konkrete ændringer i adgangen til tjenesten med opkøbet.
En leverandørs nye kapitel kan lukke dit arbejdsområde
For brugere af Conductor er lukningen en konkret driftsopgave. De bør afklare, hvilke data der ligger i skytjenesten, og sikre det nødvendige materiale, før tjenesten lukker og data efterfølgende slettes. At den lokale app fortsætter længere, er nyttigt at vide, men giver ingen begrundelse for at udsætte den gennemgang. Historien viser også, hvorfor leverandørvurdering bør omfatte mere end kvaliteten af de modeller, et produkt bruger. Et arbejdsområde kan forsvinde, selv om modellerne bag kommer fra andre selskaber. Ved kommende indkøb bør muligheden for at flytte arbejdet derfor afprøves sammen med funktionerne. Leverandørens velkomstfest er et upraktisk sted at opdage, at ens skrivebord skal bæres ud.

4. Google foreslår en ramme til at vurdere sundheds-AI
Et rigtigt svar skal også være sikkert og anvendeligt.
Google offentliggjorde 4. november en rapport med en samlet ramme til evaluering af sundheds-AI. Sarah Montgomery-Taylor og medforfattere beskriver en vurdering af præcision, sikkerhed og nytte med bidrag fra blandt andre Elizabeth McGlynn og Dana Gelb Safran. Metoderne omfatter prøver med lukkede spørgsmål, automatiske bedømmere og menneskelige eksperters gennemgang. Evalueringen skal omfatte både almindelige situationer og situationer med høj risiko. Google skriver, at selskabet bruger rammen til egne modeller og deler den for at gøre arbejdet mere gennemsigtigt og anvendeligt for andre. Det offentliggjorte er en metode til at undersøge modellernes egenskaber. Rapporten giver dermed et udgangspunkt for vurdering af sundheds-AI på tværs af flere hensyn.
Nytte skal have plads ved siden af præcision
For en organisation, der overvejer sundheds-AI, er opdelingen en anledning til at stille forskellige spørgsmål til samme produkt. Hvor ofte svarer det korrekt, hvordan håndterer det risikable situationer, og hjælper svaret nogen med den konkrete opgave? En prøve med lukkede spørgsmål kan belyse noget andet end en eksperts gennemgang af et forløb. Derfor bør leverandøren kunne forklare, hvordan metoderne supplerer hinanden, og hvor vurderingen har huller. Googles brug af rammen på egne modeller er heller ikke en uafhængig bedømmelse af dem. Indkøberen bør efterspørge resultater, der passer til den planlagte anvendelse. Et termometer kan aflæses fejlfrit og stadig være en besværlig måde at bestille frokost på.

5. OpenAI lancerer Images 2.6 med animation og nye billedværktøjer
Billederne kommer hurtigere; nogen skal stadig se efter.
OpenAI lancerede 4. november Images 2.6 i ChatGPT, Codex og gennem sin programgrænseflade. Selskabet lover 50 procent hurtigere generering, GIF-animation, mere præcis billedredigering og nye indstillinger til udviklere. Modellerne hedder GPT-Image-2.6 Flare og Sunburst. Flare prioriterer hastighed og kan ifølge OpenAI nå ned omkring 6 sekunder ved lav kvalitet, mens Sunburst prioriterer kvalitet og ensartethed. Udviklere får også mulighed for billedmarkering, eksport til SVG og en indstilling for kompleksitet. Funktionen er globalt tilgængelig på alle abonnementer via computer, mobil og web. OpenAI oplyser desuden, at der genereres cirka 4 mia. billeder om ugen på tværs af ChatGPT, Codex og programgrænsefladen. Hastighed og omfang er selskabets egne oplysninger.
Produktionstempo kræver et tempo for godkendelser
For kommunikationsafdelinger og designere er præcis redigering og ensartethed relevante egenskaber at afprøve på egne opgaver. Hurtig generering kan gøre det lettere at sammenligne forslag, men den kan også give flere billeder at gennemse. Derfor bør en afprøvning omfatte hele arbejdet fra bestilling til godkendt materiale, inklusive rettelser. Eksport til SVG er en konkret mulighed, som bør vurderes ud fra, om resultatet kan bruges i organisationens videre arbejde. OpenAI’s hastighedsløfte fortæller ikke i sig selv, hvor længe den samlede opgave tager. Det afgørende er, hvor meget brugbart materiale der kommer gennem kontrollen. Kopimaskinen bliver heller ikke færdig med en brochure, bare fordi den har varmet op.
10 Værd at Bemærke: Ind- og Udland (Honorable Mentions)
- IT-Barometer: AI løfter produktiviteten i tre ud af fire: IT-Branchen offentliggjorde 3. november tal fra 130 danske it-virksomheder. 76 procent siger, at AI har forbedret produktiviteten. Natasha Friis Saxberg advarer om ikke at save de første trin af karrierestigen væk.
- Apple begynder AI-test i Kina med Qwen: Developer-testen af Apple Intelligence i Kina startede 4. november via iOS 27.3-beta. Alibabas Qwen støtter udvalgte funktioner, og offentlig udrulning er planlagt til december. Den nye AI-Siri indgår ikke.
- Anthropic indgår ifølge Adweek licens med AP: Adweek rapporterede omkring 5. november, at Anthropic har indgået sin første betalte publisher-licens med Associated Press til valgcoverage. Vilkårene er ikke offentliggjort, og The Verge omtaler aftalen som rapporteret.
- OpenAI hæver bug bounty og planlægger sikkerhedssprint: OpenAI meddelte 2. november højere belønninger i Security Bug Bounty. Samme dag varslede selskabet en intern sikkerhedssprint med Cathedral Systems, hvor AI skal bruges til at teste egne forsvar.
- ChatGPT og Codex skal dele usage-pulje fra december: Ifølge OpenAIs usage-dokumentation, omtalt 2. november, vil krævende brug af ChatGPT og Codex trække på samme pulje fra december. Almindelige Instant-chats tæller ikke med i den fælles begrænsning.
- Anthropic skærper politik mod misbrug af Claude: Anthropic præciserede 2. november en politik mod sustained, needless abuse af Claude. Reglen retter sig ifølge selskabet mod ekstrem mistankebehandling, ikke kritik. Primær reaktion er at afslutte samtalen.
- AWS vokser 39,3 procent i tredje kvartal: Amazon oplyste i regnskaber omtalt 2. november, at AWS-salget steg 39,3 procent til næsten 46 milliarder dollar. Det er den hurtigste vækst i næsten fem år og peger på AI-infrastrukturefterspørgsel.
- Meta-annoncer vokser hurtigere end Google Search i Q3: Ifølge regnskabstal omtalt 2. november steg Metas annonceomsætning 26 procent i tredje kvartal, mens Google Search og øvrigt voksede 12 procent. Begge forretninger voksede; tallene siger ikke, at Google faldt.
- NAACP-sag om xAI’s Colossus-turbiner kan fortsætte: En føderal dommer tillod 2. november ifølge omtalen, at NAACP’s sagsanlæg mod xAI om gas-turbiner til Colossus kan fortsætte. Afgørelsen er procedurel og ikke en afgørelse om ansvar.
- Gemini 4 Carbon er stadig i begrænset pre-release: Googles oktober-opsummering 2. november noterer, at Gemini 4 Argon er rullet bredt ud, mens Gemini 4 Carbon fortsat er i begrænset pre-release-test. Det er en status, ikke en ny lancering.
Snillds Perspektiv / Konkluderende Bemærkninger
Det mest interessante ved ugen er ikke, at AI optræder flere steder, men at kontrollen følger efter. Datatilsynets tilsyn handler om konsekvensanalyser og roller, før nogen har afsagt en dom. AI4GRIDS og GridForesight handler om at få mere ud af et elnet, der allerede er der, mens mennesker stadig har ansvaret. Helm minder om, at en gyldig adgangskode ikke er det samme som gyldigt arbejde. Saabs forsøg minder om, at en vellykket test stadig skal ind i en operativ organisation med regler, ejerskab og en tidshorisont, der kan tåle at blive læst højt.
Globalt ser vi den samme forskydning. OpenAI kan finde hundredvis af Linux-huller, men rettelserne skal stadig gennemgås og tages i brug. Opkøbene af Pierre og Conductor gør udviklernes værktøjer til leverandørspørgsmål om flytning, data og lukkedatoer. Googles sundhedsramme forsøger at måle præcision, sikkerhed og nytte samtidigt. Images 2.6 gør det hurtigere at producere billeder, uden at gøre godkendelsen hurtigere af sig selv. I begge tilfælde er det fristende at lade produktionshastigheden stå alene som succesmål. Det bør den ikke.
For danske virksomheder og myndigheder er den praktiske lære stadig analog: beskriv opgaven før værktøjet, dokumentér ansvaret før udrulningen, og sørg for, at nogen kan følge op, når systemet finder for meget eller for lidt. Det er mindre spektakulært end en agent med egen hangarplads. Det er også den del, der holder, når demoen er slut, og mappen skal fremvises.
