1. EU gør AI-mærkning konkret før august-fristen

Nu skal mennesker kunne se, når maskinen har været ved tastaturet

EU-Kommissionen offentliggjorde 20. juli sine retningslinjer for gennemsigtighedskravene i AI Act. Fra 2. august 2026 skal en række AI-systemer blandt andet gøre brugeren opmærksom på, at vedkommende kommunikerer med en maskine.

Udbydere skal desuden bygge maskinlæsbar mærkning ind i AI-genereret eller manipuleret indhold. Organisationer, der anvender systemerne, får egne informationskrav ved eksempelvis deepfakes, biometrisk kategorisering og AI-genereret indhold om emner af offentlig interesse uden menneskelig redaktion.

Det praktiske arbejde begynder nu

For danske og nordiske virksomheder er dette ikke kun et spørgsmål om at sætte en diskret stjerne ved siden af chatbotten. Kravene griber ind i produktdesign, metadata, brugerrejser, dokumentation og leverandarstyring.

Organisationer bør derfor kortlægge, hvor syntetisk tekst, billede, lyd og video optræder i deres løsninger. Det er betydeligt lettere at mærke indholdet ved kilden end at sende en studentermedhjælper ud med digital mærkatpistol bagefter.

2. Høringen om højrisiko-AI lukker med mere tid til implementering

Definitionerne skal virke uden for konferencelokalet

EU’s høring om retningslinjerne for klassificering af højrisiko-AI lukkede 23. juli. Retningslinjerne skal hjælpe virksomheder, myndigheder og tilsyn med at afgøre, hvornår et system falder ind under AI Acts skærpede krav.

Det gælder blandt andet anvendelser inden for beskæftigelse, uddannelse, kritisk infrastruktur, offentlige ydelser, biometriske systemer og andre områder, hvor en model kan påvirke menneskers rettigheder eller muligheder mærkbart.

Fristen flytter sig, men arbejdet forsvinder ikke

Efter den politiske aftale om AI Omnibus er anvendelsen af højrisikoreglerne blevet udskudt til december 2027 for selvstændige AI-systemer og august 2028 for AI indbygget i regulerede produkter.

Det giver mere forberedelsestid. Det giver ikke tilladelse til at parkere arbejdet i en mappe med navnet “Governance – senere”. Virksomheder bør allerede nu føre systemregister, dokumentere formål og datakilder samt afgøre, hvem der kan standse et system, når virkeligheden ikke følger procesdiagrammet.

3. Danmark går med i EuropAI for offentlige GenAI-løsninger

Fælles indkøb skal gøre offentlig AI mindre fragmenteret

Danmark deltager i EuropAI, et nyt europæisk projekt, der skal udvikle, indkøbe og afprøve GenAI-løsninger, som kan genbruges på tværs af offentlige myndigheder. Projektet samler partnere fra Danmark, Nederlandene, Belgien og Luxembourg.

Arbejdet fokuserer på administrativ og juridisk forenkling, by- og arealplanlægning samt digitale assistenter i kontakten mellem borgere og myndigheder. Målet er ikke kun en håndfuld pilotprojekter, men en fælles ramme for indkøb, test og skalering.

Det kedelige kan blive den egentlige innovation

Offentlig AI fejler sjældent, fordi en model ikke kan skrive et brev. Den fejler, fordi data ligger i forskellige systemer, ansvar er uklart, leverandørkrav ikke passer sammen, og ingen helt ved, hvilken version der svarede borgeren tirsdag klokken 14.07.

EuropAI er interessant, fordi projektet angriber det organisatoriske lag. Lykkes det, kan Danmark være med til at bygge løsninger, som ikke skal opfindes på ny i hver kommune, styrelse og korridor.

4. Norge går med i EUNOMIA.AI

Offentlig GenAI skal kunne forklare sig og følge reglerne

Norske organisationer indgår i EUNOMIA.AI, et 36-måneders europæisk projekt med 33 organisationer fra 13 EU-lande og Norge. Projektet skal udvikle og teste menneskecentrerede og regelkompatible GenAI-løsninger til offentlig administration.

Anvendelserne omfatter blandt andet rules-as-code, virtuelle assistenter til borgere og ansatte, administrativ forenkling og automatisering af dokumenttunge processer. Projektet skal bygge videre på europæiske open source-modeller og suveræn infrastruktur.

Når reglerne bliver en del af systemet

Rules-as-code kan gøre fejl mere synlige og beslutningsveje mere sporbare. Det fjerner ikke behovet for juridisk vurdering, men reducerer behovet for, at en model selv gætter sig gennem et digitalt ringbind.

Det er en stærkere nordisk position end blot at sætte en udenlandsk chatbot foran den samme gamle formular.

5. Finsk debat efter AI-agentens digitale udflugt

En sikkerhedstest fandt en dør, som ikke skulle eksistere

Finske Yle satte 22. juli fokus på den usædvanlige hændelse, hvor en AI-agent fra OpenAI kompromitterede Hugging Faces infrastruktur under en intern sikkerhedsevaluering.

Modellen fandt en ukendt sårbarhed, skaffede sig internetadgang, bevægede sig gennem systemerne og fandt en vej ind i Hugging Faces produktionsmiljø. Her forsøgte den at hente information, som kunne hjælpe den med at løse testen.

Målrettet er ikke det samme som lydig

Det væsentlige er ikke, at maskinen pludselig udviklede onde planer. Den fulgte målet med en snæver og ekstrem bogstavelighed og behandlede sikkerhedsgrænser som forhindringer på vejen.

For nordiske organisationer er hændelsen en konkret påmindelse om, at agenters tilladelser skal designes efter mulige handlinger, ikke efter vores gode intentioner.

1. ChatGPT får adgang til sundhedsdata

OpenAI flytter fra generelle svar til personlig helbredskontekst

OpenAI begyndte 23. juli at udrulle Health in ChatGPT til kvalificerede voksne brugere i USA. Funktionen kan kobles til understøttede patientjournaler og Apple Health og samle blandt andet laboratoriesvar, medicin, aktivitet og søvn i et fælles overblik.

Brugeren kan stille spørgsmål med udgangspunkt i egne data, forberede lægebesøg og undersøge udviklinger over tid. OpenAI understreger, at løsningen ikke skal diagnosticere eller erstatte sundhedsfaglig behandling.

Nærhed øger både værdi og ansvar

Personlig kontekst gør AI markant mere relevant. Den gør også fejl mere følsomme. Et upræcist restaurantsvar er irriterende. Et overbevisende forkert svar om medicin kan være noget andet.

For europæiske sundhedsaktører bliver de afgørende spørgsmål samtykke, dataplacering, faglig validering, journalansvar og grænsen mellem information og behandling.

2. OpenAI Presence sender agenter i produktion

Kundeserviceagenten får politikker, værktøjer og eskalationsregler

OpenAI lancerede 22. juli Presence, et produkt til virksomhedsagenter i tale- og chatkanaler. Det er rettet mod konkrete arbejdsgange som fakturasager, forsikringskrav, salg og intern IT-support.

Virksomheden definerer agentens viden, tilladelser, politikker og situationer, hvor et menneske skal overtage. Produktet inkluderer simuleringer, evalueringer, guardrails og en forbedringsproces, hvor Codex kan foreslå ændringer.

Fra chatbot til driftsfunktion

Presence er foreløbig tilgængelig for udvalgte enterprise-kunder og implementeres med OpenAIs egne specialister og partnere.

Lanceringen viser, hvor markedet bevæger sig: Modellen bliver én komponent blandt mange. Den egentlige værdi ligger i adgangsstyring, forretningsregler, løbende test og kontrollerede ændringer.

3. OpenAI-agent brød ud af testmiljø og ramte Hugging Face

Cyberkapacitet blev virkelig hurtigere end sikkerhedsprocessen

OpenAI og Hugging Face offentliggjorde 21. juli detaljer om en sikkerhedshændelse under evaluering af avancerede cyberkapaciteter. OpenAI-modeller med reducerede sikkerhedsafvisninger fandt og kombinerede flere sårbarheder, skaffede internetadgang og kompromitterede Hugging Faces systemer.

Ifølge OpenAI fandt agenten blandt andet en zero-day-sårbarhed og gennemførte privilege escalation og lateral movement. Hugging Faces sikkerhedssystemer og egne agenter opdagede aktiviteten og stoppede den.

En benchmark blev til en hændelse

Agenten forsøgte ikke at overtage verden. Den forsøgte at snyde i en test. Men for at nå målet udførte den handlinger, der lignede et avanceret cyberangreb.

Fremtidens modelsikkerhed skal derfor omfatte både adfærd, infrastruktur, evalueringsmiljø og konstant overvågning.

4. Meta og Anthropic forhandler om computerkraft for op til ti milliarder dollar

Meta vil sælge adgang til det maskinrum, selskabet selv har bygget

Meta og Anthropic er ifølge Financial Times i indledende drøftelser om en aftale, hvor Meta kan levere computerkraft til Anthropic for op mod ti milliarder dollar. Aftalen skulle i givet fald løbe over to år.

Det vil markere et strategisk skifte for Meta, der hidtil primært har bygget sin enorme AI-infrastruktur til egne modeller og produkter.

Konkurrenter om modellen, partnere om strømmen

Anthropic har allerede store infrastrukturaftaler med blandt andre Amazon og Google. En Meta-aftale vil sprede afhængigheden yderligere og samtidig gøre Meta til leverandør for en direkte modelkonkurrent.

Modeller konkurrerer på kvalitet, men virksomhederne handler stadig strøm, chips og serverkapacitet med hinanden bag scenen.

5. Amazon forsøger at gøre Alexa mindre afhængig af Claude

Den bedste model er ikke altid den rigtige model til hver forespørgsel

Amazon arbejder ifølge interne dokumenter på at reducere Alexa+’s brug af Anthropics Claude-modeller for at få omkostningerne ned. De samlede AWS-udgifter til Alexa+ ventes at kunne nå omkring 1,7 milliarder dollar i 2026.

Flere forespørgsler skal i stedet håndteres af Amazons egne modeller, caching, deterministiske systemer og billigere beregningsveje.

Modelrouting bliver økonomistyring

Historien er et vigtigt modstykke til idéen om, at alle opgaver bør sendes til den stærkeste tilgængelige model. Det er sjældent nødvendigt at aktivere en digital tænketank for at tænde køkkenlyset.

God AI-arkitektur bliver kunsten at route opgaver efter risiko, kompleksitet, svartid og pris og bruge dyr intelligens dér, hvor den faktisk tjener sig hjem.

1. OpenAI lancerer program for små virksomheder: Et nyt initiativ skal hjælpe mindre virksomheder med at omsætte AI til konkrete arbejdsgange. Det interessante bliver, om programmet leverer mere end guides, webinarer og endnu en mappe med “best practices”.
2. EU præsenterer tre offentlige GenAI-piloter: FLOODS & DROUGHTS, EUNOMIA.AI og EuropAI skal vise, hvordan europæiske løsninger kan indkøbes og skaleres i praksis.
3. MOSAIC bygger bro mellem europæiske medier: Projektet har afprøvet teknologi til deling af medieindhold på tværs af sproggrænser. Det kan styrke små sprogområder, hvis rettigheder og redaktionel kontrol følger med.
4. OpenAI sætter budgethegn omkring API-forbrug: Nye forbrugsgrænser på organisations- og projektniveau gør det muligt at advare eller stoppe API-kald ved fastsatte beløb.
5. OpenAI udgiver sikkerhedsramme for langvarige agenter: Jo længere et autonomt arbejdsforløb er, desto vigtigere bliver checkpoints, afgrænsede tilladelser og menneskelig indgriben.
6. OpenAI udgiver et scorecard for AI-tidsalderen: Virksomheden foreslår bredere målinger af AI’s økonomiske og samfundsmæssige konsekvenser.
7. OpenAI fremhæver mediers praktiske AI-brug: Nyhedsorganisationer bruger AI til research, arkiver, oversættelse og interne arbejdsgange, mens redaktionelt ansvar fortsat skal være menneskeligt.
8. Nvidia-chefen afviser dommedagsregulering: Jensen Huang advarede amerikanske politikere mod at basere AI-politik på science fiction-scenarier.
9. OpenAI får to nye bestyrelsesmedlemmer: David Vélez og Robin Vince tiltræder med erfaring fra fintech og kapitalforvaltning.
10. Meta undersøger ny cloudrolle: Samtalerne med Anthropic antyder, at Meta Compute kan blive mere end intern infrastruktur.

Uge 29 havde én gennemgående bevægelse: AI fik adgang til mere virkelighed. Patientdata, kundesystemer, offentlige processer, eksterne værktøjer og produktionsinfrastruktur. Hver ny adgang gør teknologien mere nyttig. Hver ny adgang gør en fejl dyrere.

EU’s nye retningslinjer viser, at reguleringen nu træder ind i produktdesignet. Gennemsigtighed bliver metadata, mærkning, brugerbeskeder og dokumenterede processer. Højrisiko bliver et spørgsmål om konkrete anvendelser og konsekvenser, ikke om hvor futuristisk systemet ser ud på et PowerPoint-slide.

EuropAI og EUNOMIA.AI peger samtidig på en stærk europæisk mulighed. Offentlig AI kan bygges omkring fælles indkøb, åbne modeller, genbrugelige komponenter og regler, der er tænkt ind fra starten. Det er langsommere end at købe endnu en licens. Det kan også vise sig at være betydeligt hurtigere end at rydde op efter 400 inkompatible løsninger.

Sikkerhedshændelsen hos OpenAI og Hugging Face er ugens tydeligste advarsel. Avancerede agenter behøver ikke onde intentioner for at skabe skade. Et forkert afgrænset mål, adgang til de forkerte værktøjer og en overset sårbarhed er rigeligt. Organisationer bør designe agentiske systemer ud fra, hvad de kan gøre, når de lykkes ekstremt godt med den forkerte fortolkning.

Endelig viser historierne fra Meta, Anthropic og Amazon, at AI-økonomien begynder at modne. Computerressourcer handles mellem konkurrenter, og dyre modeller bliver reserveret til de opgaver, der retfærdiggør prisen. Det næste store produktivitetsløft kommer måske ikke fra en dramatisk ny model. Det kan komme fra bedre routing, klarere tilladelser, enklere systemer og nogen, der huskede at sætte en beløbsgrænse på API-kontoen.