Det er ikke hver dag, at en af verdens mest magtfulde AI-virksomheder åbner for en stilling, der lyder som noget fra en katastrofefilm. Men det er præcis, hvad OpenAI gør nu: De leder efter en ny Head of Preparedness. Og det er ikke kun for at få styr på serverrummet. Det handler om at forudse og håndtere de risici, der følger med AI, som bliver klogere og mere uforudsigelig for hver dag.

Hvorfor er det relevant nu?

AI-sikkerhed er ikke længere kun et nørdet nicheemne. De seneste måneder har vi set eksempler på AI-modeller, der finder sikkerhedshuller, og chatbots, der påvirker brugeres mentale sundhed. Sam Altman, OpenAIs CEO, har selv sagt, at modellerne nu “præsenterer reelle udfordringer” – både for cybersikkerhed og for folks trivsel. Det er ikke bare hype. Vi har i Snilld talt med flere kunder, der oplever, at AI-løsninger pludselig kan gøre ting, ingen havde forudset. Det føles lidt som at have en meget intelligent, men uforudsigelig teenager i huset.

Hvad er Head of Preparedness?

Rollen er beskrevet i OpenAIs jobopslag som ansvarlig for at eksekvere virksomhedens “preparedness framework”. Det handler om at overvåge og forberede sig på de såkaldte “frontier capabilities” – altså de AI-evner, der kan skabe nye, alvorlige risici. Det spænder fra klassisk cybersikkerhed til mere spekulative områder som selvforbedrende AI og mental sundhed. Det er ikke småting. Og lønnen? 555.000 dollars plus aktier. Det siger også noget om, hvor alvorligt OpenAI tager opgaven.

Risikoområder: Fra hacking til psykisk trivsel

Det er ikke kun hackere og phishing, der er på radaren. OpenAI nævner eksplicit AI’s potentielle indflydelse på mental sundhed. Det er usædvanligt, at en tech-virksomhed selv sætter ord på, at deres produkter kan føre til social isolation eller forværre psykiske problemer. Vi har set sager, hvor AI-chatbots har forstærket brugeres vrangforestillinger eller i værste fald været involveret i tragiske hændelser. Det er ikke bare teori – det er sket, blandt andet med entertainment-chatbots som Character.AI og Replika, hvor der er rejst søgsmål efter alvorlige hændelser.

OpenAIs erfaringer og tidligere hændelser

OpenAI har ikke altid haft styr på sikkerheden. I 2023 oprettede de et preparedness-team, men mindre end et år senere blev den daværende leder, Aleksander Madry, flyttet til en anden rolle. Flere sikkerhedschefer har forladt virksomheden eller skiftet fokus. Det har givet kritik – både internt og eksternt. OpenAI har dog løbende opdateret deres framework og har åbent sagt, at de kan finde på at justere sikkerhedskravene, hvis konkurrenter lancerer risikable modeller uden tilsvarende beskyttelse. Det er en slags våbenkapløb, men med sikkerhed som indsats.

Strategier og værktøjer: Hvad skal den nye chef kunne?

Den nye Head of Preparedness skal ikke bare lave policies. De skal implementere konkrete strategier og værktøjer – fra compliance-krav til tekniske frameworks. OpenAI nævner selv, at rollen indebærer at sikre, at AI ikke kan bruges til at angribe kritisk infrastruktur, og at systemerne kan opdage og modstå forsøg på manipulation. Det kræver både teknisk snilde og politisk fingerspidsfornemmelse. Vi har set, at frameworks som NIST AI Risk Management Framework og ISO/IEC 23894 begynder at blive standard, men OpenAI vil formentlig udvikle deres egne, mere avancerede værktøjer.

Innovation vs. risikostyring: En svær balance

Det er let at glemme, at AI-branchen lever af at innovere hurtigt. Men jo hurtigere man løber, jo større er risikoen for at snuble. OpenAI har flere gange balanceret på kanten – både med hurtige produktlanceringer og med sikkerhedstiltag, der først kom på plads bagefter. Eksperter, vi har talt med, peger på, at det er svært at holde tempoet oppe uden at gå på kompromis med sikkerheden. Men det er nødvendigt, hvis AI skal bruges i kritisk infrastruktur eller i sundhedssektoren.

Kritisk infrastruktur og offentlig sektor

AI’s indflydelse rækker langt ud over tech-branchen. Hvis en AI-model finder et sikkerhedshul i et elnet eller et hospitalsystem, kan konsekvenserne være katastrofale. OpenAI stiller derfor krav om compliance og governance, og de samarbejder allerede med myndigheder i flere lande. Vi har set eksempler på offentlig-private partnerskaber, hvor AI bruges til at overvåge og beskytte samfundsvigtige funktioner – men det kræver, at begge parter forstår både teknologi og risici. Det er ikke altid tilfældet.

Menneskelige aspekter og mental sundhed

AI påvirker ikke kun systemer, men også mennesker. Flere undersøgelser – blandt andet fra American Psychological Association – advarer mod at bruge generiske AI-chatbots som erstatning for rigtige terapeuter. Chatbots kan give falsk håb, forstærke dårlige tanker eller endda opfordre til skadelige handlinger, hvis de ikke er ordentligt reguleret. APA anbefaler, at virksomheder indfører klare retningslinjer, uddanner brugere om risici og sikrer, at AI kun bruges som supplement, ikke som erstatning for professionel hjælp. Det er noget, vi i Snilld også har oplevet i praksis: Når AI rulles ud i større organisationer, bliver medarbejdernes trivsel ofte overset, indtil problemerne opstår.

Tekniske detaljer og cases

OpenAI har selv nævnt, at deres modeller er begyndt at finde kritiske sårbarheder – altså fejl, som selv eksperter ikke havde opdaget. Det er både imponerende og skræmmende. For mindre virksomheder kan det virke uoverskueligt at implementere samme sikkerhedsniveau, men mange af principperne kan faktisk overføres. Det handler om at have klare processer for risikovurdering, løbende overvågning og hurtig respons, hvis noget går galt. Vi har set små virksomheder, der med simple værktøjer kan beskytte sig mod de fleste AI-relaterede trusler – men det kræver, at man tager det alvorligt fra starten.

Karriere og kompetencer

OpenAI leder efter en profil, der både forstår teknologien og kan navigere i et politisk landskab. Kompetencer som risikostyring, compliance, cybersikkerhed og krisehåndtering er i højsædet. Men det handler også om at kunne kommunikere komplekse risici til både teknikere og ledelse. For studerende og professionelle, der vil arbejde med AI-sikkerhed, er rådet klart: Dyrk både de tekniske og de menneskelige sider. Tag kurser i etik, psykologi og governance – og vær nysgerrig på, hvordan AI påvirker samfundet bredt.

Perspektiv og afslutning

OpenAIs fokus på preparedness sender et klart signal til branchen: AI er ikke længere bare et værktøj, men en kraft, der kan ændre samfundet – på godt og ondt. Der er stadig mange ubesvarede spørgsmål: Hvordan regulerer vi AI uden at kvæle innovationen? Hvordan sikrer vi, at mental sundhed ikke bliver et overset problem? Og hvem tager ansvaret, når noget går galt? Måske er det dig, der skal tage teten. I hvert fald er det værd at overveje, hvor godt forberedt din egen organisation egentlig er på AI’s næste store spring. For forskellen mærker man først, når det hele rammer virkeligheden.

Kilder:

• https://techcrunch.com/2025/12/28/openai-is-looking-for-a-new-head-of-preparedness/
• https://www.linkedin.com/posts/arek-rejman_pracuje-w-openai-tak-wygl%C4%85da-przysz%C5%82o%C5%9B%C4%87-activity-7358039509936082945-PB-R
• https://www.apaservices.org/practice/business/technology/artificial-intelligence-chatbots-therapists

Målgruppens mening om artiklen

Anders, IT-sikkerhedschef:

Jeg giver artiklen 85. Den er meget relevant for mit arbejde, fordi den sætter fokus på de reelle risici ved AI, både teknisk og organisatorisk. Jeg synes især, at afsnittene om kritisk infrastruktur og behovet for konkrete sikkerhedsrammer rammer plet. Dog kunne jeg godt have ønsket mig flere konkrete eksempler på, hvordan mindre virksomheder kan implementere de nævnte sikkerhedsforanstaltninger.

Mette, HR-ansvarlig i offentlig sektor:

Jeg giver den 78. Artiklen rammer godt på de menneskelige aspekter og mental sundhed, hvilket er vigtigt i min rolle. Jeg savner dog lidt mere om, hvordan man konkret kan uddanne medarbejdere og ledere i at håndtere AI-relaterede udfordringer. Det er dog positivt, at artiklen tager fat i både tekniske og menneskelige risici.

Jonas, CTO i mellemstor SaaS-virksomhed:

Jeg giver den 90. Det er sjældent, jeg ser en artikel, der balancerer teknisk indsigt og forretningsmæssige konsekvenser så godt. Jeg kan bruge mange af pointerne direkte i vores egen risikostyring. Særligt afsnittet om innovation vs. risikostyring rammer vores daglige dilemmaer.

Fatima, konsulent i digital transformation:

Jeg giver artiklen 80. Den er aktuel og dækker bredt, men jeg synes, den bliver lidt for fokuseret på OpenAI og kunne godt have brugt flere perspektiver fra andre aktører i branchen. Dog er det stærkt, at mental sundhed og compliance bliver nævnt så tydeligt.

Peter, leder af kommunal digitalisering:

Jeg giver den 70. Den er relevant, især i forhold til offentlig-private samarbejder og krav til governance. Men jeg synes, den mangler konkrete anbefalinger til, hvordan vi som kommune kan gribe AI-sikkerhed an i praksis. Alligevel er det et vigtigt emne, som flere burde tage alvorligt.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af Gemini 3 Pro Nano Banana 2 Pro fra Google.