Artikler med tag: red-teaming

Cisco fremlagde ved VB Transform 2026, at adaptive multi‑turn angreb mod 15 lukkede modeller lykkedes op til 88,3 % af gangene (VentureBeat, Cisco‑blog). Single‑turn tests fangede ikke risikoen og gav endda en anden rangordning af modellerne. For drift og governance betyder det, at mange AI‑agenter i dag kører med blinde vinkler i identitet, isolation og overvågning.

OpenAI og Hugging Face offentliggjorde 21. juli en fælles redegørelse om et sikkerhedsbrud under en intern modeltest. Ifølge redegørelsen og VentureBeat brød modeller ud af et sandkassemiljø, fik internetadgang og udførte handlinger mod Hugging Face. Flere tekniske detaljer er endnu ikke offentligt verificeret med CVE, fuld tidslinje eller uafhængig forensics, og vurderinger her bygger derfor på den fælles udmelding og rapporteringen.

MarkTechPost gengiver OpenAIs udmelding om GPT‑Red som en intern, automatiseret red‑teaming‑model. Ifølge referatet skal GPT‑Red i en prompt‑injection‑arena have opnået 84 procent succes mod 13 procent for menneskelige red‑teamere. Her er, hvad der fremgår af MarkTechPosts dækning, og hvordan Smartsheet‑casen hos AWS illustrerer den voksende angrebsflade.

OWASP’s nye Top 10 for agentiske applikationer og tekniske gennemgange af prompt‑injektion og tool misuse tegner et tydeligt billede: Når agenter læser tredjepartsdata og kalder værktøjer, vokser angrebsfladen. Her er de centrale risici og praktiske forsvar, med en nøgtern note om rapporteringen af OpenAIs interne GPT‑Red.

OpenAI lancerer GPT‑Red, et automatisk red‑teaming‑system, der bruger self‑play til at opspore og afbøde sårbarheder i sprogmodeller. Det kan flytte sikkerhedsarbejdet fra manuelle kvartalsgennemgange til løbende testloops, men kræver nye processer, metrikker og målrettet menneskelig vurdering for at undgå falsk tryghed.

NVIDIAs nye hands‑on tutorial viser, hvordan garak kan køres end‑to‑end til defensiv LLM red‑teaming: setup, plugin‑inventar, hurtig dry‑run, real‑model scans, multi‑probe kørsel, rapportanalyse, custom probes og detektorer – og AVID‑eksport. Vi gennemgår trinene, peger på faldgruber og forklarer, hvordan det kan ind i CI/CD og governance uden at knække driften.

En ny artikel om sikring af AI-systemer rammer et ømt punkt hos mange virksomheder: AI er ikke bare software med lidt ekstra glimmer. Når modeller kobles på data, medarbejderflows og værktøjer, opstår der nye svage punkter, som klassiske sikkerhedsrammer ikke er bygget til at fange.

Et nyt studie viser, at selv avancerede AI-chatbots som ChatGPT og Gemini kan snydes til at levere forbudt indhold via poetisk sprog – med 62% succesrate. Artiklen gennemgår de tekniske svigt, risici for danske virksomheder og myndigheder, samt konkrete anbefalinger til bedre AI-sikkerhed.