Snilld

Agent 006 tester, hvor incitamentsdesign bryder sammen

En artikel hos Towards AI beskriver open source-værktøjet Agent 006, som ifølge forfatteren er bygget ved at dirigere AI-kodningsagenter trods nul programmeringserfaring. Værktøjet tager en beskrivelse i almindeligt sprog af et økonomisk system og lader AI-genererede agenter prøve at finde reglernes svage punkter.

11. april 2026 Peter Munkholm

Towards AI har beskrevet open source-værktøjet Agent 006, som ifølge forfatteren er bygget ved at dirigere AI-kodningsagenter som Claude Code og Codex. Forfatteren skriver også, at vedkommende har nul programmeringserfaring. Det er den egentlige nyhed her. Ikke bare endnu et værktøj, men at en person uden kodebaggrund er kommet så langt ved at styre AI-værktøjer stramt og teste dem hårdt.

Banner

Sådan fungerer det

Man beskriver scenariet i almindeligt engelsk: ressourcer, handlemuligheder, begrænsninger og mål. Derefter kører en pipeline med fire Claude-kald i fast rækkefølge. Først bliver beskrivelsen gjort mere struktureret og uklare steder markeret. Så bygges selve simulationsmotoren, og bagefter bliver der lavet agenttyper og strategier, som kan afprøve reglerne i praksis.

To kolleger gennemgår en simulation af incitamenter og agentadfærd i et mødelokale

Til sidst kører simuleringen over en række runder, mens regler og grænsebetingelser bliver kontrolleret løbende, og en rapport samler resultaterne. Det vigtige forbehold kommer tidligt i kilden, og det er værd at holde fast i: Den genererede økonomi er kun Claudes bedste fortolkning af specifikationen, ikke en garanteret korrekt implementering. Det er altså en stresstest. Ikke et bevis.

Banner
Workshop om økonomisk model med skitser af regler og flows på whiteboard
Nærbillede af laptop med kode og simulationsværktøj på et skrivebord

Et lille hul i specifikationen kan være nok

Eksemplet i artiklen er et public goods-scenarie. Fem agenter starter med 100 tokens hver og spiller over 30 runder. I hver runde kan de lægge noget af deres private beholdning i en fælles pulje, som bliver ganget med 1,5 og delt ligeligt ud igen.

Systemet kollapser, hvis de samlede bidrag kommer under 5 tokens i tre runder i træk. Det lyder enkelt. Det er det ikke helt. Casen bruges til at vise, hvor hurtigt en lidt løs formulering i en tekstspecifikation kan blive til en konkret fejl i simulationen.

Kilder

    Gør brugeroplevelsen bedre.
    Hvilket firma arbejder du for?