Den hurtige “skriv en app fra et par sætninger”-demo er god sceneunderholdning. Den flytter sjældent bundlinjen i en stor virksomhed. Den reelle gevinst ved AI ligger i at få has på gammel kode, teknisk gæld og manglende dokumentation i kernesystemerne. Beskidt arbejde. Også der pengene ligger.
En aktuel analyse peger samme vej: det mest konsekvensfulde AI-arbejde er ikke at generere nye apps fra prompts, men at forstå og modernisere femten år gamle kodebaser, som ingen længere tør røre. Unite.ai beskriver de populære prompt-to-app-demoer som et imponerende party-trick – og netop et trick. Ikke et svar på drift, sikkerhed eller governance i enterprise.
Scenedemoen imponerer, men knækker i hverdagen
Mange produktpræsentationer starter ens: tom prompt, engelsk sætning, “færdigt” værktøj få minutter senere. Unite.ai kalder det den mindst interessante del af enterprise-AI lige nu. Hvorfor? Fordi de hårde krav mangler: vedligeholdelighed, ændringshåndtering, integration til gamle systemer, revisionsspor, dataklassifikation og sikkerhed.
På scenen er der ingen uforudsigelige API’er, ingen skrøbelige testmiljøer, ingen compliance-krav og ingen lange godkendelseskæder. Og, helt lavpraktisk, ingen driftsvagt der kl. 02.17 skal rulle en ændring tilbage, fordi en autogenereret funktion ramte en kantcase i faktureringsmotoren. Det er her, alt bliver svært.
Arbejdet der ikke vises på slides
Det virkelige arbejde foregår i de ældre kodebaser. Unite.ai beskriver femten år gamle systemer, fyldt med forretningslogik, skrevet af udviklere der forlod virksomheden for længe siden. Koden bærer implicit viden: særregler, fejlhåndtering af tredjepartsfejl fra 2012 og “midlertidige” workarounds som ingen tør røre. Her bor risikoen – og potentialet.
Konsekvensen af at undgå de systemer er dyr. Ny funktionalitet bygges udenom, integrationer bliver skrøbelige, og datakvaliteten daler. Overblikket forsvinder. Dokumentation er mangelfuld, tests dækker ikke kantcases, og afhængighederne er skjulte. AI kan hjælpe netop her: læse, opsummere, foreslå refaktorisering, udlede implicit forretningslogik og identificere skjulte koblinger. Ikke magi – målrettet analyse i stor skala.
Hvor pengene siver ud
Pegas seneste opgørelse påstår, at den gennemsnitlige globale virksomhed spilder over 370 millioner dollar om året på teknisk gæld forårsaget af manglende modernisering af legacy-systemer. Beløbet er voldsomt. Kilden er en leverandørs pressemeddelelse baseret på en survey blandt 500+ IT-beslutningstagere, ifølge Pega. Det bør læses med metodeforbehold og gerne holdes op mod en uafhængig kilde, før man bruger tallet i en business case.
Selv med forbehold giver størrelsesordenen genklang i mange enterprise-miljøer. Timer forsvinder i manuelle “fix og patch”-opgaver, flaskehalse omkring nøglepersoner, driftsforstyrrelser og projekter der bruger måneder bare på at åbne den gamle monolit uden at knække den. En enkelt regression i en afregningskæde kan koste dyrt. Teknisk gæld er ikke en metafor – det er renter, man betaler uge efter uge.
Fra chatbot til arkitektur der giver ROI
At sætte en chatbot foran en gammel monolit er ikke løsningen. Skal det blive til reel værdi, kræver det en nøgtern arkitektur. Start med RAG – retrieval-augmented generation – hvor modeller får svargrundlag via en kurateret kontekst, ikke fri adgang til alt. Læg relevant kildekode, systemdokumentation, API-kontrakter og domæneordbøger i et vektorlager, så modellen kan hente, citere og lænke tilbage til kilden.
Sæt adgangskontrol efter mindst mulige rettigheder og gerne attributbaseret adgang, så prompts og kontekst aldrig ser mere end nødvendigt. Byg workflow-automatisering: foreslåede kodeændringer skal forbi CI, tests og statisk analyse. Lav rollespecifik prompt-engineering – udvikler, SRE/operatør, arkitekt – med skabeloner der tvinger svar ind i sikre formater. Og styrk governance: versionsstyring af prompts, auditlogs for modelkald og godkendelsesflows. Uden struktur og målepunkter ingen skalerbar værdi – kun støj.
Små modeller tæt på systemet
Ikke alt kræver en stor multimodal model i skyen. Needle 2 er et frisk eksempel: en åben 45M-parameters tool-calling-model, der leveres som en 14 MB binær og kan køre en fuld session i cirka 28 MB RAM. Ifølge Marktechpost rapporteres decode-throughput omkring 500 tokens/sekund på en Raspberry Pi 5, 400–1.500 på Meta Quest 3S og Apple Vision Pro, og 300–700 på telefoner under 200 dollar. Tallene påvirkes af quantization, runtime, målemetode og workload, så forvent variation – og test reproducerbart i eget miljø.
Pointen er ikke, at Needle 2 løser alt. Pointen er, at snævert definerede opgaver – at mappe en rodet sætning til en typed funktion – ikke kræver verdensviden. For firmware, IoT og offline-scenarier betyder det lavere latenstid, lavere driftsomkostninger og færre datasikringsproblemer. Forbeholdene er klare: benchmarks varierer efter miljø, enhed og opgave. Retningen er tydelig: specialisér mindre, placer tættere på systemet.
Fra kortlægning til leverancer i små bidder
Hvordan griber man det an uden at drukne i store programmer? Start med en stram analysefase. Find de 3–5 steder hvor teknisk gæld koster mest i tid, fejl eller nedetid. Gennemfør workshops med udviklere, SRE, support og compliance i samme rum for at samle tavs viden og afstemme risici. Herfra en målrettet strategi med klare KPI’er og iterative leverancer i sprint – ikke månelandinger.
De første quick wins er ofte lavpraktiske: AI-genereret dokumentation på legacy-moduler med links til koden. Automatisk genererede enhedstests på kritiske komponenter med dækning af de mest sandsynlige kantcases. API-wrapping af gamle services, så nye systemer ikke skal røre ved glasset. For hver leverance: måling, rollback-plan og en kort læringslog. Tungt, men effektivt, når fokus holdes skarpt.
Hvad der konkret skal bygges
Tre lag går igen. Datalaget: repos, dokumenter, tickets og konfigurationer indekseres i et vektorlager med klare retention- og sletningspolitikker. Integrationslaget: sikre sandkasser, hvor AI-assisterede ændringer kun kører mod stubber og tests – aldrig produktion. Arbejdsflow-laget: pull request-skabeloner, testkrav, SRE-godkendelse ved ændringer i kritiske komponenter og rollespecifikke prompts med faste svardatafelter.
Vil man holde data hjemme, er der tre praktiske veje: privat hosting af modeller, on-prem embeddings og/eller redaktion (maskering) før embedding. Uanset valg skal følsomme oplysninger kun refereres via embeddings – ikke deles råt. Og så hænger alt på en disciplin, der ofte undervurderes: katalogisering. Uden den finder hverken mennesker eller modeller frem til den rigtige sandhedskilde.
Sikkerhed, compliance og de uundgåelige tradeoffs
AI kan introducere nye risici. Autogenereret kode uden tests kan glide forbi review. RAG-kontekst kan ved fejl trække PII. Tool-calling kan utilsigtet eskalere privilegier. Praktiske værn: lokale sandkasser og kortlivede miljøer, skabeloner for testkrav og stram adgangskontrol for både mennesker og services. Log alt – også prompts og responses – så hændelser kan rekonstrueres. Et lille eksempel: et internt værktøj kaldte utilsigtet et admin-endpoint. Fordi prompts, tool-kald og output var auditeret, kunne teamet spore hændelsen på minutter, rulle tilbage og skrive en policy-guard, der blokerer for lignende kald fremover.
Der er også områder, som kræver manuelt designarbejde: større arkitekturmigrationer, fx fra monolit til services. Compliance-regler ændres, og modeller skal genkvalificeres. Driftsstabilitet over tid kræver observability, ikke kun en stærk inferens. AI løfter modernisering markant, men er ikke en genvej uden fundament.
Mål de rigtige ting – og mål dem rigtigt
Hvordan ved man, om det virker? Begynd med en baseline. Fejl pr. release (fra issue-tracker). Lead time fra commit til produktion (fra CI/CD: tid mellem første commit på en change og succesfuld deploy). Gennemsnitlig tid til at løse en incident, MTTR, målt fra incident oprettet til status “resolved” i jeres ITSM-system. Supportomkostninger pr. måned (antal sager × estimeret tidsforbrug per kategori × internt timeomkostningsestimat). Omkostning pr. leveret feature i kritiske systemer (projekttimer og infrastrukturforbrug bundet til releasen). SLA-stabilitet i højsæson (andelen af tid på eller over SLA pr. uge/måned). Testdækning før/efter (fra testrapporter i CI).
Vælg få, hårde KPI’er – tre til fem – og bind dem direkte til forretningsmål og risikoprofil. Log felter systematisk: incident-id, start/stop-tidsstempler, impacted service, change-id, rollbacks, MTTR/MTBF. Hvis tallene ikke bevæger sig den rigtige vej efter to til tre iterationer, så skær, justér eller luk. Brutalt, ja. Effektivt, også.
Når modellerne flytter ud på kanten
Tilbage til Needle 2. At kunne køre tool-calling på ~28 MB RAM og nå 300–700 tokens/sek. på billige telefoner åbner for jordnære cases: offline voice-to-action i kiosker, simple automatiserede checklister i butiksmiljøer, routere der kan parse logkommandoer og kalde lokale værktøjer. Det mindsker afhængigheden af skyen og beskytter data, fordi audio eller kommandotekst ikke forlader enheden.
Vær kritisk: gennemløb afhænger af temperaturer, throttling og opgavens format. Og 45M parametre rækker ikke til bred sprogforståelse. Den slags modeller fungerer bedst som deterministiske limstifter mellem brugerinput og kendte, typed funktioner. Kend grænserne, så undgår man skuffelser.
Hvad skeptikerne vil indvende
Der er metodiske forbehold ved de brugte tal og cases. Pega har en klar interesse i at tale markedet op. Unite.ai’s analyse er stærk i observation, men mangler kvantitative enterprise-cases. Needle 2’s tal bør valideres i egne miljøer. Intet af det ophæver hovedpointen: ROI ligger i modernisering af det, der allerede kører forretningen.
Hvad andre medier sandsynligvis fremhæver
Forvent historier om nye multimodale genistreger, voice-agenter der booker møder, og apps bygget på et minut. Let at vise og forstå. Her lægges vægten et andet sted: på det tørre, men vigtige arbejde i arvesystemerne, integrationerne og de små, målbare forbedringer, der i sum gør den store forskel.
Det er mindre sexet. Men man kan høre forskellen i driftssalen: færre alarmer, kortere kø på support og en release, der ikke længere kræver pizza og sovepose. De lyde lyver sjældent.
Praktiske næste skridt
– Kortlæg forretningskritiske moduler i legacy-koden, og beregn en enkel risikoscore på hver. Start hvor omkostning ved fejl er højest.
– Etabler et vektorlager af kode, tickets og dokumenter. Sæt adgangsregler før første prompt.
– Byg en “AI i loop”-pipeline: forslag til ændringer går via tests, SRE-review og compliance-checks. Ingen direkte merges.
– Prioritér tre quick wins: automatiseret dokumentation, testgenerering og API-wrapping af en gammel service.
– Mål fra dag ét. Ret kursen hurtigt, ikke om seks måneder.
Og en ting mere. Hold fast i små leverancer. Man opdager først forskellen, når man sidder med det i hænderne.
Kilder, forbehold – og hvad der mangler
– Unite.ai dokumenterer skiftet i fokus fra “prompt-to-app” til legacy-modernisering og beskriver problemets kerne i femten år gamle kodebaser.
– Pegas opgørelse estimerer 370 mio. dollar i årligt spild per global virksomhed pga. teknisk gæld. Kilden er en leverandørpressemeddelelse; kræver uafhængig validering af metode og resultater.
– Needle 2-casen viser potentialet i små, lokale modeller til tool-calling på begrænsede enheder. Benchmarks varierer; test i eget miljø.
Mangler: uafhængige enterprise-cases med målte ROI-effekter fra AI-assisteret modernisering af legacy, samt mere detaljeret metodik for ROI-måling. Korte interviews med to erfarne softwarearkitekter og en SRE med driftserfaring vil kvalificere governance- og driftspunkter. En akademisk kilde om målemetoder for moderniseringsprojekter vil styrke økonomidelen.
