Den korte version først. En juni-undersøgelse fra VentureBeat Research blandt 573 tekniske ledere i virksomheder med 100+ ansatte finder tre ting, der burde give ethvert ledermøde svedige håndflader: 86% af virksomheder, der kører egne GPU’er, siger, at udnyttelsen ligger på 50% eller lavere. Kun 44% måler compute-omkostninger og afkast ordentligt. Og 54% har haft agent-sikkerhedshændelser eller near-misses det seneste år. Tallene er direkte fra VentureBeat. Resten her er analyse.
Det lander oven i Gartners prognose: 40% af enterprise-applikationer vil være integreret med opgavespecifikke AI-agenter ved udgangen af 2026, op fra under 5% i 2025. Hvis tempoet holder, accelererer risikoen for at mangle styring hurtigere, end nogen kan skrive en sikkerhedspolitik færdig.
Hvad betyder 50% GPU-udnyttelse egentlig
Udnyttelse lyder simpelt, men er det ikke. På en GPU kigger man typisk på, hvor stor en andel af tiden regneenhederne arbejder (SM-aktivitet), om hukommelsen står i vejen (memory-bound), og hvor meget af chippen der faktisk får arbejde, når jobs og batches lander. 50% kan være tomgang. Det kan også være workloads, der er for små, ujævne eller dårligt batch’et til at fylde brikkerne.
Hyppige årsager til lav udnyttelse: for små batch-størrelser i inferens, kø-politikker der ikke pakker jobs tæt, fragmentering på tværs af pods eller noder, samt blanding af træning og inferens, der ikke matcher GPU-profilerne. Klassikeren er også manglende modelkompilering eller kvantisering, som kunne have løftet throughput. Dette er teknisk baggrund, ikke VentureBeat-data.
CapEx, OpEx og de dyre huller i luften
I flere cloud-miljøer er flaskehalsen ofte netværk eller RAM, ikke selve GPU’en. Det kan få “udnyttelses”-tallet til at se lavt ud, selv om systemet er begrænset andetsteds. Pointen står dog tilbage: uden synlighed i hele stakken ender man i dyre blindgyder.
Målegabet der æder budgetter
Kun 44% af virksomhederne sporer AI-compute og afkast rigorøst, ifølge VentureBeat. Resten estimerer. Det er her regninger kommer bagfra. Og 27% styrer kun agentforbrug reaktivt — først når fakturaen lander, opdager de, hvad agenten kostede. Også VentureBeat.
Hvad bør man måle? Per-workload kWh (hvor data findes), GPU-timer per job, cost per 1.000 inference-kald, cache-hit-rates, og et simpelt cost-allocation-lag ned på team, projekt og agent. Uden telemetri er det næsten umuligt at prioritere, om næste krone går til en bedre job-scheduler, model-optimering, en anden accelerator — eller et stop for indkøb i et kvartal.
Sikkerhed og governance halter efter
VentureBeat-undersøgelsen siger, at 54% har haft agent-sikkerhedshændelser eller near-misses det seneste år. Det spænder typisk over tre typer hændelser: utilsigtet dataeksfiltrering (en agent sender konfidensielle bidder ud af huset), misbrug af credentials når en agent får bredere rettigheder end tiltænkt, og uventede beslutninger der omgår forretningslogik. Ikke ond vilje — bare manglende værn.
Når kontrolrammen er svag, eskalerer små fejl til store hændelser: fravær af agent-identitet (hvem er agenten, hvad må den, under hvilke brugeres rettigheder), manglende evaluering af output før handling, og ingen grænser for spend per agent. Tallene er fra VentureBeat; eksemplerne her er almindelig teknisk baggrund.
Markedet har travlt med at retrofitte
VentureBeat identificerer fem kontrol-lag, som virksomheder bygger ind nu: identity for agenter, evaluering af agent-output, cost-telemetri, kontekstlaget (data og definitioner) og en orkestreringskontrolplane. Omtrent seks ud af ti planlægger at skifte eller tilføje leverandører i hvert lag inden for 12 måneder; omtrent en tredjedel — afhængigt af lag — inden for kvartalet. Også VentureBeat.
Det fortæller, at arkitekturen for agentstyring ikke er landet. Den er i bevægelse. Når leverandører skiftes i kvartalsfeed, skal integrationer, logning og rettigheder kunne flytte med uden at sprænge driften. Ellers ryger man tilbage i excel-rapportering og manuelle gates på to uger.
Gartner skruer tempoet op
Gartner forudser 40% enterprise-applikationer med opgavespecifikke agenter i 2026, fra under 5% i 2025. Det skærper prioriteringen: uden skalerbare kontrol-lag vokser risiko og omkostninger hurtigere end gevinster. Det er en prognose, og usikkerheden skal med — men springet er uanset hvad en alarmklokke for drift, sikkerhed og indkøb.
Det overlapper VentureBeats fund om lav udnyttelse. Flere agenter på samme maskinpark uden styr på batching, orkestrering og budgetlofter fordobler ikke værdien. Det fordobler mest sandsynligt spildet.
Tre konsekvenser der rammer nu
Budgetoverskridelser og skjulte løbende omkostninger. Når 44% ikke sporer omkostninger, ender teams med lokalt optimerede beslutninger og globalt suboptimeret økonomi. Eksempel: et nyt agent-flow, der kører dagligt, slår caches fra og brænder 4x GPU-minutter per kald, fordi der mangler model-kompilering og batch. Ingen opdagede det, før kvartalsregningen hoppede.
Driftstop og compliance-risici. Uden agent-identitet og check før handling kan en “hjælpeagent” eskalere rettigheder via en intern API, lægge et dokument i det forkerte domæne og trigge et DLP-flag. Det løses, men det koster nedetid, efterforskning og tillid internt. Og måske et audit-find om tre måneder.
Forringet ROI på nye compute-kontrakter
Når udnyttelsen er 30–50%, er det dårligt belyst at købe flere GPU’er eller hoppe på en specialiseret neocloud-kontrakt. VentureBeat noterer i øvrigt, at omkring en tredjedel overvejer ikke-Nvidia-acceleratorer i de næste 12 måneder, men det ændrer ikke det grundlæggende: uden telemetri flytter man bare ineffektivitet fra A til B og binder sig til nye vilkår.
Det sande problem er sjældent mærket på chippen. Det er orkestreringen, batch-politikkerne og fraværet af cost-per-job-synlighed, som kan drive 20–40% spild alene.
Hvad bør gøres i de næste 90 dage
Start med at måle. Ikke perfekt — bare nok til at se mønstre. Aktivér GPU-metrics via eksisterende telemetry-API’er og eksporter SM-aktivitet, hukommelsesudnyttelse, batch-størrelser og GPU-timer per job. Tag en baseline per model og per agent-flow. Brug labels eller tags for team, projekt og miljø. Simpelt først.
Standardiser cost-telemetri. Indfør cost-allocation tags i cloud eller on-prem-regnskaber, og gør “cost per 1.000 inference-kald” til en fælles valuta. Opsæt per-agent budgetter og bløde lofts, der kan brydes med godkendelse. Automatiser alarmer — ikke e-mails.
Sikring af agenter uden at kvæle farten
Etablér agent-identitet og godkendelse: hver agent er en førsteklasset identitet med mindst mulige rettigheder, helst short-lived tokens. Læg en evalueringskrog ind, som kan score output før handling på udvalgte flows (policy-krævende kald, finansielle transaktioner, kundedata). Sandboxing der, hvor agenter må læse, men ikke skrive uden menneskelig godkendelse.
Tekniske knapper der ofte virker hurtigt
Job-scheduling: strammere kø-politikker, fair-share og bin-packing af pods kan alene løfte udnyttelse mærkbart. Batching af inferens med micro-batches løfter throughput, mens autoscaling justerer horisontalt før man skruer vertikalt op. Kvantisering og kompilering via leverandørernes toolchains reducerer latency og cost per kald.
Context-kontrol: centralisér RAG-indekser og versionér prompt-skabeloner i CI, så ændringer er sporbare. Det reducerer fejl i agent-svar og gør rollback trivielt, når noget går skævt en fredag eftermiddag. Små ting, stor effekt.
Tradeoffs og hvor hastighed stadig giver mening
Nogle vælger bevidst fart over styring i afprøvningsfaser. Fair nok. En prototype må gerne rode. Men sæt en tidsboks (uger, ikke kvartaler) og en teknisk exit-tjekliste: før produktion skal der være basismålinger, agent-identitet og et budgetloft. Uden det bliver “MVP” til “midlertidig produktion” i halve år. Set for mange gange.
Telemetry og governance koster tid og lidt regnekraft. Man kan overgøre det. En pragmatisk vej er sampling af metrics og selektiv evaluering af kun højrisko-flows. 20% af indsatsen fanger 80% af problemerne. Og nej, ikke alle teams behøver fuld chargeback fra dag ét — showback er ofte rigeligt i starten.
Hvad kilderne faktisk siger — og hvor der mangler data
Følgende tal er direkte fra VentureBeat Research: 573 respondenter i juni blandt tekniske ledere i virksomheder 100+; 86% rapporterer GPU-udnyttelse på 50% eller lavere; 44% sporer compute-omkostninger og afkast rigorøst; 54% havde agent-sikkerhedshændelser eller near-misses seneste 12 måneder; 27% styrer agentforbrug reaktivt; cirka seks ud af ti planlægger at skifte/tilføje leverandører i fem kontrol-lag inden 12 måneder, og omtrent en tredjedel inden for kvartalet; samt de fem kontrol-lag: agent-identitet, evaluering, cost-telemetri, kontekst og orkestrering.
Gartner leverer prognosen om 40% enterprise-applikationer med task-specifikke agenter i 2026, fra under 5% i 2025. Det er en fremskrivning, og usikkerheden skal med. Der mangler også finere korn i VentureBeats metodebeskrivelse: branchefordeling, regioner, samt en klar definition af “kører egne GPU’er” (on-prem, co-lo, dedikerede cloud-VM’er). Uafhængige telemetridata fra cloud eller HPC-miljøer kunne styrke eller nuancere billedet af udnyttelse.
Hvorfor det her betyder noget i praksis
Uden basal måling og styring bliver AI-agenter hurtigt et væv af små lokale sejre og store centrale omkostninger. Udviklere får værdi i sprinten, men platform- og sikkerhedsteams får efterregningen. Det skaber friktion og tærer på tempoet. Den gode nyhed: de første forbedringer kommer hurtigt, når man gør få ting rigtigt — synlighed ned på job-niveau, simple budgetlofter og identiteter der ikke kan eskalere i blinde.
Det kræver ikke et årsprogram. En to-ugers indsats kan etablere 70% af fundamentet. Resten kan modnes, mens produktionen kører.
Konklusion
Billedet er skarpt og lidt ubekvemt: dyr hardware kører for tomgang, agenterne vokser ind i forretningen, og styringen halter bagefter. Kilderne er klare: VentureBeat leverer tallene for udnyttelse, målegab og hændelser; Gartner lægger tryk på tidslinjen til 2026. Rådet er jordnært: før man køber mere compute eller skifter accelerator, så mål hvad du har, sæt budgetter pr. agent og besluts, hvem der må gøre hvad.
Det lyder tørt, men effekten er kontant: færre overraskelser på fakturaen, færre svedeture i sikkerhedsreviewet og mere arbejde ud af den maskinpark, der allerede står og brummer i kælderen. Tallene er formentlig større, end de fleste CFO’er regner med. Man opdager forskellen, når man tænder for grafen — og den ikke længere er flad.
