Kunstig intelligens ændrer spillereglerne for it-infrastruktur

AI’s inntog i erhvervslivet har sat farten gevaldigt op på kravene til vores digitale maskinrum. Hvor cloud og internet udviklede sig med stabile, forudsigelige fremskridt baseret på standardkomponenter og Moore’s Law, sætter de nyeste AI-teknologier nu tempoet så højt, at det klassiske infrastrukturdesign ikke længere rækker. Det er ikke nok bare at gøre alt lidt hurtigere – mange centrale elementer i arkitekturen må gentænkes, hvis vi skal følge med de ekstreme krav til beregning, båndbredde og drift.

• AI-modeller vokser eksponentielt i både størrelse og ressourceforbrug – OpenAIs GPT-4 er fx trænet på supercomputer-klynger med titusinder af chips.
• Moore’s Law – fordobling af transistor-tæthed omtrent hvert andet år – kan ikke længere holde trit med AI’s behov. De seneste år har AI-chips leveret 2-3x forbedringer pr. generation, langt hurtigere end klassisk hardwareudvikling.

Hvorfor Moore’s Law ikke længere er nok

Moore’s Law har i årtier drevet digitalisering fremad ved at gøre det muligt at pakke flere transistorer på samme areal. Men AI’s udbredelse medfører nye, voldsomme spring i både datamængder og kompleksitet. Hvor tidligere software kunne udnytte eksisterende processorer gennem smartere kode, kræver AI langt flere parallelle beregninger og enorme mængder data pr. sekund. Denne udvikling betyder, at performance-flaskehalsene ikke kun ligger i processoren, men også i hukommelse, netværk og energi.

Det er ikke længere tilstrækkeligt at vente på næste generations CPU’er. Hele systemet – fra hardware over netværk til strømstyring – skal optimeres og ofte udskiftes samlet for at udnytte nye AI-platforme fuldt ud.

Specialiseret hardware erstatter allround-servere

Hvor standard-servere med CPU’er tidligere var normen, ser vi nu et skifte til specialiserede acceleratorer som GPU’er, ASICs og TPUs. Disse chips er målrettet AI og maskinlæring og leverer op til 10-50x bedre ydelse pr. watt end traditionelle løsninger. Google og Nvidia er gået forrest med egne AI-optimerede chips, hvor Amin Vahdat fra Google har understreget, at specialisering er nødvendig for at udnytte AI’s potentiale.

For danske virksomheder betyder det, at hardwarelandskabet skal vurderes på ny – og at investeringer i AI-infrastruktur skal målrettes områder med størst mulig effekt, både økonomisk og energimæssigt.

Netværk: Fart og synkronisering over alt andet

AI-systemer kræver, at tusindvis af chips kan udveksle data med ekstrem lav forsinkelse og enorm båndbredde. Klassiske ethernet-løsninger eller TCP/IP er ikke bygget til at håndtere terabit-hastigheder og nanosekund-forsinkelser. Derfor tager teknologier som NVLink (til GPU’er) og ICI (til TPUs) over, hvor de muliggør direkte hukommelsesforbindelser imellem processorer.

Resultatet er, at netværksarkitektur ikke længere bare kan opgraderes gradvist; den skal gentænkes, så den matcher kravene fra AI. Det gælder også for danske virksomheder – især dem, der ønsker at træne eller køre større modeller internt.

Hukommelse som den nye flaskehals

Selv de hurtigste processorer bliver begrænset af, hvor hurtigt data kan flyttes til og fra hukommelsen. HBM (High Bandwidth Memory) har løftet båndbredden markant, men fysiske begrænsninger sætter ind: Chiparealet og energiforbruget stiger i takt med datamængderne. Ifølge Amin Vahdat vil processorkraften fortsat vokse hurtigere end hukommelsesbåndbredden, hvilket kræver både innovation og kompromiser i designet af fremtidens AI-systemer.

Eksempel: Nvidia H100 GPU’en har op til 3 TB/s hukommelsesbåndbredde – men træning af store sprogmodeller kan stadig være begrænset af dataflow og latency.

Datacentre: Fra fleksibilitet til maksimal tæthed

De største AI-modeller trænes på klynger med titusinder af ens chips, hvor alle arbejder tæt sammen og kræver præcis synkronisering. Det betyder, at fysiske afstande, kabelføring og energistyring får langt større betydning end tidligere. Hvor klassiske datacentre var designet til fleksibilitet, handler det nu om at minimere afstande og maksimere tæthed for at undgå ineffektivitet og energispild.

For eksempel kræver en typisk AI-supercomputer, at servere sidder så tæt, at datavejen imellem dem er målt i centimeter fremfor meter. Det udfordrer den gængse tilgang til datacentredesign og rejser nye krav til køling og strømstyring.

Fejltolerance og drift: Checkpoints og automation i centrum

I traditionelle systemer er redundans og overkapacitet standardmetoder til at sikre oppetid, men i AI-verdenen er det både dyrt og ineffektivt. Store AI-træningsjobs kan køre på 10.000+ chips i ugevis – og hvis bare én fejler, kan hele processen gå i stå. Derfor bruges hyppig checkpointing, hvor systemet løbende gemmer beregningsstatus. Kombineret med intelligent overvågning og automatiseret failover kan en fejlende chip hurtigt skiftes ud eller genstartes uden at hele jobbet tabes.

Eksempel: OpenAI og Google rapporterer, at de tager løbende snapshots hvert 10.-15. minut ved større træningsjobs, hvilket minimerer tab ved hardwarefejl. Automatisering er essentiel, da manuel fejlretning ikke kan følge med skalaen.

Energi og bæredygtighed: Fra luftkøling til flydende innovation

Strømforbrug er hurtigt blevet den største udfordring ved AI-infrastruktur. Hardware og netværk kræver enorme mængder energi, og klassisk luftkøling er utilstrækkelig. Derfor ser vi et skifte til væskekøling, som kan håndtere flere kilowatt pr. rack, og til brug af decentrale, fleksible energikilder styret af realtids mikrogrid-løsninger.

Et konkret tal: De største AI-datacentre bruger strøm svarende til en dansk provinsby – og elregningen er ofte den næststørste post efter hardware. Effektiv strømstyring og integration af grøn energi kan give markant lavere driftsomkostninger og CO2-aftryk.

Sikkerhed og privacy: Alt skal bygges ind fra start

AI-arbejdsbyrder betyder, at der flyttes og behandles enorme datamængder, ofte med følsomme oplysninger. Kilderne fremhæver nødvendigheden af at bygge sikkerhed og privacy ind i alle lag: Kryptering, adgangssporing, hardwarebaseret isolation og avanceret logging skal være standard – ikke eftertanke. Ifølge Google Cloud kan realtidsmonitorering af petabits data og automatiseret loganalyse identificere trusler, selv i komplekse miljøer.

Danske virksomheder bør derfor prioritere sikkerhedsløsninger, der er integreret, ikke blot tilføjet ovenpå eksisterende systemer.

Tempoet: Samtidige hardwareopgraderinger er ofte nødvendige

Udviklingen i AI-hardware foregår så hurtigt, at man i praksis ofte må rulle nye generationer ud samlet – fx på tværs af hele datacentre – for at kunne udnytte de markante performance-gevinster. Det skyldes, at AI-modeller og software skal optimeres til den specifikke hardwaregeneration, og blanding af gamle og nye chips fører til flaskehalse. Det betyder dog ikke, at alle virksomheder altid må udskifte alt på én gang – nogle kan nøjes med hybridløsninger, afhængigt af deres behov og risikovillighed.

Eksempel: Google rapporterer, at deres ML-supercomputere udskiftes i store batches for at matche softwarens krav og opnå 2-3x ydelsesforbedring årligt.

Nye samarbejdsformer: Industrien må løse opgaven sammen

Ingen enkelt aktør kan løfte opgaven alene. Samarbejde mellem leverandører, forskere, cloud-udbydere og virksomheder er nødvendigt for at udvikle standarder, dele erfaringer og investere i nye teknologier. Amin Vahdat fra Google understreger, at fremtidens infrastruktur vil være radikalt anderledes – og at kollektiv innovation bliver afgørende for at realisere AI’s muligheder.

Danske virksomheder bør derfor ikke isolere deres AI-initiativer, men indgå i partnerskaber og fællesskaber, hvor erfaring og best practice deles – for eksempel i regi af brancheforeninger eller innovationsnetværk.

AI’s krav ændrer fundamentet for digital forretning – men med den rette viden og samarbejde kan danske virksomheder stadig tage teten.

Kilder:

• https://venturebeat.com/ai/why-the-ai-era-is-forcing-a-redesign-of-the-entire-compute-backbone/
• https://www.googlecloudpresscorner.com/Amin-Vahdat?pagetemplate=popup
• https://drut.io/drut-blog/f/the-future-of-ai-infrastructure-trends-to-watch-in-2025
• https://en.wikipedia.org/wiki/Hardware_for_artificial_intelligence

Målgruppens mening om artiklen

Henrik Madsen, CIO:Jeg ville give artiklen en score på 85. Den er meget relevant for vores arbejde, da den går i dybden med, hvordan AI påvirker it-infrastruktur, hvilket er essentielt for vores langsigtede strategier. Artiklen påpeger relevante udfordringer og fremskridt inden for hardware og netværksarkitektur, hvilket er centralt for min rolle.

Emma Jensen, Digitaliseringsekspert:Jeg giver artiklen en score på 80. Den belyser nødvendigheden af at gentænke infrastruktur, hvilket er præcist det, vi fokuserer på i offentlige institutioner, hvor ressourcerne er stramme. Artiklen er inspirerende i forhold til de nye teknologier, vi overvejer at implementere.

Anders Christiansen, COO:Jeg vurderer artiklen til en 78. Den rejser vigtige punkter om, hvordan specialiseret hardware overtager fra allround-servere, hvilket vil have betydelige økonomiske og operationelle implikationer for os som virksomhed. Perspektivet på fremtiden for datacentre og energiforbrug er yderst relevant.

Sofie Larsen, IT-chef:Artiklen får en score på 83 fra mig. Jeg værdsætter fokus på hukommelsesflaskehalse og fejltolerance, som er vigtige områder for os, når vi ser på opgraderinger. Artiklen giver god indsigt i hvordan vi kan tilpasse vores eksisterende systemer til at blive mere AI-venlige.

Peter Nielsen, Teknologichef:Jeg scorer artiklen 82. Den adresserer godt behovet for samtidige hardwareopgraderinger og muligheden for hybridløsninger, hvilket passer til vores aktuelle diskussioner om infrastrukturopgradering. Artiklen taler til innovatorer og dem, der er ivrige efter at tilpasse sig hurtigt skiftende teknologier.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af Fluxx Schnell fra Black Forest Labs.