MarkTechPost har offentliggjort en teknisk gennemgang af den moderne LLM-pipeline. Nyheden er ikke bare endnu en forklaring af modeltræning. Det interessante ligger i, at arbejdet bliver beskrevet som en kæde af adskilte trin fra pretraining til deployment, ikke som ét stort træningsløb. For virksomheder er det en ret vigtig forskel.
For det flytter blikket væk fra den lidt slidte forestilling om, at man bare træner en model og så er man i mål. Den moderne kæde består her af pretraining, supervised fine-tuning, LoRA eller QLoRA, alignment med RLHF eller GRPO og til sidst deployment. Det lyder teknisk, ja, men det er også meget praktisk. Det er som regel her arbejdet faktisk ligger.
Hvor grundlaget bliver lagt
Pretraining er den første og mest grundlæggende del. Det er her modellen lærer brede sprogmønstre, generel viden og ræsonnementsstrukturer fra store mængder tekst som bøger, websites og kode. Den del forklarer, hvorfor en model kan virke imponerende bred, men også hvorfor den tager nogle skæve sving, når den bliver presset uden for det, den er god til.
Så kommer supervised fine-tuning, SFT. Her bruger man kuraterede datasæt til at forme adfærden mod bestemte opgaver og instruktioner. Kort sagt: pretraining lærer modellen sprog i bred forstand, mens SFT gør den mere brugbar til noget konkret. Det er en vigtig forskel, og den bliver ofte mudret sammen i den offentlige snak om AI.
Det relevante lag for budget og drift
LoRA og QLoRA er med i gennemgangen som parameter-effektive måder at tilpasse en model på uden at genoptræne hele fundamentet. Det er nok det punkt, mange virksomheder burde hæfte sig lidt mere ved. Ikke fordi metoderne er nye i sig selv, men fordi de peger på en mere realistisk måde at arbejde med modeller på, især hvis man ikke har appetit på at brænde sig gennem et helt GPU-budget før frokost.
Alignment-laget kommer bagefter. RLHF bruges til at justere output mod menneskelige præferencer, sikkerhedsforventninger og anvendelighed. GRPO bliver nævnt som en nyere metode med fokus på reasoning og mere struktureret problemløsning i flere trin. Den del skal ikke oversælges, men den er relevant som tegn på, at arbejdet ikke stopper ved viden og instruktioner. Adfærd skal også formes.
Det hårde gulv hedder deployment
Og så rammer man deployment. Det er den afsluttende del, hvor modeller bliver optimeret, skaleret og integreret i virkelige systemer. Det er også her mange flotte demoer møder mandag morgen. En model kan se skarp ud i et isoleret setup og stadig være besværlig, dyr eller ustabil, når den skal fungere som en del af rigtig drift.
Det er præcis derfor virksomhedsvinklen er vigtigere end den rene modelsnak. Ifølge briefet ligger værdien sjældent i at træne endnu en model fra bunden. Den ligger i at orkestrere de rigtige trin, så man får domænespecifik performance, lav svartid og styrbarhed. Ikke glamourøst. Bare afgørende.
Hvad virksomheder typisk ender med at gøre
I praksis peger briefet på noget mere jordnært end AI-debatten ofte gør. Arbejdet vil typisk bestå af SFT kombineret med LoRA eller QLoRA på egne data, suppleret med målrettede evalueringer. Altså ikke nødvendigvis et kapløb om at bygge en ny grundmodel, men et mere snævert arbejde med at få modellen til at opføre sig stabilt på de opgaver, virksomheden faktisk har.
Det er også derfor gennemgangen er nyttig. Ikke som en universel opskrift, og heller ikke som et manifest om én rigtig teknik. Mere som en præcis påmindelse om, at moderne LLM-arbejde er systemdesign lige så meget som modeldesign. Man opdager først forskellen, når modellen skal fungere i drift.
