En ny spiller på AI-scenen

Andrej Karpathy har netop frigivet nanochat – et open source-projekt, der gør det muligt at træne og køre en ChatGPT-lignende sprogmodel på rekordtid og med et beskedent budget. Men hvad betyder det for danske virksomheder og offentlige organisationer, der ønsker mere kontrol over deres AI-løsninger?

Vi hos Snilld ser nanochat som et markant skridt mod mere tilgængelig, transparent og økonomisk overkommelig AI. For danske organisationer, hvor datasuverænitet, compliance og fleksibilitet er nøgleord, er nanochat et projekt, der fortjener opmærksomhed.

Hvad er nanochat?

nanochat er en minimal, end-to-end pipeline inspireret af ChatGPT, men designet til at være let at reproducere og modificere. Hele koden fylder kun omkring 8.000 linjer og kan køres fra én samlet scriptfil. Det gør nanochat til et unikt projekt sammenlignet med andre open source LLM-projekter, der ofte er langt tungere og mere fragmenterede.

Det særlige ved nanochat er, at du får hele pakken: fra tokenizer-træning, over pretraining og finetuning, til et simpelt web UI og CLI til inferens. Alt sammen med et minimum af afhængigheder og et klart fokus på gennemsigtighed og hackbarhed.

Tekniske hovedpunkter og speedrun-processen

Hjertet i nanochat er speedrun.sh – et script, der kører hele processen fra tokenization til deployment på én 8×H100 GPU-node. Det kræver cirka fire timer og koster omkring 100 dollars i cloud-udgifter. Det er en markant lavere barriere end de fleste LLM-projekter, hvor både tid og penge hurtigt løber løbsk.

Pipeline-processen dækker:

• Custom Rust BPE-tokenizer med 65.536 tokens
• Pretraining på FineWeb-EDU-data
• Mid-training på samtaledata, multiple choice og tool use
• Supervised Finetuning (SFT) på højere kvalitetssamtaler
• Valgfri RL-træning på regneopgaver (GSM8K)
• Automatisk evaluering og rapportering
• Serving via CLI og web UI

Hardware, tid og pris: Realistisk for danske aktører?

Det kræver adgang til en node med 8 H100-GPU’er – noget, der kan lejes i de fleste større cloud-miljøer. For omkring 700 kr. og fire timers ventetid har man en ChatGPT-lignende model klar til brug. For større ambitioner kan man opskalere til større modeller for 2.000-7.000 kr., men speedrun-konfigurationen er allerede brugbar til mange formål.

Integration og tilpasning i produktionsmiljøer

nanochat er bygget til at kunne tilpasses og integreres i eksisterende systemer. Der er API-adgang, web UI og CLI, så både udviklere og slutbrugere kan komme hurtigt i gang. For danske scaleups og virksomheder betyder det, at nanochat kan tilpasses egne domæner og datasæt – for eksempel til kundeservice, rådgivning eller interne videnssystemer.

Dog kræver det stadig solide engineering-kompetencer at modificere og drifte modellen, især hvis man vil finetune på egne data eller integrere med eksisterende IT-infrastruktur.

Performance og benchmarks: Hvor står nanochat?

nanochat leverer solide resultater på kendte benchmarks som ARC, MMLU, GSM8K og HumanEval. På speedrun-niveau (ca. 560M parametre) scorer modellen eksempelvis 0.3876 på ARC-Easy, 0.3151 på MMLU og 0.0455 på GSM8K. Det er ikke på niveau med de største sprogmodeller, men til mange praktiske opgaver – især hvor datasuverænitet og omkostninger vejer tungt – er det mere end tilstrækkeligt.

Sammenlignet med tidligere open source stacks er nanochat langt mere strømlinet og nemmere at reproducere. Det gør den velegnet til eksperimenter, prototyper og nicheapplikationer.

Sikkerhed, compliance og datasuverænitet

En af de største fordele ved nanochat er, at modellen kan køres on-premises eller i europæiske cloud-miljøer. Det betyder, at danske organisationer kan undgå at sende følsomme data til amerikanske cloud-udbydere. For offentlige aktører og virksomheder med høje krav til compliance og datasuverænitet er det et afgørende plus.

Der er dog stadig behov for grundig sikkerhedsvurdering og løbende compliance-arbejde, især hvis modellen skal håndtere persondata eller kritiske forretningsprocesser.

Danske forhold og sprog: Kan nanochat forstå dansk?

nanochat er i udgangspunktet trænet på engelsksprogede datasæt, men pipeline og kodebase gør det muligt at finetune på dansk data. Det åbner for, at både virksomheder og offentlige organisationer kan eksperimentere med LLM’er på dansk – uden at skulle investere i store, dyre projekter.

Det kræver dog adgang til relevante datasæt og sprogkompetencer i engineering-teamet. Men for mange vil det være en overkommelig vej til at afprøve LLM-teknologi på egne præmisser.

Hands-on erfaringer og brugsscenarier

Det er overraskende let at komme i gang med nanochat. Med speedrun.sh-scriptet og adgang til en passende GPU-node kan man have en fungerende model på under en arbejdsdag. For eksempel kan fintech-virksomheder bruge nanochat til at bygge interne rådgivningsbots, mens konsulenthuse kan eksperimentere med domænespecifikke assistenter til kunder.

Offentlige organisationer kan bruge nanochat til at teste LLM’er på danske data – for eksempel til automatiseret sagsbehandling eller borgerdialog – uden at binde sig til store leverandører eller abonnementsmodeller.

Forretningsmæssige muligheder og omkostninger

Med en startpris på ca. 100 dollars og et beskedent tidsforbrug er nanochat et attraktivt eksperiment for mange danske virksomheder. Værdien ligger især i muligheden for at kontrollere data, tilpasse modellen til egne behov og undgå vendor lock-in.

nanochat egner sig til opgaver som:

• Kundeservice og chatbots
• Videnssøgning og dokumentanalyse
• Interne assistenter og supportværktøjer
• Eksperimenter med domænespecifik AI

Perspektiv og fremtid: Hvad kan vi forvente?

nanochat markerer en ny retning for open source AI, hvor mindre teams og organisationer kan bygge, træne og drifte egne sprogmodeller uden at være afhængige af amerikanske cloud-giganter. Vi forventer, at fremtidige versioner vil gøre det endnu lettere at tilpasse modellen til nye sprog og domæner, og at communityet omkring nanochat vil vokse hurtigt.

For dansk AI-udvikling betyder det flere muligheder for innovation, eksperimenter og skræddersyede løsninger – uden at gå på kompromis med datasuverænitet eller økonomi.

Opsummering og Snillds anbefalinger

nanochat er et frisk pust på AI-markedet og et oplagt valg for danske organisationer, der vil have mere kontrol over deres AI-løsninger. Vi anbefaler at:

• Teste nanochat i mindre skala for at vurdere potentialet
• Overveje finetuning på egne (evt. danske) data
• Inddrage relevante IT- og compliance-ressourcer tidligt
• Holde øje med udviklingen i nanochat-communityet

nanochat er ikke svaret på alle AI-udfordringer, men det er et stærkt værktøj for dem, der vil eksperimentere og bygge videre på egne præmisser. Vi hos Snilld står klar til at hjælpe med rådgivning, integration og tilpasning – og vi glæder os til at se, hvad danske organisationer kan skabe med nanochat.

Kilder:

• https://www.marktechpost.com/2025/10/14/andrej-karpathy-releases-nanochat-a-minimal-end-to-end-chatgpt-style-pipeline-you-can-train-in-4-hours-for-100/
• https://x.com/karpathy/status/1977755427569111362
• https://github.com/karpathy/nanochat
• https://x.com/karpathy
• https://x.com/johnschulman2?lang=en
• https://x.com/karpathy

Målgruppens mening om artiklen

Anders Mikkelsen, IT-chef i mellemstor kommune:

Jeg giver artiklen 85. Den er meget relevant for mig, fordi den adresserer netop de udfordringer vi har med datasuverænitet og compliance i det offentlige. Det er positivt, at nanochat kan køre on-premises og i europæiske cloud-miljøer, og jeg kan se potentiale i at eksperimentere med LLM’er på dansk. Dog savner jeg lidt flere konkrete eksempler på integration i eksisterende offentlige systemer.

Maria Jensen, CTO i dansk fintech scaleup:

Jeg giver artiklen 90. Den rammer plet ift. vores behov for fleksible, kontrollerbare AI-løsninger uden vendor lock-in. Prisen og speedrun-processen gør det realistisk at afprøve teknologien, og jeg kan se muligheder for at bygge interne rådgivningsbots. Det er dog stadig lidt teknisk tungt for mindre teams uden dedikerede ML-specialister.

Henrik Sørensen, IT-arkitekt, større dansk industrivirksomhed:

Jeg giver artiklen 75. Den er interessant, fordi den viser, at vi kan eksperimentere med AI uden at skulle investere millioner. Men jeg synes, artiklen undervurderer de praktiske udfordringer med at tilpasse og drifte modellen i større produktionsmiljøer, især ift. integration og sikkerhed.

Lene Mortensen, Digitaliseringskonsulent, region:

Jeg giver artiklen 80. Artiklen er informativ og giver et godt overblik over nanochat og dets muligheder for offentlige organisationer. Jeg savner dog lidt mere om, hvordan man konkret håndterer compliance og sikkerhed i praksis, hvis man vælger at bruge nanochat til persondata.

Jesper Holm, Udvikler, dansk AI-startup:

Jeg giver artiklen 95. Det er sjældent, at jeg ser så konkret og teknisk velfunderet en gennemgang, som samtidig er relevant for danske forhold. Det er fedt, at der er fokus på hackbarhed og lav adgangsbarriere, og jeg får lyst til at prøve nanochat af med det samme.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.