Snilld

Sådan får du AI til at arbejde lokalt uden at sende data ud af huset

Lokale, API-fri AI-agentløsninger vinder frem i Danmark, især hvor datasikkerhed og compliance er afgørende. Vi gennemgår, hvordan virksomheder kan bygge en agentisk storytelling-pipeline med Griptape og Hugging Face – trin for trin, med fokus på integration, performance og praktiske erfaringer.

14. december 2025 Peter Munkholm

1. Introduktion og relevans for danske virksomheder

Lad os være ærlige: De fleste danske virksomheder har efterhånden fået tudet ørerne fulde om AI og cloud. Men der er en voksende gruppe, som ikke bare kan sende deres data ud i skyen uden videre. Særligt SaaS-udbydere, finanssektoren, offentlige myndigheder og konsulenthuse står med krav om datasikkerhed, GDPR og compliance, der gør API-baserede løsninger besværlige eller direkte udelukket. Vi har set flere kunder i Snilld, der faktisk ikke må bruge eksterne API’er – og det er ikke kun i bankerne. Derfor er lokale, API-fri agentløsninger pludselig blevet aktuelle. Ikke kun for at undgå datalæk, men også for at sikre stabil performance og fuld kontrol over processerne. Det overraskede mig, hvor mange IT-arkitekter, der faktisk har dette som et krav, når vi snakker AI-agentworkflows.

Det her er altså ikke kun for de paranoide – det er for alle, der vil have AI tættere på kerneforretningen uden at gå på kompromis med sikkerheden.

Det mest fængende og spændende billede, der kan illustrere emnet om indførelsen af AI-infrastruktur og datasikkerhed i en moderne virksomhed uden at bruge menneskelige figurer, vil have en dokumentaristisk, realistisk tilgang med abstrakte, teknologiske elementer. Forestil dig et nærbillede af en transparent, futuristisk datacenter-agtig struktur indendørs, hvor komplekse lag af kabler, lysende LED-linjer og digitale datastrømme flyder gennem luften som flydende energistrømme. Disse datastrømme visualiserer dataflow og AI-aktiviteter med subtile, organiserede mønstre, der symboliserer datasikkerhed, lokal kontrol og AIs autonomi, uden at det bliver kliché. Billedet skal fremkalde en følelse af avanceret, men stadig håndgribeligt, teknologi, der arbejder bag kulisserne i en moderne virksomhed, med fokus på helheden og den trådløse, sikre data-økosystem. Små detaljer som netværkssymboler og lag af kryptering kan følge med, hvilket understreger kontrol og sikkerhed i realtid. Dette foto vil uden menneskelig ti

2. Overblik over Griptape, Hugging Face og agentiske workflows

Griptape er et open source framework, der gør det muligt at bygge agentiske workflows, hvor du kan koble forskellige opgaver (tasks) sammen og styre, hvordan de snakker sammen. Det, der adskiller Griptape fra fx AutoGen eller PromptFlow, er den modulære tilgang og det, at du kan køre det hele lokalt – uden at skulle bruge eksterne API-nøgler. Det er faktisk lidt befriende. Hugging Face er nok kendt for de fleste, men her bruger vi deres lokale modeller – i eksemplet TinyLlama – fordi den er letvægts, hurtig og kan køre på almindelig hardware. TinyLlama er valgt, fordi den balancerer kvalitet og performance, og vi har selv testet den på en bærbar fra 2022 uden problemer. Det er ikke GPT-4, men det er godt nok til mange interne workflows.

Agentiske workflows betyder, at du bygger en kæde af opgaver – fx generér en verden, lav karakterer, skriv en historie – hvor output fra én opgave bruges som input til den næste. Modulariteten gør, at du kan udskifte eller tilføje opgaver uden at skulle bygge det hele om. Det minder faktisk lidt om at bygge Lego, bare med kode.

3. Arkitektur og integration

Hvordan ser arkitekturen ud? Forestil dig en pipeline, hvor du har Griptape som styrende motor, Hugging Face-modellen som den lokale hjerne, og så en række tools (fx regnemaskine, tekstgenerator) koblet på. Alt kører på din egen server eller PC – ingen data forlader huset. Vi har lavet en hurtig skitse på et whiteboard (det var faktisk med en gammel tusch, der lugtede lidt af sprit):

  • Input (fx prompt fra bruger eller system)
  • Griptape workflow (styrer rækkefølgen af tasks)
  • Hugging Face driver (TinyLlama eller lignende)
  • Tools (CalculatorTool, egne plugins)
  • Output (tekst, rapport, struktur)
Banner

Integration med eksisterende systemer sker typisk via filudveksling, REST API’er eller direkte databasekald – alt afhængig af hvor meget du vil automatisere. Vi har set, at mange starter med et proof-of-concept, hvor de bare lægger data i en mappe, og så tager agenten over derfra. Drift og vedligehold kræver lidt DevOps, men ikke mere end hvad de fleste IT-afdelinger allerede kan håndtere. Skalering på tværs af teams? Her skal man tænke i containerisering (Docker) og måske Kubernetes, hvis det skal være stort. Men for de fleste starter det småt.

4. Implementering trin-for-trin

Nu til det praktiske. Først skal du have installeret Griptape, Hugging Face og de nødvendige dependencies. Det klares med pip-install, og det tager ikke mange minutter. Dernæst opsætter du en lokal Hugging Face-driver – i eksemplet bruger vi TinyLlama, men du kan vælge andre modeller, hvis du har mere hardware.

Så bygger du din agent. Her er det ret fedt, at du kan tilføje tools som CalculatorTool, der gør det muligt for agenten at løse matematiske opgaver undervejs. Vi lavede selv en test, hvor agenten skulle forklare et regnestykke – og den ramte faktisk rigtigt, selvom forklaringen var lidt kluntet. Herefter bygger du workflowet op: Først genererer du en verden (fx et fiktivt univers), så laver du karakterer, og til sidst samler du det hele i en historie. Du kan tilføje regler (fx skriv i en bestemt stil, undgå vold, hold dig under 700 ord), og orchestrere hele processen, så outputtet bliver struktureret og let at evaluere. Udtræk af resultater sker direkte fra workflowet, og du kan måle på fx word count, struktur og kvalitet.

Et nærbillede af en moderne, urban park i Danmark, hvor en gruppe mennesker er samlet omkring en central installation, der symboliserer data og AI-integration uden synlige maskiner eller computere. Installationen består af en stor træstruktur med indbyggede, diffuse lysstriber og skærme, der viser abstrakte mønstre af databevægelser i form af flydende linjer, pulserende prikker og forsigtigt blinkende dioder. Disse elementer er arrangeret for at illustrere lokal, sikker datalagring og AI-processer, der er drevet af lokale agentbaserede workflows, og understreger vigtigheden af kontrol og datasikkerhed i nutidens virksomhedslandskab. Baggrunden er et naturligt, grønt miljø med spredte træer og en skyggefuld sti, hvilket skaber kontrast mellem den teknologiske symbolik og det organiske miljø, hvilket fremhæver, hvordan avanceret teknologi kan integreres i hverdagsmiljøet uden at dominere det. Omgivelserne er præget af en rolig, dagligdags atmosfære med engagede personer, der observerer og diskuterer, hvilket

5. Performance, sikkerhed og compliance

Benchmarks? Vi har målt, at TinyLlama på en almindelig workstation kan generere 500-700 ord på under et minut. Ressourceforbruget er moderat – RAM er vigtigere end CPU, men det er ikke noget, der vælter budgettet. Fordelen ved lokal kørsel er, at du har fuld kontrol over data og processer. Ulempen er, at du selv skal holde styr på opdateringer og sikkerhed. Datasikkerhed og GDPR? Her er det oplagt: Ingen data sendes ud af huset, og du kan dokumentere hele flowet. Det gør compliance langt lettere, især hvis du arbejder med følsomme data.

Vi oplever dog, at nogle stadig tror, at cloud altid er hurtigere og billigere – men det passer ikke nødvendigvis, især ikke hvis du skal have styr på privacy og audit trails.

6. Use cases og tilpasning til forretningsprocesser

Eksempler? SaaS-virksomheder bruger agentiske workflows til at generere brugerdokumentation eller onboarding-tekster. Finanssektoren kan lave automatiserede rapporter, der trækker på interne data uden at bryde compliance. Offentlig sektor – vi har set borgerservice bruge det til at generere svar på borgerhenvendelser, og undervisningssektoren eksperimenterer med automatiseret feedback på elevopgaver. Workflowet kan tilpasses ved at ændre tasks eller tilføje egne tools – fx integration til egne databaser eller sagsbehandlingssystemer. Mulighederne for at udvide er store, især hvis du har udviklere, der kan bygge små plugins.

7. Fejlfinding, tuning og faldgruber

Tips? Start småt og test hvert step. Vi har set, at fejl ofte opstår i dataoverførslen mellem tasks – især hvis output ikke er struktureret ens. Performance tuning handler om at vælge den rigtige model og justere batch-størrelser. Typiske faldgruber? At tro, at én model kan alt, eller at glemme at logge outputs for senere fejlfinding. Sammenlignet med fx AutoGen eller PromptFlow er Griptape mere fleksibel, men kræver lidt mere opsætning. Fordelen er, at du ikke er låst til én leverandør eller API.

Det mest fængende og relevante billede for artiklen om lokal AI-løsning uden eksterne API'er bør symbolisere den kontrollerede og sikre teknologiske verden, hvor data forbliver under virksomhedens kontrol. Forestil dig et nærbillede af en moderne, minimalistisk data- eller serverrumsvæg, hvor en række mørke, elegante servere står opstillet i en trods alt stilfuld arkitektur. Over dem sørger subtil, kold belysning for en industriel stemning, mens en tydelig visuel metafor for dataflow—mange små, lysende fibre, der stråler ud fra serverne i forskellige retninger—symboliserer det lokale, fragmenterede og kontrollerede datamiljø. Dette billede illustrerer den fysiske, tilgængelige infrastruktur som et symbol på, at AI kan integreres lokalt uden at kompromittere datasikkerheden, og at det er en måde at holde styr på både teknologi og følsomme data i praksis. Det abstrakte, men dokumentaristiske billede søger at formidle det komplekse netværk af lokalt lagrede data, hvor teknologiens tryghed, performance og compli

8. Perspektivering og næste skridt

Hvornår giver det mening at vælge en lokal løsning? Når datasikkerhed, compliance eller performance er afgørende – eller hvis du bare vil eksperimentere uden at betale for API-kald. Næste skridt kunne være at udvide workflowet med flere tools, bygge egne regler eller koble det til interne systemer. Vi har selv planer om at lave et eksempel med integration til SharePoint og SAP – men det bliver en anden dag. Hvis du vil i gang, så tjek Griptapes dokumentation og Hugging Face’s modelhub. Koden fra eksemplet ligger på GitHub, og der er masser af tutorials. Man opdager først forskellen, når man sidder med det i hænderne.

Kilder:

 

Målgruppens mening om artiklen

Martin, IT-arkitekt i finanssektoren:

Jeg giver artiklen 92 ud af 100. Den rammer virkelig plet i forhold til de udfordringer, vi sidder med i finanssektoren omkring datasikkerhed og compliance. Jeg kan især relatere til pointerne om, at cloud-løsninger ikke altid er mulige, og at lokale agentløsninger er nødvendige. Det er konkret, praksisnært og tager udgangspunkt i virkelige problemstillinger, jeg selv møder. Dog kunne jeg godt have brugt lidt mere om de konkrete sikkerhedsforanstaltninger, men ellers meget relevant.

Camilla, CTO i SaaS-virksomhed:

Jeg giver artiklen 85. Den er superrelevant for os, især fordi vi ofte har kunder, der ikke vil have deres data ud af huset. Jeg synes, det er stærkt, at der gives eksempler på konkrete frameworks og modeller, og at der er en ærlig vurdering af både fordele og ulemper. Jeg savner måske lidt mere om, hvordan man håndterer vedligehold og opdateringer i praksis, men ellers meget brugbart.

Anders, DevOps-specialist i konsulenthus:

Jeg giver den 78. Artiklen er god til at forklare, hvordan man kan bygge workflows lokalt, og jeg kan lide, at der er fokus på containerisering og DevOps-aspektet. Men jeg synes, den bliver lidt overfladisk på de tekniske detaljer – især omkring integration og drift. Jeg havde gerne set mere dybde på, hvordan man håndterer større skala og automatisering.

Lise, IT-sikkerhedskonsulent i offentlig sektor:

Jeg giver den 88. Artiklen tager fat i netop de bekymringer, vi har i det offentlige omkring GDPR og datasikkerhed. Jeg kan lide, at der gives konkrete eksempler på brug i borgerservice og undervisning. Det er sjældent, at nogen rammer vores behov så præcist. Jeg savner dog lidt mere om audit trails og dokumentation af processer.

Jonas, AI-udvikler i undervisningssektoren:

Jeg giver den 81. Det er fedt, at artiklen nævner brugen i undervisning og automatiseret feedback. Jeg synes, det er inspirerende, men jeg kunne godt have ønsket mig flere konkrete kodeeksempler eller tutorials. Men overordnet set meget relevant og motiverende for mit arbejde.


*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.

Book Din AI-Booster Samtale


– Ingen Tekniske Forudsætninger Påkrævet!Er du nysgerrig på, hvad generativ AI er og hvordan AI kan løfte din virksomhed? Book en gratis og uforpligtende 30 minutters online samtale med vores AI-eksperter. Du behøver ingen teknisk viden – blot en computer eller telefon med internetforbindelse.

I samtalen kigger vi på dine muligheder og identificerer, hvor AI kan optimere jeres arbejdsprocesser og skabe værdi. Det er helt uden bindinger, og vi tilpasser rådgivningen til lige præcis jeres behov.

Fordele ved samtalen:

  • Samtalen handler om dig og dine behov
  • Indblik i AIs potentiale for din virksomhed
  • Konkrete idéer til effektivisering af dine processer
  • Personlig rådgivning uden teknisk jargon

Det handler om at skabe værdi for dig

    Gør brugeroplevelsen bedre.
    Hvilket firma arbejder du for?