Google AI har netop lanceret EmbeddingGemma, en kompakt embedding-model, der sætter nye standarder for on-device AI. For danske virksomheder og organisationer er det en markant nyhed, fordi modellen kombinerer høj performance, fleksibilitet og privacy i et format, der kan køre direkte på egne enheder – uden at sende data ud af huset. EmbeddingGemma åbner for helt nye muligheder for at arbejde med AI, hvor datasuverænitet og effektivitet går hånd i hånd.

Det mest opsigtsvækkende er, at EmbeddingGemma leverer state-of-the-art resultater på tværs af sprog, også på nordiske sprog, samtidig med at modellen er så kompakt, at den kan køre på alt fra laptops til mobiler og ældre hardware. Det betyder, at virksomheder nu kan få adgang til avanceret AI uden at gå på kompromis med datasikkerhed eller investere i dyr cloud-infrastruktur.

Hvad er EmbeddingGemma?

EmbeddingGemma er bygget på en transformer-encoder-arkitektur og har 308 millioner parametre. Det lyder måske af meget, men i AI-verdenen er det faktisk småt – især når man ser på, hvor meget modellen kan. Den bruger mean pooling til at lave faste vektor-repræsentationer af tekst, og takket være Matryoshka Representation Learning (MRL) kan man nemt tilpasse embedding-størrelsen til egne behov.

Det unikke ved EmbeddingGemma er kombinationen af kompakthed og fleksibilitet. Hvor mange andre embedding-modeller kræver kraftig hardware eller cloud-adgang, kan EmbeddingGemma køre direkte på enheder, der allerede findes i organisationen. Det gør det muligt at bygge AI-løsninger, hvor data aldrig forlader virksomheden – en klar fordel i forhold til GDPR og datasuverænitet.

Benchmarks og sammenligninger

På Massive Text Embedding Benchmark (MTEB) har EmbeddingGemma opnået topplaceringer blandt modeller under 500 millioner parametre. Især på nordiske sprog og tværs af sprog klarer modellen sig bemærkelsesværdigt godt. Sammenlignet med populære modeller som MiniLM leverer EmbeddingGemma højere præcision, især når det gælder retrieval og semantisk søgning.

Latency-målinger viser, at modellen kan lave embedding af 256 tokens på under 15 ms på EdgeTPU – altså lynhurtigt, selv på hardware med begrænset regnekraft. Det gør EmbeddingGemma velegnet til realtidsapplikationer, hvor svartid er afgørende. Samtidig kan modellen køre på alt fra moderne laptops til ældre mobiler, hvilket gør den tilgængelig for langt de fleste virksomheder.

Praktiske anvendelser og use cases

EmbeddingGemma åbner for en række nye anvendelser, hvor AI kan bruges direkte på enheden. On-device Retrieval-Augmented Generation (RAG) er nu muligt uden cloud, hvilket er oplagt til dokumenthåndtering, søgning og klassifikation. For SaaS-udbydere betyder det, at man kan tilbyde AI-funktioner uden at sende kundedata ud af landet. I fintech og offentlig sektor kan man bygge løsninger, hvor følsomme data aldrig forlader organisationen.

Eksempler fra sundhedssektoren viser, at EmbeddingGemma kan bruges til at søge i patientjournaler eller klassificere dokumenter – helt offline. For udviklere er det nemt at komme i gang: Modellen findes på Hugging Face, kan integreres med LangChain og fungerer med populære vektordatabaser som Weaviate. Her er et simpelt kodeeksempel:

• from sentence_transformers import SentenceTransformer
• model = SentenceTransformer(“google/embeddinggemma-300m”)
• emb = model.encode([“eksempeltekst til embedding”])

Med få linjer kode kan man altså bygge avancerede søge- og klassifikationssystemer, der kører lokalt.

Privacy, compliance og datasikkerhed

En af de største fordele ved EmbeddingGemma er privacy-by-design. Modellen er udviklet til offline-brug, så data bliver på enheden. For danske virksomheder, der arbejder med følsomme oplysninger, er det en gamechanger. Man undgår cloud-inference og kan nemt overholde GDPR og andre krav om datasuverænitet.

I miljøer med ekstra høje krav til datasikkerhed – fx sundhedsdata eller finansielle oplysninger – kan EmbeddingGemma integreres direkte i eksisterende systemer. Det betyder, at AI kan bruges til at automatisere og forbedre arbejdsgange, uden at man risikerer datalæk eller brud på compliance.

Tips til optimering og tilpasning

Matryoshka Representation Learning (MRL) gør det muligt at justere embedding-størrelsen fra 768 ned til 128 dimensioner, alt efter behov. Det giver en unik fleksibilitet, hvor man kan balancere mellem præcision og effektivitet. For mindre projekter eller hardware med begrænset plads kan man vælge færre dimensioner og stadig opnå høj kvalitet.

Det er også muligt at tilpasse EmbeddingGemma til egne datasæt og domæner. Ved at finjustere modellen på virksomhedens egne tekster kan man opnå endnu bedre resultater, fx i specialiserede brancher som jura, sundhed eller finans. Snilld har erfaring med at hjælpe virksomheder i gang med denne type tilpasning.

Kom godt i gang

Det er nemt at komme i gang med EmbeddingGemma. Først henter man modellen fra Hugging Face eller Google AI Edge Gallery. Herefter kan man integrere den i egne systemer med få linjer kode. For mere avancerede løsninger kan man koble modellen til LangChain, LlamaIndex eller en vektordatabase som Weaviate.

Her er en trin-for-trin guide:

• Download modellen fra Hugging Face eller Google AI Edge Gallery
• Installer nødvendige Python-pakker (fx sentence-transformers)
• Indlæs modellen og embed tekst
• Integrer i eksisterende søge- eller klassifikationssystemer

Der findes masser af ressourcer og tutorials online, så man hurtigt kan bygge sin første prototype.

Perspektivering og fremtid

EmbeddingGemma markerer et vigtigt skridt for AI-udviklingen i Danmark. Med muligheden for at køre avanceret AI direkte på egne enheder, bliver det langt lettere for både små og mellemstore virksomheder at tage teknologien i brug. Det betyder hurtigere innovation og bedre beskyttelse af data.

Hos Snilld har vi allerede hjulpet flere virksomheder med at udnytte potentialet i on-device AI. Vores erfaring viser, at EmbeddingGemma kan være nøglen til at bygge sikre, fleksible og effektive AI-løsninger – uanset om man arbejder med dokumenthåndtering, søgning eller klassifikation. Vi står klar til at rådgive om alt fra opsætning til tilpasning og integration, så danske virksomheder kan få mest muligt ud af den nye teknologi.

EmbeddingGemma er ikke bare endnu en AI-model. Det er et værktøj, der gør det muligt at bringe AI helt tæt på forretningen – med fuld kontrol over data, høj performance og fleksibilitet til at tilpasse løsningen til egne behov. Det er en udvikling, vi hos Snilld ser frem til at følge – og bidrage til.

Kilder:

• https://www.marktechpost.com/2025/09/04/google-ai-releases-embeddinggemma-a-308m-parameter-on-device-embedding-model-with-state-of-the-art-mteb-results/
• https://developers.googleblog.com/en/introducing-embeddinggemma/
• https://huggingface.co/spaces/mteb/leaderboard
• https://developers.googleblog.com/en/introducing-embeddinggemma/
• https://www.reddit.com/r/Android/comments/1kxh0i3/google_releases_an_app_that_allows_you_to_run/
• https://developers.googleblog.com/en/introducing-embeddinggemma/

Målgruppens mening om artiklen

Anders, IT-chef i større dansk kommune:
Jeg giver artiklen 85. Den er meget relevant for mig, fordi privacy og datasuverænitet er afgørende i det offentlige. Det er spændende, at EmbeddingGemma kan køre lokalt og overholde GDPR, og jeg kan se potentialet i fx dokumenthåndtering. Dog kunne jeg godt have ønsket mig flere konkrete eksempler fra det offentlige og lidt mere om integration med eksisterende systemer.

Camilla, CTO i fintech scaleup:
Jeg giver artiklen 90. Det er virkelig interessant, at man kan få state-of-the-art AI uden at sende data ud af huset. Artiklen forklarer teknologien godt og rammer vores behov for compliance og hurtig svartid. Jeg savner dog lidt mere om performance på finansielle datasæt og eventuelle begrænsninger.

Jonas, AI-udvikler i SaaS-virksomhed:
Jeg giver den 95. Artiklen er super konkret og teknisk nok til, at jeg kan se, hvordan jeg kan bruge EmbeddingGemma direkte i vores produkter. Kodeeksempler og integration med LangChain er spot on. Jeg kunne godt tænke mig lidt mere om benchmarks mod andre nyere modeller, men ellers meget brugbar.

Mette, CISO i større forsikringsselskab:
Jeg giver artiklen 80. Jeg synes privacy-delen er stærk og relevant, især i forhold til compliance. Det er dog lidt for meget “salgstale” til sidst, og jeg mangler mere kritisk gennemgang af eventuelle risici og begrænsninger. Men overordnet meget informativ.

Rasmus, IT-driftansvarlig i mellemstor produktionsvirksomhed:
Jeg giver den 75. Det er spændende, at man kan køre AI på eksisterende hardware, og artiklen er let at forstå. Men jeg savner flere praktiske eksempler fra industrien og lidt mere om, hvordan man håndterer opdateringer og support, hvis man ikke har stor AI-erfaring internt.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.