Hvad der er lanceret og hvorfor det betyder noget
LFM2.5-230M er Liquid AIs mindste model til dato. VentureBeat beskriver den som målrettet udviklere, der bygger letvægts dataekstraktion og autonome edge-systemer. Liquid AI kalder den en foundation-model til agentiske workflows, designet til at køre lokalt med høj effektivitet. Ifølge virksomheden præsterer den bedre på udvalgte dataekstraktionsbenchmarks end både Alibaba Qwen3.5-0.8B og Google Gemma 3 1B, som er væsentligt større.
Det er relevant, fordi størrelsesracet trækker mod store, dyre cloud-opsætninger, mens mange hverdagsopgaver – kvitteringer, logfiler, formularer – kræver lav latens, robusthed og helst offline drift. At kunne køre en model i den vægtklasse direkte på en telefon uden konstant netforbindelse åbner for andre driftsmønstre og mere kontrollerbar datapath.
Arkitekturen kort forklaret
LFM2-arkitekturen afviger fra den rene transformer. Ifølge Liquid AI interleaver modellen gated short-range convolutions med grouped-query attention. Oversat: korte konvolutioner fanger lokale mønstre effektivt, mens grouped-query attention reducerer omkostningen ved opmærksomhed sammenlignet med fuld kvadratisk skalering. Målet er lavere hukommelsesforbrug og stabilt tempo ved længere sekvenser.
Træningsdata og kontekstlængde
Liquid AI oplyser, at modellen er prætrænet på 19 billioner tokens. Det er et usædvanligt højt tal for denne parameterstørrelse og stammer fra virksomheden selv. Derudover nævnes en 32K context extension. I on-device-scenarier kan det bruges til længere dokumenter, tætte logstrømme eller en løbende agentlog uden at splitte alt i små bidder.
Benchmarks og påstanden om at slå større modeller
VentureBeat refererer Liquid AI for, at LFM2.5-230M slår Qwen3.5-0.8B og Gemma 3 1B på udvalgte dataekstraktionsbenchmarks. Det er en interessant sammenligning, fordi begge konkurrenter er 3–4 gange større i parametre. Men begrænsningerne skal frem: det er leverandørkørte tests, og der er ikke fuld transparens om datasæt, prompts, temperaturer, batching og optimeringsflags. Uafhængig verifikation mangler.
Hastighed og ressourcer i praksis
Liquid AI opgiver 213 tokens i sekundet i decode på en Galaxy S25 Ultra og 42 tok/s på en Raspberry Pi 5. Det gør det muligt at oversætte til latency: Ved 213 tok/s tager 100 tokens cirka et halvt sekund, 300 tokens cirka halvandet sekund — egnet til UI-interaktioner og små agenter, der skal svare hurtigt.
På Raspberry Pi 5 giver 42 tok/s omtrent 2,4 sekunder for 100 tokens og 7–8 sekunder for 300. Til batch-job på kanten – fx scanning af en bunke formularer på et industrielt kamera – er det ofte acceptabelt, især hvis man kører pipeline og tåler kort ventetid. Et hukommelsesfodaftryk under 400 MB hjælper ved at undgå swapping og bevare stabilitet.
Tilgængelighed og post-træning
Liquid AI skriver, at både base- og post-trænede varianter ligger på Hugging Face. Post-træningen beskrives i tre trin: supervised finetuning med distillation fra en 350M-model, direct preference optimization og multi-domain reinforcement learning. Pointen er at bevare fleksibilitet til downstream-specialisering.
Konsekvensen i praksis: domænetilpasning kræver egne data og en robust eval-suite. En 230M-model kan meget, men interne feltnavne og kanttilfælde kræver stadig målrettet tuning og kontrol.
Licensen og de kommercielle linjer
VentureBeat beskriver en dual-use kommerciel licens: gratis for individer og virksomheder under 10 millioner dollar i årlig omsætning, enterprise-aftaler for de større. Det sænker barrieren for startups og mindre teams, der vil eksperimentere med on-device pipelines uden tung kontraktproces.
Større selskaber må som vanligt gennemgå betingelser, forhandle enterprise og sikre, at distributionsmekanismer til edge-enheder er licens-kompatible. Få legal på tidligt, især hvis modellerne skal caches på mange enheder og opdateres trinvist.
Praktiske skridt til implementering
Start med en sandhedstest på egne dokumenter. Vælg tre hyppige flows – fakturaer, ordrebekræftelser, servicelogs – og kør en PoC. Mål felt-nøjagtighed, fejlrate i kanttilfælde og end-to-end latency på de enheder, I faktisk bruger. Test på mål-enheden, ikke kun på en udviklermac.
Sikkerhed og governance ved on-device
Lokale modeller mindsker datatransmission, men introducerer nye risici. Modelfiler kan manipuleres, opdateringer kan ændre adfærd, og mobilen rummer pludselig mere intelligens tæt på data. Minimum: signér checkpoints, krypter distribution, kør runtime-attestation og hav et lokalt safemode, hvis ekstraktionen afviger.
Etabler løbende hallucinationstests for de felter, der rammer bogføring og rapportering. Sørg også for en kontrolleret fallback til cloud-modeller, når on-device fejler eller ikke har tid nok. En hybrid tilgang er driftshåndværk, ikke pynt.
Use cases der giver mening
LFM2.5-230M ligner en stærk kandidat til struktureret dataekstraktion fra semi-strukturerede dokumenter, lokal inferens i feltudstyr og robottelemetri, hvor lav latens og net-uafhængighed er afgørende. VentureBeats gennemgang og Liquid AIs egne beskrivelser peger også på tool-use, hvilket gør modellen anvendelig som et tyndt agentlag, der kalder værktøjer.
Grænsen går typisk ved mere generel forståelse, tung kæderesonering og komplekse multimodale opgaver. Her er større modeller eller en orkestrering, hvor 230M-modellen laver hurtig førsteklassificering og dataudtræk, og en større model håndterer de svære sager, mere realistisk.
Konkurrencen og landskabet
Der er to spor i branchen lige nu: nogle jagter frontier-ydelse med gigantiske modeller, andre optimerer arkitektur og komprimering for små footprints. Liquid AI placerer sig tydeligt i den sidstnævnte lejr. Strategien går ud over kvantisering og pruning; selve arkitekturen er ændret.
Det passer ind i den bredere bevægelse mod agentiske overlays på eksisterende systemer. AWS’ tekniske indlæg om at retrofitte legacy-tjenester med agentlag peger i samme retning: gør det let for små, hurtige modeller at styre værktøjer og services uden at rive alt ned.
Huller i historien der kræver opfølgning
Tal og retning er lovende, men flere brikker mangler: uafhængig verifikation af benchmarks, fuld gennemsigtighed i opsætningerne, energimålinger og robusthedstests. Edge-udrulning kræver metoder, ikke slides.
Hvad bør tekniske beslutningstagere gøre nu
Kør en fokuseret PoC på jeres dyreste manuelle ekstraktionsflow. Mål samtidig nøjagtighed, latency på mål-enheden og peak-hukommelse. Supplér med energimåling på batteri. Sammenlign base- og post-trænet variant på en stabil eval-suite.
Kør en tidlig juridisk vurdering af licensen, især ved bred edge-distribution. Byg en simpel opdateringsmekanisme med signering og feature flags, så rollback er ukompliceret. Start småt: et par afgrænsede værktøjskald via et agentlag rækker til første iteration.
Min konklusion
Hvis jeres flaskehals er hurtig og billig udtrækning af struktureret data fra dokumenter, så prøv modellen på en telefon eller en Raspberry Pi nu. Den reelle værdi viser sig først i jeres egne flows.
Kilder og metodiske noter
Oplysninger om lancering, modelstørrelse, arkitektur, tilgængelighed, hastighedstal og licens stammer fra Liquid AIs blog og VentureBeats dækning. Benchmarks er leverandørkørte; tredjepartsverifikation mangler. Perspektiver på agentiske overlays er understøttet af AWS’ tekniske blogindlæg.
