Meituan har frigivet LongCat‑2.0, en blanding‑af‑eksperter‑model med i alt 1,6 billioner parametre og en native kontekst på 1 million tokens. De to tal er ikke kun bemærkelsesværdige i sig selv; de signalerer et skifte fra brede chatmodeller til arkitekturer rettet mod agentiske kodningsopgaver. Det rammer direkte ind i, hvordan man planlægger infrastruktur, budgetter og risikostyring i AI‑drift — og potentielt tempoet i udviklingsarbejde, hvis det lever op til løfterne.
Det handler ikke bare om at være større. Ifølge Meituan er modellen stykket sammen af valg, der skal gøre den hurtigere og mere målrettet: sparsomme eksperter, router‑styring via PID, en lang‑kontekst‑opmærksomhedsmekanisme og et stort N‑gram‑lag ved siden af selve MoE‑kernen. Alle tekniske påstande her er Meituans egne og er endnu ikke uafhængigt verificeret.
Hvor LongCat‑2.0 kommer fra
LongCat‑2.0 følger LongCat‑Flash fra 2025 (560 milliarder parametre). Serien har fra starten sigtet mod lange kontekster, hvor hele repositorier, store dokumentmængder og langvarige sessioner er normen. I 2026 lægger 2.0‑udgaven sig blandt de mest langtrækkende systemer — men med en tydelig MoE‑drejning mod agentisk kodning frem for generel samtale.
Det matcher en bredere tendens: flere bevæger sig mod sparsomme, ekspert‑tunge modeller til specifikke workflows, fordi opgaveprisen kan falde, når majoriteten af parametrene ikke aktiveres for hvert token. Til gengæld stiger runtime‑kompleksiteten. Rutevalg. Telemetri. Failover. Alt det, der sjældent fylder i pressemeddelelser.
MoE i praksis og prisen for fleksibilitet
Meituan opgiver 1,6 billioner samlede parametre, men kun omkring 48 milliarder aktiveres per token i gennemsnit, med et spænd på cirka 33–56 milliarder afhængigt af indhold. Det muliggøres bl.a. af zero‑computation‑eksperter, der returnerer letvægtsrespons på trivielle tokens eller sender komplekse videre til tungere eksperter. En PID‑controller justerer router‑bias, så aktiveringen holdes i det ønskede spænd. Ifølge Meituan reducerer det compute‑omkostning uden stort kvalitetstab.
Grebet er fornuftigt — og dyrt i driftsdisciplin. Variabel aktivering giver variabel latency og variabel pris per forespørgsel. I praksis skal driften budgettere for spidser, ikke for et pænt gennemsnit. Kapacitetsstyring bliver sværere, når tokens ikke “koster” ens. Uden tæt overvågning kan decemberregningen overraske.
ScMoE og throughput
LongCat‑2.0 bruger ifølge Meituan en shortcut‑forbundet MoE‑rygrad (ScMoE) for at løfte throughput. Ideen minder om residuale/genvejsforbundne blokke: renere gradientstrøm, effektiv beregning, samtidig med at eksperter bevarer specialisering. Det kan give hurtigere træning og mere stabile inferensforløb, men konkrete end‑to‑end latency‑tal i produktion er ikke udleveret.
Uden uafhængige målinger er det uklart, hvor stor en del af gevinsten der kommer fra ScMoE alene i servermiljøer, hvor I/O og netværk ofte tager førertrøjen på lange sekvenser.
LongCat Sparse Attention og million‑kontekst
At holde 1M‑token kontekst i live er dyrt. Meituan introducerer LongCat Sparse Attention (LSA), som udvælger relevante tokens via lagdelt indeksering: streaming‑aware (samler uregelmæssige læs i blokke), cross‑layer (genbruger saliens på tværs af lag) og hierarkisk (grov‑ til finfiltrering). På papiret bringer det skaleringen tættere på lineær med kontekstlængden.
Det lyder som en praktisk videreudvikling af sparse‑attention, men to ting er åbne: 1) hvor meget arbejdshukommelse og cachetrafik indekseringen selv forbruger ved 1M tokens i realistiske agent‑sessioner; 2) hvordan kvaliteten påvirkes, hvis nyttig kontekst gemmer sig i tokens, der frasorteres tidligt. Uden benchmarks på lange, interaktive forløb bør “næsten lineær” læses med forbehold.
N‑gram‑laget og specialisering
Ud over MoE‑eksperterne rummer modellen et 135 milliarder parameters N‑gram‑embeddingmodul, opgivet som ortogonalt til eksperterne. Formålet er at fange tæt, lokal tokenstruktur og reducere I/O under store batch‑decodes — særligt relevant i kode, hvor lokale mønstre bærer meget mening. Men 135 milliarder er tungt: krav til hukommelsesarkitektur, prefetch og cachekoordination rykker markant op.
Meituan beskriver også en post‑træningsfase, MOPD, der fusionerer tre lærergrupper (Agent, Reasoning, Interaction) til én samlet model. Det understøtter fokus på agentiske arbejdsgange, men rejser et governance‑spørgsmål: hvis et domæne taber ydelse, hvor hurtigt kan man rette ind, når lærerne er smeltet sammen.
Træning, hardware og forsyningskæde
Meituan oplyser, at både træning og serving kørte fuldt ud på indenlandske AI‑ASIC superpods, over mere end 35 billioner tokens og “millioner af accelerator‑timer”. Hvis det holder, peger det både på modne alternativer til Nvidia‑centriske stacks i stor skala og på et portabilitetsproblem: kan samme modelopsætning bringes i drift på de platforme, der typisk står i vestlige datasale, uden store omskrivninger.
Hvilke chips, netværkstopologier og hukommelseslag, der er brugt, er ikke beskrevet. Uden de detaljer er det svært at skille arkitekturgevinst fra hardwareoptimering. Det gør også betegnelsen “open model” praktisk tvetydig: kode og weights er én ting, transportabel performance noget andet.
Serving‑arkitektur og I/O
Til inferens nævner Meituan 6D‑parallelisering, adskillelse af prefill og decode, super kernels og L2‑cache‑prefetch af weights for at skjule I/O‑latens. På lange sessioner kan netop de greb afgøre, om oplevelsen er brugbar. I praksis ser mange teams, at I/O bliver flaskehalsen før compute — især når millioner af tokens, ruteindeks og cache‑hints flyttes mellem noder.
Her afgør implementeringen alt: batch‑størrelser, acceptabel kvantisering uden synligt kvalitetstab i kodegenerering, og hvor aggressive cache‑strategierne er ved agent‑hops. Små valg, stor effekt.
Benchmarks med forbehold
Meituan rapporterer 59,5 på SWE‑bench Pro og 70,8 på Terminal‑Bench 2.1, med margin over en opgivet GPT‑5.5 på SWE‑bench Pro og ydelser på niveau med Gemini 3.1 Pro i softwareingeniørnære opgaver. Alle tal stammer fra Meituans eget materiale. Uafhængige leaderboard‑bekræftelser foreligger ikke, og der er ikke adgang til eval‑scripts, prompts eller dataset‑snapshots til replikation.
Dermed er tallene interessante, men foreløbige. Agentiske benchmarks er følsomme over for orkestrering, timeout‑valg og recovery‑strategier. En model kan se svag ud i ét setup og stærk i et andet. Indtil uafhængige kørseler foreligger, bør resultaterne læses som indikationer — ikke endegyldige ranglister.
Hvad det betyder i drift
Skal en LongCat‑lignende model i produktion til agentisk kodning, følger konkrete behov: budgettering for spidser (ikke kun gennemsnit) ved variabel aktivering; observability på ekspertniveau, så router‑adfærd kan spores; og autoskalering, der tager kontekstlængde som first‑class signal. En kort prompt er ikke nødvendigvis en let opgave, hvis historikken er 800.000 tokens.
Latency‑styring er afgørende. Den millionstore kontekst hjælper kun, hvis indeksering og prefetch er præcist implementeret. Lav slut‑til‑slut tests på faktiske agent‑workloads, ikke kun syntetiske prompts. Mål på hvert hop i orkestreringen: retrieval, værktøjskald, kodekørsel, rollback‑logik. Find de steder, hvor aktiveringsvariation skubber jer over SLO’er, og sæt vagtposter dér.
I/O, lager og cache
Med et 135B N‑gram‑lag og LSA’s indeksering stiger kravet til hukommelse og I/O. Mange vil erfare, at båndbredde og cache‑effektivitet — ikke FLOPs — bliver knappenålen. Planlæg for vægt‑prefetch, pinned memory og minimér cross‑node flytninger under lange sessioner. Overvej kontekstkomprimering af ældre segmenter, hvis kvaliteten holder; ellers drukner logikken i sin egen historie.
Et jordnært råd: hold øje med disk‑ og netværkstider i profilerne. Man kan nærmest høre disken brumme, når agenten læser ind i millionklassen. Når det sker, er compute næppe jeres flaskehals den dag.
Sikkerhed og governance
Lange kontekster udvider angrebsfladen: prompt‑injektion over tid, hvor en tilsyneladende uskyldig besked langt tilbage ændrer agentadfærd senere; dataudslip, når en session uforvarende bærer kundedata fra én opgave ind i en anden. Med million‑token sessioner stiger risikoen. Kræv streng adgangskontrol til, hvad der må ind i konteksten, og en klar retention‑politik for, hvor længe sessioner gemmes.
Agentisk kodning kræver fail‑safes: hvad rulles tilbage ved fejl i kodeeksekvering, hvem godkender filsystemændringer, og hvilke hemmeligheder må agenten læse. Log alt på værktøjsniveau, og hold audit‑stier skarpe. Her er governance en branddør, ikke pynt.
Konkurrence og markedsbillede
Hvis Meituan kan levere stabil performance med MoE og million‑kontekst, lægger det pres på leverandører, der fortsat prioriterer monolitiske, tætte modeller til alt. Nvidia‑økosystemet dominerer stadig, men LongCat‑historien — som Meituan selv fortæller den — peger mod et mere pluralistisk hardwarefelt. Google og Anthropic har stærke generalist‑modeller; LongCat‑2.0 sigter smallere og dybere mod softwarearbejde.
Et sidespor med kant er de vertikale stacks. VentureBeats dækning af Trunk Tools viser, at specialiserede arkitekturer kan skære uger af arbejdsgange ved at kombinere sanser, semantik og agenter på domænedata. Hvis LongCat‑formatet vinder indpas, bliver kampen ikke kun om modellen, men om hele stakken omkring den.
Hvem bør spørges nu
Tre samtaler mangler for et fuldt billede: 1) Med Meituans LongCat‑team om adgang til eval‑scripts, prompts og præcise hardwaredata. 2) Med uafhængige MoE‑forskere om PID‑bias og zero‑computation‑eksperters effekt på kvalitet kontra pris. 3) Med ASIC‑infrastrukturfolk om plausibiliteten i fuld træning og serving på indenlandske superpods — og hvad der kræves i blandede datacentre.
Derudover bør sikkerhedsforskere høres om risiko ved million‑token sessioner og mulige afbødninger: segmenteret kontekstadgang, automatisk maskering og regelbaseret session‑nedklip. Uden de svar er risikobilledet ufuldstændigt.
Hvad man kan gøre nu
Ledelser, der ser agentisk kodning som en reel vej til produktivitetsløft, kan starte smalt: vælg 2–3 gentagne opgaver med tydelig payoff, mål alt, og byg observability først. Skil prefill og decode i arkitekturen, og test cache‑strategier hårdt, før udviklere får adgang. Budgetter konservativt for aktiveringsspidser. Og vær tydelig på governance: hvem må hvad, og hvor længe må systemet huske det.
Vurderingen er nøgtern: LongCat‑2.0 er teknisk ambitiøs og sandsynligvis relevant for agentiske workflows — især i kode. Men den flytter omkostninger fra ren compute til infrastruktur og drift. Forskellen mærkes først, når man kører det i virkeligheden.
