Artikler med tag: Modeldrift

En eval-harness afslørede et ubehageligt mønster: sprogmodeller er ofte mest sikre, når de tager fejl. Det er ikke et akademisk kuriosum, men et operationelt problem for teams, der bygger værktøjer på LLM-output. Her er hvorfor kvalitativ review ikke rækker, hvad en eval-harness faktisk måler, og hvilke konkrete tiltag der reducerer risiko i drift.

NVIDIA lancerer Gated DeltaNet-2, en linear-attention-lag der adskiller erase og write i delta-reglen med kanalvise gates. Ifølge forfatterne slår den Mamba-2, KDA og tidligere varianter på deres benchmarks. For virksomheder kan det betyde lavere hukommelsesforbrug og hurtigere lange kontekster – hvis man styrer gates, chunking og drift med hårde tests.

NVIDIA-forskere præsenterer Star Elastic: en post‑training metode, der pakker tre nested reasoning‑varianter i én checkpoint og muliggør zero‑shot slicing. For virksomheder kan det reducere træning, lager og drift — men kræver justeringer i MLOps, runtime og governance. Vi vurderer potentialet og de vigtigste faldgruber.

Fem nøgleaktører fra hele AI‑forsyningskæden sagde det ligeud til TechCrunch på Milken i Beverly Hills: chipknaphed, ekstreme infrastrukturidéer som orbitale datacentre og tvivl om selve AI‑arkitekturen. Vi oversætter det til danske beslutninger nu – om kontrakter, arkitektur og driftsrisiko – før leverandørlås og kapacitetsflaskehalse sætter sig fast.