Tencent frigiver Hy3, en 295B Mixture-of-Experts-model med Apache 2.0-licens, 21B aktive parametre og 256K kontekst. Tekniske valg som top-8 routing, MTP og et separat FP8-checkpoint er målrettet produktion. Det gør modellen relevant, men kræver moden infrastruktur, ny observability og en skarp evalueringsplan, før det giver mening i EU/UK-drift.

Datalab lancerer lift, en 9B open‑weights vision‑model, der læser hele PDF’er og billeder i ét hug og genererer struktureret JSON efter et givet schema. Ifølge Datalab: 90,2 procent feltnøjagtighed på et 225‑dokuments benchmark og en median runtime på 9,5 sekunder pr. dokument. Koden er Apache 2.0, vægtene har en modificeret OpenRAIL‑M licens.

Trajectory åbner en concurrent multi‑LoRA træningsstack og rapporterer 2,81× højere end‑to‑end eksperiment‑throughput end et single‑tenant setup. Tallet stammer fra Trajectorys egen felt‑rapport og er, så vidt vi kan se, endnu ikke uafhængigt replikeret. Måledefinitionen for 2,81× er ikke fuldt specificeret i det offentlige materiale. Hvis gevinsten holder, kan kontinuerlig læring rykke ind i drift, men udbyttet afhænger hårdt af workloads, hardware og eval‑disciplin.

AWS åbner for native bidirectional streaming i SageMaker AI fra november 2025. Sammen med vLLMs Realtime API og Mistrals Voxtral‑Mini‑4B‑Realtime‑2602 gør det realtids tale‑til‑tekst muligt i produktion. Vi dykker ned i arkitektur, drift, målepunkter, compliance og de virkelige faldgruber, vi selv har set hos kunder.

MarkTechPost gennemgår kvcached som en dynamisk KV-cache-implementering oven på vLLM. Tutorialen viser et setup med Qwen2.5-modeller, OpenAI-kompatibelt API, bursty workloads samt målinger af VRAM-udnyttelse og latenstid under elastisk og statisk allokering.

Google offentliggjorde TurboQuant-papiret 25. marts. Pr. 7. april beskrev Alan West fem uafhængige implementationer, en llama.cpp-fork på MacBook og en aktiv integrationsindsats i vLLM, selv om Google endnu ikke havde frigivet officiel kode.

Cerebras har lanceret MiniMax-M2-REAP-162B-A10B, en memory-effektiv MoE-model, der leverer næsten samme performance som originalen, men med 30% færre parametre. Artiklen dykker ned i arkitektur, benchmarks, praktisk integration og hvad det betyder for danske virksomheder og udviklere.

Huawei åbner hele sin AI-softwarestack som open-source inden årets udgang. Vi gennemgår, hvad det betyder for danske AI-udviklere, virksomheder og offentlige organisationer – fra tekniske detaljer til compliance og innovation.