Nyheden kort
Ifølge MarkTechPost har Aikido Security frigivet Altar-1, selskabets første open-weight sikkerhedsmodel komprimeret fra Z.AI’s GLM-5.3 til 328 GB. MarkTechPost skriver, at modellen er bygget til at køre i kundekontrolleret infrastruktur og driver Aikido Machine, en autonom pentest-appliance målrettet on‑prem og air‑gapped netværk. Samme omtale anfører, at vægtene er offentligt tilgængelige på Hugging Face og kan serviceres med vLLM på en enkelt node med 4× NVIDIA H200.
MarkTechPost er den primære, offentlige kilde i skrivende stund. Oplysninger om vægtfiler, licens, checksums samt eventuelle benchmarks og fidelity-målinger er ikke ledsaget af direkte links eller metode i artiklen og bør derfor valideres, før udsagnene lægges til grund for drift eller indkøb.
Baggrunden for komprimeringen
MarkTechPost beskriver, at GLM-5.3 er en mixture‑of‑experts model med 753 milliarder parametre, hvor hver token routes til 8 af 256 eksperter per lag. Ifølge omtalen svarer det til cirka 40 milliarder aktive parametre under inferens. MarkTechPost skriver, at Aikidos tilgang kombinerer kvantisering og ekspert‑pruning for at reducere hukommelsesaftrykket uden at ændre på selve routing‑logikken.
Ifølge MarkTechPost starter Altar‑1 fra cyankiwi‑checkpointet GLM‑5.3‑AWQ‑INT4. Omtalen forklarer, at AWQ‑kvantisering gemmer de routed eksperters vægte i 4 bit med 16‑bit aktiveringer (W4A16), mens opmærksomhed, den delte ekspert, tætte lag og head bevares i BF16‑præcision.
Pruning med REAP
MarkTechPost angiver, at Aikido anvender Cerebras REAP (Router‑weighted Expert Activation Pruning) til at score og fjerne eksperter. REAP vurderer eksperter efter router‑vægte og output‑størrelse, ikke kun udvælgelses‑hyppighed. Ifølge omtalen fjernes 88 af 256 routed eksperter pr. lag (34,4 procent), så 168 bevares pr. lag.
MarkTechPost skriver derudover, at der ikke er foretaget retræning efter pruning. Kalibreringen beskrives som udført med spor fra Aikidos pentest‑harness samt kodning, tool‑calling, ræsonnering og flersproget Wikipedia‑tekst, og at der ikke er brugt kundedata. Ifølge omtalen er routing‑adfærden uændret: routeren vælger fortsat 8 eksperter pr. token, nu blandt 168, hvilket ifølge kilden giver omtrent samme mængde aktive parametre pr. token.
Hvorfor on‑prem og air‑gapped
MarkTechPost fremhæver problemet sådan: sikkerhedskontekst må ikke forlade netværket. Lukkede frontier‑modeller kører på andres infrastruktur, hvilket kan sende kildekode, arkitektur‑dokumenter og udbedringsfund ud af huset. Omtalen peger på banker med dataresidenskrav og OT‑operatører uden internet‑rute som eksempler på miljøer, hvor dette er uacceptabelt.
Ifølge MarkTechPost adresserer open‑weight modeller residenskravet, men skaber et implementeringsgab: MoE‑modeller skal lagre alle eksperter, selv om hver forespørgsel kun bruger få. Samtidig bygger sikkerhedsagenter langvarig kontekst, og den tilhørende KV‑cache konkurrerer med modelvægtene om samme GPU‑hukommelse. Komprimering via kvantisering og pruning sigter mod at mindske den praktiske barriere.
Driftsforudsætninger som beskrevet af kilden
MarkTechPost skriver, at Altar‑1 kan køres med vLLM på en enkelt node udstyret med 4× NVIDIA H200 GPU’er. Omtalen anfører også, at vægtene er offentligt tilgængelige på Hugging Face. Artiklen linker ikke til et konkret modelrepo, licensoplysninger eller checksums, og den medfølger ikke med en officiel driftsvejledning eller reproducerbare benchmarks for de nævnte forudsætninger.
For læsere betyder det, at udsagnet om Hugging Face‑tilgængelighed og 4× H200‑opsætningen i denne fase bør læses som oplysninger fremsat i MarkTechPost, ikke som uafhængigt verificerede fakta.
Fidelity og evalueringsmålinger
MarkTechPost refererer til fidelity‑målinger og en intern CVE‑benchmark. Artiklen indeholder ikke en offentlig metodebeskrivelse, herunder prompts, sampling‑indstillinger, seeds eller eval‑setup. Uden disse oplysninger kan de nævnte målinger ikke reproduceres uafhængigt og bør betragtes som uverificerede, indtil underliggende data og scripts er delt.
En publicering af evalueringsgrundlaget – eksempelvis datasæt, prompts, konfigurationer og referencekørsler – vil være nødvendig for tredjeparts verifikation af de påståede resultater. Sådant materiale er ikke linket fra MarkTechPost‑omtalen.
MoE‑arkitektur efter pruning
Ifølge MarkTechPost ændres den overordnede routing‑adfærd ikke, selv om antallet af tilgængelige eksperter reduceres. Routeren vælger stadig 8 eksperter pr. token fra et mindre sæt (168), hvilket i kildens beskrivelse bevarer cirka 40 milliarder aktive parametre under inferens.
Omtalen begrunder pruning‑trinnet med et ønske om at fjerne mindre nyttige eksperter, mens specialister bevares, så ydeevnen i praksis forbliver tæt på udgangspunktet. Disse begrundelser gengives som beskrevet i MarkTechPost.
Hvad der fremgår entydigt af kilden
På baggrund af MarkTechPost‑omtalen kan følgende udledes som kildens udsagn: Altar‑1 beskrives som pruned fra GLM‑5.3 til 328 GB; modellen sigter mod drift i kundekontrolleret infrastruktur; Aikido Machine omtales som en autonom pentest‑appliance til on‑prem og air‑gapped miljøer; komprimeringen beskrives med udgangspunkt i et cyankiwi GLM‑5.3‑AWQ‑INT4‑checkpoint med W4A16 for routed eksperter og BF16 for centrale komponenter; REAP‑pruning fjerner 88/256 routed eksperter pr. lag; der er ikke retrænet efter pruning; kalibreringen er uden kundedata; routing‑adfærden angives som uændret.
MarkTechPost anfører derudover, at vægtene er offentlige på Hugging Face, og at vLLM‑drift er mulig på 4× H200. Disse punkter fremgår som påstande i kilden uden ledsagende link eller reproducerbar dokumentation i artiklen.
Åbne dokumentationspunkter
Følgende ville styrke verificerbarheden: et direkte Hugging Face‑link til Altar‑1 med uploaddato, licens og checksums; et modelkort med tekniske detaljer for vægtene og præcise build‑trin; fuld metode, prompts og konfiguration for de omtalte fidelity‑målinger; datasæt og scripts for den interne CVE‑benchmark; samt uafhængige driftsrapporter, der dokumenterer vLLM‑drift på 4× H200 under realistiske belastninger.
Uden disse elementer forbliver centrale udsagn i MarkTechPost‑omtalen ubekræftede af tredjepart og bør behandles som sådanne i tekniske beslutninger.
Konklusion
MarkTechPost tegner et samlet billede af Altar‑1 som en 328 GB open‑weight sikkerhedsmodel pruned fra GLM‑5.3 med AWQ‑kvantisering og REAP‑pruning, designet til on‑prem og air‑gapped sikkerhedsarbejde via Aikido Machine. De tekniske hovedlinjer – MoE‑arkitektur, kvantisering, pruning og fravær af retræning – gengives som beskrevet i kilden.
Samtidig mangler der i den offentligt tilgængelige omtale direkte links til vægte og licens, samt reproducerbar dokumentation for drift og evalueringer. Indtil sådanne artefakter foreligger, bør de nævnte muligheder og tal læses som oplysninger fra MarkTechPost, ikke som uafhængigt verificerede fakta.
