Snilld

Fra TF‑IDF til agenter: hvorfor næste generation af søgning handler om beslutninger, ikke bare tekst

En opdateret gennemgang på Towards AI og SpaceXAI’s åbning af Grok Build markerer et skifte fra ordmatch og statiske rankere til agentiske retrieval‑sløjfer, der træffer aktive valg om kilder, verifikation og hvornår man stopper. Det ændrer, hvordan virksomheder bør bygge RAG, styre latency og sikre evidenssporing.

16. juli 2026 Peter Munkholm

En søgeboks har længe givet indtryk af forståelse: skriv et par ord, få en liste. Det var effektiv bogstavjagt. Nu flytter feltet sig. En gennemgang på Towards AI, opdateret 16. juli 2026, kortlægger skiftet fra TF‑IDF og BM25 til agentiske retrieval‑flows, hvor systemet vælger kilder, verificerer og afgør, hvornår belæg er tilstrækkelig. Samtidig åbnede SpaceXAI kildekoden til Grok Build den 15. juli 2026. Ikke to adskilte historier, men samme retning.

Søgning er blevet et beslutningslag, ikke bare rangering. Det rammer arkitektur, SLA’er, governance og sikkerhed direkte.

Fra inverterede indeks til vektorer

Starten er klassikerne: inverterede indeks, TF‑IDF og BM25, hvor ordfrekvens og dokumentfrekvens driver relevans. Robust, billigt og forklarligt – men sårbart over for omskrivninger og synonymer.

Vektorsøgning og embeddings placerer mening i et talrum, så sætninger uden fælles ord kan ligge tæt. Ifølge Towards AI‑gennemgangen markerer det springet fra leksikal matchning til semantisk genfinding.

Makrofoto af et slidt mekanisk stopur med cyan/grønne refleksioner; teksturdetalje og symbolik for latency‑budget.

Hybrid er en arbejdssejr

Ingen enkeltteknik vandt. Hybrid retrieval kombinerer deterministiske nøgler (produkt‑ID’er, fakturanumre, kundereferencer) med semantisk tilbagekald. I praksis giver det stabilitet og lavere fejlrate.

Arkitekturmæssigt: én pipeline til sikre hits, én til at udvide synsfeltet – forenet af en reranker.

LLM ændrede spillet, men løste ikke alt

Store sprogmodeller leverer flydende svar, men er bundet af træningsdata og tidsstempel. Derfor blev Retrieval‑Augmented Generation standard: hent kilder ved spørgetid, læg dem i prompten, få svar forankret i tekst. Towards AI rammer det: RAG er et pragmatisk kompromis, ikke en sølvkugle.

Driftsmæssigt: frisk viden og sporbarhed mod betaling i latency, kontekstbudget og kompleksitet.

Rør ved forespørgslen og re‑rangeringen

To greb afgør meget: query rewriting og reranking. Rewriting omskriver uklare spørgsmål til mere præcise delspørgsmål eller varianter. Reranking sorterer topresultater med stærkere signaler (ofte kryds‑encodere). Towards AI fremhæver begge som klare løft i præcision.

Banner

Færre hallucinationer starter med bedre kilder ind.

Operationsrum med vægmonteret terminal‑TUI (uskarpt) og tekniker i profil; symboliserer headless agent‑drift og CI‑integration.

Agentisk RAG forklaret

Næste trin: systemet henter ikke bare – det beslutter. Agentisk RAG kører en sløjfe: vurdér om der skal søges, vælg kilder, verificér påstande, stop når evidensen er nok. Det muliggør multi‑step undersøgelse, hvor svar bygges i kontrollerede skridt.

Skiftet er fra søgning som værktøj til søgning som proces – fra hit‑sæt til lille arbejdsplan.

Hvad det betyder i praksis

Arkitekturen bliver lagdelt: leksikalsk indeks for deterministiske opslag, vektorindeks for semantik, reranker for præcision og et agentlag, der styrer rækkefølgen. Dataflyt koster: brug køer, retries, tidsgrænser og idempotente værktøjer.

Latency skal styres. Fastlæg budget pr. forespørgsel, afklar antal agenttrin, og hvornår summarisk fallback udløses. Det afgør forskellen mellem 700 ms og 9 sekunder.

Sporbarhed og audit

Når systemet træffer valg, er evidenssporing obligatorisk. Log kilde‑URL eller dokument‑ID, versionsstempel på embedding‑rummet og selve beslutningstrinet: hvem stoppede, og hvorfor. Uden det kan man ikke reproducere en afgørelse eller fejlsøge effektivt.

Her bor også governance: muligheden for at forklare, hvorfor to brugere fik forskellige svar.

ERROR

Sikkerhed og nye risici

Agentisk autonomi øger angrebsfladen. Towards AI peger på sårbarheder, der følger af mere handlekraftige systemer: hallucinationer, værktøjsmisbrug (uønskede kommandoer) og over‑tillid til kilder uden tilstrækkelig verifikation.

Der mangler offentlige, kvantitative benchmarks for agentiske angreb og forsvar. Indtil da: mindst mulig adgang, signerede værktøjskald, whitelisting af kommandosæt, rate‑limits – og fuld logging.

Et konkret værktøj i felten

SpaceXAI har åbnet Grok Build som open source under Apache 2.0. Ifølge MarkTechPost blev koden offentlig 15. juli 2026, efter en tidlig beta 25. maj. Grok Build beskrives som et agent‑harness til udviklere: forstår kodebaser, kan redigere filer, køre shell‑kommandoer, søge på nettet og håndtere langvarige opgaver. Det kan køre som fuldskærms TUI eller headless til scripting og CI, og editorer kan indlejre det via en Agent Client Protocol.

Det vigtige er formatet: en terminalagent til både interaktiv brug og automatiseret drift peger på arbejdsgange, hvor agenter bor i shell og CI – ikke kun i browser‑chat.

Banner

Hvad man bør vælge hvornår

Ikke alle problemer kræver en agent. Leksikalsk søgning giver høj værdi ved faste felter, kendte betegnelser og behov for forklarlighed. Hybrid vinder, når domænet er sprogligt broget, men har stærke nøgler. Agentisk RAG giver mening ved flertrins syntese, sammensmeltning af flere kilder og behov for aktiv verifikation.

Prisen for fleksibilitet er ekstra latency, flere svigtpunkter og nye sikkerhedsflader. Den skal opvejes af reel forretningsværdi.

Drift og latens i hverdagen

Agentiske flows kræver asynkrone job og køer. Langvarige kørsler skal kunne parkeres, genoptages efter time‑outs og køre idempotent. Det er ikke banalt i en mobiloplevelse, hvor brugeren venter.

Serviceaftaler bør fastsætte latensbudget pr. brugertrin og en deterministisk fallback. Hellere et konsistent 2‑trins svar end et uforudsigeligt 7‑trins svar.

Governance og evidens

Hvis agenten vælger kilder, skal valgene kunne inspiceres. Versionér vektorrum, så identiske forespørgsler er reproducerbare. Bevisfæst svar med citater, dokument‑hash og tidsstempel.

Det muliggør revisioner og målrettet fejlretning, fordi fejlen kan spores til præcis pipeline‑del.

Operational checklist

Før pilot: konkrete tjekpunkter, der reducerer risiko.

  • Latensbudget pr. forespørgsel og per agent‑step. Hårde tal, ikke skøn.
  • Fallbackplan ved budgetoverskridelse: hvad returneres, og hvordan markeres usikkerhed.
  • Human‑in‑the‑loop for afgørende svar: fastlæg grænser.
  • Eval‑datasets med rigtige spørgsmål og facittekster.
  • Løbende måling: hit‑rate, rerank‑løft, citatdækning, kilde‑mismatch.
  • Adgangsstyring til værktøjer: whitelist og signatur på eksekverbare kald.
  • Audit‑log for hvert agenttrin: input, valg, output, kilde‑ID, tidsstempel.
  • Timeouts, retries og idempotens i alle værktøjer.
  • Versionering af embeddings og indekser med mapping til deployment.
  • Sikkerhedsmonitorering for prompt‑injektion og værktøjsmisbrug.

Huller i det offentlige materiale

Sikkerhedsdata er stadig tynde: konkrete angreb og dokumenterede forsvar i længere drift mangler. Indtil tallene findes, bør man teste konservativt og rulle ud i små, reversible skridt.

Grok Build som indikator

MarkTechPost beskriver Grok Build som mere end chat med værktøjer: det strukturerer agentløkken, værktøjslaget og en TUI, der gør plan og diff synlig. At det kører headless og via en protokol til editorer, peger på, hvor agentarbejde fremover lever: i editoren, i CI og i terminalen – ikke kun i browseren.

Det gør integration til en del af engineering‑hverdagen, ikke en særskilt AI‑app.

Prioritering af projekter

Start simpelt, når domænet tillader det. Leksikalsk søgning kan levere 80 procent af værdien for 20 procent af kompleksiteten. Tilføj semantik, når sproget slår knuder. Først derefter bør agentiske sløjfer overvejes – målrettet opgaver, hvor flertrins verifikation forbedrer beslutningen.

Regn ærligt på risiko og værdi. En procent ekstra præcision kan være dyrt, hvis den koster to sekunders ventetid hver gang.

Hvad der adskiller næste fase

Før handlede søgning om at finde de rigtige ord i de rigtige dokumenter. Nu handler det om at beslutte, hvor der skal ledes, hvad der kan stoles på, og hvornår der er nok til at svare. Ikke magi – disciplin.

Forskellen mærkes først i brug.

Kilder

    Gør brugeroplevelsen bedre.
    Hvilket firma arbejder du for?