Evigt aktuelle matematiske rødder i AI

Det kan virke som ren trylleri, når en AI genererer fængende tekster eller knivskarpe svar på få sekunder. Men bag denne teknologiske magi gemmer sig et klassisk fundament, som rækker helt tilbage til Newtons arbejde med matematik for flere hundrede år siden. Fra differentialregning til optimeringsmetoder er AI’s succes dybt forankret i alt det, Newton og hans samtid satte i bevægelse. Meget af udviklingen i dag er dybest set bygget på det, der blev banebrydende teori dengang.

Selvom AI udviklingen accelererer, løber selv de mest moderne sprogmodeller ind i de gamle udfordringer, det første regnestykke aldrig fik løst. Hallucinationer, hvor AI skaber overbevisende men fejlagtige svar, bliver netop ikke bare færre. Men hvad skyldes fænomenet – og kan vi slippe af med det?

Det matematiske bånd til Newtons arvegods

De fleste følger ivrigt med i AI’s fremmarch, men få tænker over, hvor meget teknologi stadig spejler gamle matematiske ideer. AI og machine learning står i gæld til Newtons første formler – og især metoderne, som bruges til at forbedre AI med. For eksempel er selve rygraden i neurale netværk algoritmen backpropagation, hvor vægtene i netværket justeres præcis efter de matematiske teknikker, Newton udviklede med kædereglen i calculus.

Disse gamle regnemetoder styrer altså, hvordan AI lærer at forudsige svar og minimere fejl. Ironisk nok har det vist sig, at selvsamme matematik også sætter loft for, hvor præcist en model kan blive. Hvert lag ny optimering bygger videre på en arv fra Newton, men med begrænsninger, der i praksis ikke kan trylles væk.

Hallucinationer: En naturlov i sprogmodeller?

Når man taler om snyde-fejl, eller ‘hallucinationer’, i AI, lyder det ofte som et midlertidigt problem. Men hos både forskere og udviklere er der en voksende erkendelse af, at årsagen er mere matematisk end det er et spørgsmål om dårligt arbejde. Det handler ikke kun om dårlige data eller nye træningsmetoder. Det er selve den matematiske kerne i moderne AI-modeller, som gør det nærmest umuligt – selv for de mest avancerede modeller – at holde sig fri af gætterier og misforståelser.

Eksempler fra OpenAIs seneste sprogmodeller og fra brugeroplevelser i praksis viser, at hallucinationer faktisk kan stige, i takt med at modellerne bliver større og mere komplekse. Det har overrasket både udviklere og virksomheder og peger netop på, at det ikke bare handler om ‘bedre data’ eller vildere computere – men om matematikken i bunden.

Betyder det noget for små og mellemstore virksomheder?

Det kan være fristende at tænke, at det kun rammer folk på universiteter eller dem, der bygger egen AI fra bunden. Men enhver virksomhed, der tager AI i brug, støder faktisk ind i det samme paradoks. Enten i kundeservice, marketing eller databehandling: Hvis AI’en hallucinerer, kan det få realøkonomiske konsekvenser – fra tabt troværdighed til fejl i beslutningsgrundlag.

Derfor har vi hos Snilld arbejdet med praksisguides og kritiske tjekmekanismer til virksomheder. Det handler ikke om at skyde AI ned, men om at bruge den fordelagtigt og forsvarligt. Når man kender modellernes styrker og svagheder, kan man lægge de rigtige retningslinjer og undgå de værste overraskelser.

Hvornår er fejl katastrofale – og hvornår er de faktisk en fordel?

Når det gælder jura, sundhed og finansiel rådgivning, er der ikke plads til store fejlmargener. Her kan AI-hallucinationer være direkte skadelige, og brug for manuel overprøvning er et must. I andre brancher – fx marketing eller ideudvikling – kan AI’ens kreative vildskud faktisk ses som inspirerende benspænd. Mange har oplevet, at de bedste idéer opstår præcis der, hvor reglen bliver sprunget over.

Det skaber behov for at tænke AI’s rolle igennem: Er det et værktøj, der må fejle, eller noget, der skal levere fejlfri svar hver gang? Efter vores erfaring bliver hverdagen langt nemmere, hvis virksomheden sætter klare grænser – og aldrig lader AI stå alene med det endelige ord.

Skeptikernes røster og konkurrenternes slagord

Både branchefolk og kritikere har påpeget, at selve modellen – ikke bare man bruger (transformere osv.) – kan være grænsen. Selv med bedre træning vil matematikken bag optimale løsninger altid give lidt slinger i valsen, uanset hvor meget man opdaterer softwaren. Flere leverandører på markedet bruger denne grænse til at promovere alternative systemer, hvor et menneske altid ser svaret først eller hvor modellen er specialiseret til netop lav fejlrate.

Konkurrenterne satser på hybridløsninger, hvor AI kombineres med godkendelsesflow og ekstra tjek, men ofte følger der kompromis på effektivitet eller fleksibilitet med, som virksomhederne også skal forholde sig til i vurderingen af leverandører.

Snillds råd: Gør praktik til din nye superkraft

I stedet for at lade frygten for hallucinationer lamme innovationen, taler vores erfaring for et langt mere jordnært råd: Brug AI som medhjælp, hvor der må være lidt fejlmargin, og vær konsekvent med gennemgang og evaluering dér, hvor det er nødvendigt. Få opbygget rutiner for kvalitetssikring, og suppler med datadrevet feedback, så du kan fange fejl, før de bliver et problem, ikke efter.

Hos Snilld har vi hjulpet virksomheder med at indrette kontrolsystemer og træningsforløb, der gør det let at se, hvor fejlen typisk opstår – og bygge arbejdsgange, der gør AI til et sikkert aktiv. Det giver både ro i maven og plads til at eksperimentere lidt, når det er relevant.

Hvordan kan man mindske hallucinationer i praksis?

Blandt de konkrete teknikker, der er vundet frem, ser vi især brug af såkaldt Retrieval-Augmented Generation (RAG), hvor AI kombineres med søgning i dokumenter, og embedding-baserede systemer, som trækker på faktuelle data i stedet for at gætte. Man kan også opnå højere træfsikkerhed ved løbende at træne modellen på virksomhedens egne data og tilpasse prompt-design og input, så svarene holdes inden for det acceptable.

Det er også muligt at bruge kombinerede metoder, hvor output fra én model dobbelttjekkes af en anden, eller ved løbende menneskelig validering før kritiske beslutninger træffes. Vores råd er at tænke workflows igennem og tilpasse løsningen til opgave og risiko.

Fremtiden: Er matematisk perfektion mulig?

Der arbejdes konstant på at reducere fejl med nye algoritmer og smartere træning, men den matematiske begrænsning er svær at slippe helt udenom. Vi ser, at grænserne flyttes en smule år for år, men i praksis vil virksomheder stadig opleve AI, der gætter forkert nu og da. Det afgørende er ikke at stræbe efter nul fejl, men at få mest mulig værdi og tryghed – på trods af den underliggende usikkerhed.

Hvis man accepterer det, bliver det lettere at få succes med AI, både som støtte i det daglige og som motor i virksomhedens vækst. Hos Snilld står vi klar til at hjælpe, så AI bliver et sikkert plus – aldrig et uforudsigeligt eksperiment.

Større tryghed med indsigt og handling

Når virksomheder forstår, hvorfor AI stadig laver mærkelige eller overraskende fejl, står de langt stærkere. Med en jordnær tilgang og konkrete tjekpunkter kan I få AI, der arbejder for jer – ikke imod jer. Og vigtigst: Med en nysgerrig og kritisk tilgang kan I bruge matematikken til jeres fordel, ikke som et benspænd. Matematiske love ændrer sig ikke, men måden vi bruger resultaterne på, kan altid forfines – især med lidt hjælp fra folk som os.

Kilder:

• https://towardsai.net/p/artificial-intelligence/from-newton-to-neural-networks-why-hallucinations-remain-unsolvable
• https://www.britannica.com/biography/Isaac-Newton
• https://community.openai.com/t/help-with-pdf-based-chatbot-and-hallucination-issues/858872
• https://mathoverflow.net/questions/487202/is-there-development-to-make-ai-translation-of-mathematical-works
• https://cloud.google.com/vertex-ai/docs/start/introduction-unified-platform

Målgruppens mening om artiklen

Jens Poulsen, CEO, Ingeniørfirma

Som erfaren CEO i ingeniørbranchen finder jeg artiklen ret interessant, men den mangler konkretens om, hvordan AI kan implementeres i virksomheder af vores skala. Matematiske principper er fascinerende, men jeg savnede noget mere praktisk relevans for industrien. Jeg vil give den en relevans score på 70.

Laura Thomsen, Operation Manager

Jeg synes, artiklen er inspirerende i sin kobling af oldtidens matematik med moderne teknologi, men den kunne have inkluderet flere case studies på, hvordan AI redder praktiske problemer i mellemstore organisationer som vores. Derfor vil jeg give den en score på 65 for relevans.

Poul Andersen, Teknologi Specialist

Artiklen taler til min interesse i teknologi og AI. Forbindelsen til Newtons arbejde er godt præsenteret, og det taler til min nysgerrighed på, hvordan vi kan forventes at navigere AIs ineffektive områder. Jeg vil give den en 85 for dens fascinerende indhold.

Sofie Nielsen, Digitaliseringsekspert

Fra et akademisk synspunkt indeholder artiklen nyttige begreber, men praktiske anbefalinger mangler. Jeg ville have foretrukket større dybde inden for anvendelse af AI specifikt hos offentlige institutioner. Min score er 60.

Lars Andersen, Softwarefirma Grundlægger

Jeg er glad for den teknologiske ægthed i artiklen, der fremhæver historiske matematiske rødder. Selvom det er relevant, kunne den have fremhævet specifikke strategier bedre for små til mellemstore virksomheder i softwareudvikling. Min score er derfor 75.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af Fluxx Schnell fra Black Forest Labs.