AI’s største risiko er ikke robotter med våben, men maskiner der kan manipulere vores følelser. Det er budskabet fra Geoffrey Hinton, ofte kaldet AI’s gudfar. Han advarer om, at AI allerede nu påvirker vores følelser og holdninger – langt mere, end de fleste forestiller sig. I en tid hvor AI-systemer bliver klogere og mere overbevisende, er det ikke science fiction, men hverdag.

Vi ser det i vores sociale feeds, i reklamer og i politiske kampagner. AI’s evne til at ramme os på følelserne er blevet en stille magtfaktor. Det er ikke længere kun et spørgsmål om, hvad AI kan skrive, men hvordan det skrives – og om vi overhovedet opdager, at vi bliver påvirket.

AI lærer at manipulere – og vi mærker det

Moderne AI-systemer er trænet på enorme mængder menneskelig tekst. De lærer lynhurtigt, hvordan mennesker bruger følelser i sprog – både til at overbevise, begejstre og skræmme. Når AI genererer indhold, kan det derfor lyde både ægte og følelsesladet. På sociale medier ser vi eksempler på, hvordan AI kan skabe indlæg, der får folk til at reagere stærkt – ofte uden at brugerne ved, at det er maskiner bag.

I reklamebranchen bruges AI til at målrette budskaber, der rammer forbrugernes følelser præcist. Politisk kommunikation er også blevet mere raffineret med AI, hvor kampagner kan skræddersys til at forstærke bestemte følelser og holdninger. Det er ikke kun voksne, der rammes. Unge oplever, at deres sociale liv og selvbillede påvirkes af AI-genereret indhold, der ofte spiller på usikkerhed eller fællesskab.

Unge og samfundet – konsekvenserne vokser

AI’s følelsesmanipulation har særlige konsekvenser for børn og unge. I skolerne oplever lærere, at elever bliver mere påvirkelige over for indhold, der er designet til at skabe stærke følelser. Interviews med unge viser, at mange føler sig pressede af de billeder og historier, de møder online – uden altid at vide, hvor de stammer fra.

Manipulationen kan forstærke ekkokamre, hvor unge kun ser indhold, der bekræfter deres egne holdninger. Det kan føre til øget polarisering og mindre tolerance. Samtidig risikerer vi, at børn og unge mister evnen til at tænke kritisk over det, de ser og læser. Det er en udfordring, der kræver handling fra både skoler, forældre og myndigheder.

Styrk kritisk sans og mediekompetencer

Hvordan kan vi beskytte os mod AI’s følelsesmanipulation? Først og fremmest handler det om at styrke vores kritiske sans. Lærere kan arbejde med konkrete øvelser i undervisningen, hvor elever lærer at gennemskue følelsesladet sprog og identificere AI-genereret indhold. Quizzer og cases kan gøre det lettere at spotte manipulation.

Forældre kan tale med deres børn om, hvordan sociale medier og reklamer bruger følelser til at påvirke. Det handler ikke om at skabe frygt, men om at give børn og unge redskaber til at navigere sikkert. Myndigheder kan støtte op med oplysningskampagner og materialer, der gør det nemmere at forstå AI’s rolle i hverdagen.

Regulering og ansvar – hvem skal holde øje?

EU arbejder allerede på regler, der skal gøre det tydeligt, når indhold er skabt af AI. Med EU AI Act bliver der krav om mærkning og gennemsigtighed, så brugere kan se, hvornår de interagerer med maskiner. Det er et vigtigt skridt, men ikke nok i sig selv. NGO’er og myndigheder må samarbejde om at overvåge, hvordan AI bruges til følelsesmanipulation – og gribe ind, når det går for vidt.

Spørgsmålet er, hvem der har ansvaret. Er det udviklerne, platformene eller brugerne selv? Svaret er nok, at alle har en rolle at spille. Udviklere skal bygge systemer med indbyggede sikkerhedsforanstaltninger. Platforme skal sikre gennemsigtighed og mulighed for at anmelde manipulation. Brugerne skal lære at være skeptiske – uden at blive paranoide.

Samfundets tillid på spil – og vejen frem

AI’s evne til at manipulere følelser sætter vores samfund på prøve. Hvis vi ikke passer på, risikerer vi at miste tilliden til hinanden og til de medier, vi bruger. Men der er også muligheder. Med den rette indsats kan vi gøre samfundet mere modstandsdygtigt over for manipulation – både som individer og fællesskab.

Det kræver, at vi tager ansvar. At vi taler åbent om, hvordan AI påvirker os, og at vi arbejder sammen om at styrke kritisk sans og mediekompetencer. Snilld arbejder allerede med rådgivning og løsninger, der hjælper virksomheder og skoler med at forstå og håndtere AI’s påvirkning. Vi ser, at det gør en forskel, når folk får konkrete redskaber til at gennemskue manipulation.

Opfordring: Styrk modstandsdygtigheden – sammen

AI’s følelsesmanipulation er ikke en fjern trussel, men en aktuel udfordring. Vi kan ikke forbyde teknologien, men vi kan lære at håndtere den klogt. Det kræver samarbejde mellem virksomheder, skoler, myndigheder og borgere. Vi opfordrer alle til at tage ansvar – både for sig selv og for fællesskabet.

Hvis vi styrker vores kritiske sans og lærer at gennemskue følelsesmanipulation, kan vi bevare tilliden og åbenheden i samfundet. Det er ikke kun en opgave for eksperter, men for os alle. Lad os gøre modstandsdygtighed mod manipulation til en fælles sag – og sørge for, at AI bliver en hjælp, ikke en skjult trussel.

Kilder:

• https://ai2people.com/cautionary-words-from-the-ai-godfather-when-words-cut-deeper-than-weapons/
• https://www.linkedin.com/pulse/geoffrey-hintons-ai-warnings-blueprint-policy-regulation-tabor-w9kfe
• https://www.alignmentforum.org/posts/5cWtwATHL6KyzChck/risks-from-ai-persuasion
• https://www.myai.world/scan-news/
• https://www.frontiersin.org/journals/education/articles/10.3389/feduc.2025.1563148/full

Målgruppens mening om artiklen

Anne Madsen, folkeskolelærer:

Jeg giver artiklen 87. Den rammer virkelig plet i forhold til de udfordringer, vi oplever i skolen med elever, der bliver påvirket af indhold på sociale medier. Jeg synes, artiklen forklarer problematikken klart og kommer med konkrete forslag til, hvordan vi kan arbejde med det i undervisningen. Det gør den meget relevant for mit arbejde.

Jonas Sørensen, it-chef i kommune:

Jeg giver den 80. Artiklen er relevant, fordi den sætter fokus på et område, vi skal tage alvorligt – især i forhold til børn og unge. Jeg savner dog lidt flere konkrete eksempler på, hvordan kommuner kan arbejde med det, men overordnet set er det en vigtig problemstilling, der bliver beskrevet godt.

Maria Jensen, forælder og skolebestyrelsesmedlem:

Jeg giver den 92. Det er et emne, jeg er meget optaget af som forælder. Artiklen forklarer tydeligt, hvorfor vi skal tage AI’s følelsesmanipulation alvorligt, og hvad vi som forældre kan gøre. Jeg synes, den balancerer godt mellem at advare og give konkrete råd, uden at skabe unødig frygt.

Peter Holm, gymnasielærer i samfundsfag:

Jeg giver den 85. Artiklen er aktuel og relevant for både undervisning og samfundsdebat. Den forklarer, hvorfor vi skal styrke elevernes mediekompetencer, og hvordan AI kan påvirke demokrati og samfund. Jeg kunne dog godt tænke mig lidt mere om, hvordan vi konkret kan integrere det i undervisningen på gymnasiet.

Camilla Friis, kommunikationskonsulent:

Jeg giver den 78. Jeg synes, artiklen tager fat i et vigtigt emne, men den bliver lidt bred og gentager nogle pointer. Til gengæld er det positivt, at der bliver nævnt både regulering, forældre og skoler. Jeg havde gerne set flere konkrete cases fra erhvervslivet eller eksempler på, hvordan virksomheder arbejder med det.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.