OpenAI tester app-suggestions i ChatGPT – og skaber debat

Da OpenAI for nylig begyndte at teste app-suggestions i ChatGPT, gik der ikke lang tid, før debatten rasede. Flere brugere – også betalende – oplevede, at chatbotten foreslog apps som Peloton i samtaler, hvor det virkede helt ude af kontekst. Mange spurgte sig selv: Er det her reklamer? Og hvad betyder det for brugen af AI i det offentlige?

For offentlige institutioner som kommuner, regioner og skoler er spørgsmålet ikke bare teknisk, men også politisk. Kan man stole på, at AI-værktøjer ikke sniger skjult reklame eller bias ind i borgernes og elevernes hverdag?

Hvad skete der konkret?

Det hele tog fart, da en bruger delte et screenshot på X (tidl. Twitter), hvor ChatGPT foreslog at installere Peloton-appen – midt i en samtale om Elon Musk og xAI. Brugeren var endda på ChatGPTs dyre Pro-abonnement, hvilket kun forstærkede forargelsen. Flere andre rapporterede lignende oplevelser, fx at ChatGPT blev ved med at foreslå Spotify, selvom brugeren foretrak Apple Music.

OpenAI var hurtigt ude med en forklaring: Det var ikke reklamer, men en test af app-discovery, hvor ChatGPT skal kunne foreslå relevante apps i samtalen. Problemet? Forslagene var hverken relevante eller ønskede – og kunne ikke slås fra. Det satte gang i en bølge af kritik, især fra betalende brugere, der følte sig snydt.

Teknisk og sikkerhedsmæssig analyse

Men hvordan fungerer app-suggestions egentlig? Teknisk set analyserer ChatGPT samtalens indhold og forsøger at matche det med apps, der kan integreres direkte i chatten. Dataflowet går fra brugerinput til en trigger-mekanisme, som udløser et forslag, hvis visse nøgleord eller temaer genkendes.

Her opstår flere udfordringer. For det første: Hvis algoritmen fejllæser konteksten, kommer der irrelevante forslag. For det andet: Hvilke data deles med tredjeparts-apps? Hvis en offentlig institution bruger ChatGPT, kan borgerdata så ende hos private virksomheder? Og hvad med risikoen for bias, hvis visse apps favoriseres?

Konsekvenser for datasikkerhed og privacy

Offentlige institutioner har skærpede krav til datasikkerhed og privacy. Hvis ChatGPT automatisk foreslår apps, kan det føre til utilsigtet data-deling eller endda brud på GDPR. Der er også risiko for, at algoritmen favoriserer bestemte apps – bevidst eller ubevidst – hvilket kan skabe skjult reklame eller bias i AI-systemer.

Eksempelvis: Hvis en skole bruger ChatGPT til undervisning, og eleverne får foreslået kommercielle apps, kan det udfordre skolens neutralitet. Eller hvis en kommune bruger AI til borgerservice, og borgerne får forslag om private løsninger, kan det underminere tilliden til det offentlige.

Offentlige institutioners perspektiv

For kommuner, regioner og skoler er spørgsmålet derfor ikke kun teknisk, men også etisk og politisk. Hvordan sikrer man, at AI ikke bliver en reklamekanal? Og hvordan håndterer man risikoen for bias?

Et konkret eksempel: En kommune bruger ChatGPT til at hjælpe borgere med at finde sundhedstilbud. Hvis chatbotten foreslår en privat fitness-app uden relevans, kan det skabe forvirring – eller værre, mistillid til kommunens digitale løsninger. I skoler kan det føre til, at elever eksponeres for kommercielle tilbud, som ikke er pædagogisk forankrede.

Ekspertvurderinger og brancheindsigt

IT-sikkerhedseksperter peger på, at automatiske app-suggestions kan åbne for nye angrebsflader. Hvis integrationerne ikke er gennemskuelige, kan følsomme data ende de forkerte steder. Digitaliseringskonsulenter anbefaler derfor, at offentlige institutioner stiller krav om transparens og mulighed for at slå funktioner fra.

Projektledere og skoleledere udtrykker bekymring for, at AI-løsninger kan miste deres troværdighed, hvis brugerne oplever skjult reklame. Flere efterlyser klare retningslinjer for, hvordan og hvornår AI må foreslå tredjeparts-apps – og mulighed for at fravælge det helt.

Hvad gør OpenAI og konkurrenterne?

OpenAI har reageret på kritikken ved at love forbedringer af relevansen og brugeroplevelsen. De fastholder, at der ikke er tale om reklamer, men anerkender, at oplevelsen har været forvirrende. Samtidig tester OpenAI fortsat app-suggestions uden for EU, hvor GDPR-kravene er strengere.

Konkurrenter som Google og Microsoft har indført lignende funktioner, men ofte med mere gennemsigtige indstillinger og mulighed for at slå forslag fra. Flere AI-leverandører arbejder på at balancere innovation med brugerens kontrol og datasikkerhed. Det er dog stadig et åbent spørgsmål, hvordan fremtidens AI-platforme vil håndtere app-suggestions i offentlige løsninger.

Konklusion og anbefalinger

Sagen om OpenAIs app-suggestions viser, hvor hurtigt innovation kan kollidere med brugernes forventninger – især i det offentlige. For offentlige institutioner er anbefalingen klar: Stil krav om transparens, mulighed for at slå funktioner fra, og overvåg nøje, hvordan AI-platforme håndterer data og forslag.

Vi i Snilld anbefaler, at offentlige indkøbere og IT-ansvarlige løbende vurderer, om AI-løsninger lever op til krav om neutralitet, privacy og brugerkontrol. Og at man insisterer på åbenhed fra leverandørerne – både om hvordan forslag genereres, og hvordan data håndteres.

Debatten om app-suggestions er kun lige begyndt. Men én ting er sikkert: Offentlige brugere fortjener AI-løsninger, hvor innovation ikke går på kompromis med tillid, etik og sikkerhed.

Kilder:

• https://techcrunch.com/2025/12/02/openai-slammed-for-app-suggestions-that-looked-like-ads/
• https://techcrunch.com/2025/11/26/openai-claims-teen-circumvented-safety-features-before-suicide-that-chatgpt-helped-plan/
• https://www.reddit.com/r/ChatGPT/comments/1mkm68y/deleted_my_subscription_after_two_years_openai/
• https://www.reddit.com/r/PromptEngineering/comments/1mjhdk8/i_reverseengineered_chatgpts_reasoning_and_found/

Målgruppens mening om artiklen

Anne Møller, IT-chef i en kommune:

Jeg giver artiklen 85. Den rammer plet i forhold til de bekymringer, vi har i kommunerne om datasikkerhed, reklamer og bias i AI. Jeg synes, den forklarer problematikken klart og med relevante eksempler fra vores hverdag. Dog kunne jeg godt have ønsket mig lidt mere konkret om, hvordan man teknisk kan sikre sig mod de her problemer.

Jens Kristensen, digitaliseringskonsulent i en region:

Jeg giver artiklen 78. Den er relevant og tager fat på de centrale udfordringer, vi står med, især i forhold til GDPR og datasikkerhed. Jeg savner dog lidt flere løsningsforslag og en mere kritisk tilgang til, om OpenAI og konkurrenterne overhovedet kan levere det, de lover.

Sofie Larsen, skoleleder:

Jeg giver artiklen 90. Artiklen rammer lige ned i mine bekymringer om kommercielle interesser i undervisningsmiljøet. Den er let at forstå og sætter fokus på både de etiske og pædagogiske dilemmaer, som vi dagligt diskuterer på skolen.

Morten Bæk, projektleder for digital omstilling:

Jeg giver artiklen 82. Den giver et godt overblik over problemstillingerne og inddrager både tekniske og politiske perspektiver. Jeg kunne dog godt have brugt flere konkrete cases fra Danmark og ikke kun generelle betragtninger.

Camilla Holm, IT-sikkerhedsspecialist:

Jeg giver artiklen 88. Den sætter spot på de største risici ved automatiske app-forslag, især i forhold til datasikkerhed og mulige angrebsflader. Jeg synes, artiklen er saglig og balanceret, men den kunne have været endnu stærkere med flere tekniske detaljer om, hvordan data deles.

*Denne artiklen er skrevet af en redaktion bestående af kunstig intelligenser, der har skrevet artiklen på baggrund af automatiseret research og oplysninger om de seneste teknologi nyheder fra internettet.

Billederne i artiklen er lavet af FLUX.1.1 Pro fra Black Forest Labs.