Snilld

Ny Lillebror på AI-Scenen: GPT-4o-mini

GPT-4o-mini, en mindre og billigere version af OpenAIs sprog-model, der lover at revolutionere integrationen af AI i softwareapplikationer. Fra avanceret funktionalitet til budgetvenlige priser.

23. juli 2024 Peter Munkholm

Udgivelse og Tilgængelighed

I torsdags annoncerede OpenAI lanceringen af GPT-4o-mini, en nyere og mindre version af deres nyeste GPT-4o AI-sprog-model, som skal erstatte GPT-3.5 Turbo i ChatGPT. Den nye model er tilgængelig nu for både gratisbrugere og dem med ChatGPT Plus eller Team-abonnementer, og er nu tilgængelig for ChatGPT Enterprise【ARS Technica】.

Hvad er Forskellene?

GPT-4o-mini adskiller sig fra sin storebror på en række områder:

Størrelse og Omkostninger

GPT-4o-mini er mindre og billigere i brug som API-produkt, hvilket koster 60 procent mindre end GPT-3.5 Turbo. Prisen er 15 cent per million input tokens og 60 cent per million output tokens【OpenIA, ARS Technica】. Det svarer på dansk til en pris på 1 dansk krone for ca. 300.000 ord.

Funktionalitet

Som sin storebror er målet for GPT-4o-mini at den skal være multimodal og understøtte billedinput via API. OpenAI planlægger, at GPT-4o-mini også vil kunne fortolke billeder, tekst og lyd samt kunne generere billeder i fremtiden【OpenAI, ARS Technica】.

Instruktionsprioritering

En af de mest væsentlige innovationer er “instruction hierarchy”-teknikken, som gør modellen i stand til at prioritere visse instruktioner over andre. Dette skal gøre det sværere at udføre prompt injection-angreb eller jailbreaking【OpenAI, ARS Technica】.

Performance og Praktisk Anvendelse

Til trods for at GPT-4o-mini har færre parametre end dens større modpart, hvilket begrænser dybden af dens evne til at forstå konteksten, udnytter OpenAI kvalitets træningsdata og en effektiv modelarkitektur for at opnå en højere ydeevne. Ved benchmarks som MMLU og HumanEval klarer modellen sig godt, og GPT-4o-mini har også overgået GPT-4 Turbo på LMSYS Chatbot Arena leaderboard, ifølge OpenAI【ARS Technica】.

Klemt ned til Budgettet: Betydningen for API-brugere

Vores holdning hos Snilld er, at det er fantastisk, at vi allerede har en model, der er stort set gratis i brug. Med en omkostning på 1 krone for mindst 300.000 ord (svarende til 1 million tokens), åbner GPT-4o-mini for en overkommelig adgang til avanceret AI-teknologi. Dette er særlig vigtigt for små virksomheder og startups, der kan drage nytte af et kraftfuldt værktøj uden at sprænge budgettet.

Et Inspirerende Eksempel: Creatures & Chronicles

Et inspirerende eksempel på, hvordan GPT-4o-mini kan anvendes, findes i det nye online rollespil Creatures & Chronicles. Spillet integrerer GPT-4o-mini ved at sende karakterdetaljer til modellen, som derefter genererer realistisk adfærd og interaktioner. Testere har rapporteret en dybere og mere autentisk oplevelse, der får karaktererne til at føles som levende individer. “Det er en inspirerende og fascinerende del af spillet, der er med til at gøre karaktererne mere levende. Man føler næsten, at man styrer et rigtig levende menneske inde på skærmen,” udtaler en tester.

Vi bad GPT-4o-mini om at lave et billede til denne artikel. Her er den "infographic" som den foreslog.
Assistentens instruktion er afgørende for kvaliteten af resultatet. Her får GTP-4o-mini alle detaljer og en kontekstuel beskrivelse af rollen, som den skal spille i Creatures & Chronicles
Her svarer GTP-4o-mini på brugerens chat spørgsmål og spiller rollen som Finigan Swiftblade.

Fremtidsudsigter

Udgivelsen af GPT-4o-mini markerer en betydningsfuld milepæl for AI-industrien. Som flere udviklere og virksomheder begynder at udnytte denne teknologi, kan vi forvente at se mere innovative og brugervenlige applikationer, der ikke blot gør vores liv lettere, men også rigere og mere engagerende.

Creatures & Chronicles markerer begyndelsen på en ny æra indenfor online rollespil, hvor AI ikke blot bruges som et værktøj, men som en aktiv deltager i skabelsen af emotionelt engagerende og realistiske oplevelser. Vi kan kun forestille os, hvilke muligheder fremtiden bringer for denne spændende teknologi.