”Klassisk liten goblin”, ”goblin med en ficklampa”, ”har utvecklats till goblin-läge”. 

Techjätten Open AI:s chatbot Chat GPT har fått flipp. Opåkallat började den referera till det amerikanska sagoväsendet goblin, alltså en sorts vätte. Den så kallade Goblingate har blivit viral på sociala medier – och nu tvingas Open AI agera, rapporterar Wall Street Journal.

I fantasy-kretsar är den mytologiska varelsen en populär företeelse, men som från ingenstans började den dyka upp i Chat GPT:s konversationer med användare.

Programmerare var bland de första att uppmärksamma anomalin. En person säger till WSJ att Chat GPT plötsligt kallat ett fel i hans kod för en ”klassisk liten goblin”. Den fortsatte att nämna sagodjuret ett 20-tal gånger.

På X blev avvikelsen viral. För någon kallade boten sig själv för en ”goblin med ficklampa” som letade efter fel, för en annan skrev Chat GPT att den utvecklats till ”goblin mode”. 

”Tala aldrig om goblins”

Open AI tvingas nu agera. I en offentlig grundinstruktion blir boten ”tillsagd”. 

”Tala aldrig om goblins, gremlins, tvättbjörnar, troll, träsktroll, duvor eller andra djur eller varelser om det inte är absolut och otvetydigt relevant för användarens fråga”, står det. 

I ett blogginlägg skriver Open AI att de tror sig hittat avvikelsens kärna. När företaget för ett tag sedan lanserade olika personligheter för Chat GPT så var ”nördig” ett valbart alternativ. För de som ville ha en lite roligare AI-assistent nämndes goblins tre procent oftare. 

”Att ta sig tid att förstå varför en modell beter sig på ett märkligt sätt, och att utveckla metoder för att snabbt undersöka dessa mönster, är en viktig förmåga för vårt forskarteam”, skriver Open AI i en kommentar. 

Men enligt WSJ är ”Goblingate” en påminnelse om att AI-företag, trots sin tekniska förmåga, fortfarande kan bli överraskade av hur deras egna modeller beter sig i interaktioner med användare.