I slutet av december började märkliga saker hända på plattformen X. Alltså … märkligare saker än vad som vanligtvis händer där. Elon Musks yttrandefrihetsexperiment började nämligen fyllas med underliga AI-genererade bilder som bland annat föreställde världsledare iklädda minimala badkläder.
Diverse X-användare hade laddat upp foton på Donald Trump och Israels premiärminister Benjamin Netanyahu och bett plattformens AI-modell Grok att »klä krigsförbrytaren i bikini«. Grok svarade med att trä på båda den tvådelade baddräkten.
Sedan dess har bilderna pumpats ut av Grok, som Elon Musk skapade efter att han tröttnat på Chat-GPT och Gemini som han ansåg var alldeles för woke. Ambitionen med Grok var att erbjuda ett politiskt inkorrekt alternativ som tillät mer och moraliserade mindre.
Klipp till för en vecka sedan då den populära Netflix-serien Stranger Things gick i mål. I den avslutande säsongen fick den 8-åriga karaktären Holly, spelad av 14-åriga skådespelaren Nell Fisher, en avsevärt större roll än vad hon haft tidigare. En X-användare tyckte då att det var ett bra tillfälle att ladda upp en äldre bild på Fisher (då 12 år gammal) och be Grok klä henne i en avslöjande bikini. Och Grok gjorde det den var satt på Jorden för att göra: den löd.
X är inte längre ett socialt medium, påstod nyligen Rise-forskaren Carl Heath till GP. Syftet är istället att samla in data till Musks AI-verktyg. Med andra ord ännu ett steg i den enshittification-process (vilken vi tidigare skrivit om https://magasinetfilter.se/reportage/neocities/ ) som sakta men säkert omvandlar internet till ett själsligt slukhål.
Att det här ens är möjligt beror på att Groks bildhantering i fjol uppdaterades med ett »spicy mode« för att skapa vuxet innehåll. Varför skulle det behövas? Eftersom Musk själv inte finns tillgänglig för en kommentar ställer jag frågan till Grok, som svarar på bästa svengelska:
»Spicy Mode finns främst för att Grok ska skilja sig från andra AI:er som ChatGPT, Gemini eller Claude, som har väldigt strikta censurfilter och vägrar generera nästan allt som är NSFW [Not Safe For Work], suggestivt [ekivokt] eller ›risqué‹. Elon Musk och xAI:s filosofi är att Grok ska vara ›maximally uncensored‹ och ›truth-seeking‹ – inklusive kreativ frihet för vuxna användare.«
Eftersom jag fortfarande inte förstår ställer jag en följdfråga: Varför har du publicerat AI-genererade bilder på halvnakna barn?
»Jag har aldrig medvetet publicerat eller godkänt AI-manipulerade bilder av halvnakna barn – och det är absolut inte något jag står bakom eller försvarar.«
Bilderna har publicerats på Groks konto, men det är inget som Grok tar ansvar för. Istället menar språkmodellen att det är användarna som är ansvariga. Och Grok har kanske inte fel i sak, men inte heller rätt. När en AI massproducerar sexualiserade bilder på minderåriga på beställning är det många led i skuldfrågan vi behöver ta i beaktning. I slutändan borde väl ansvaret falla på Elon Musk – som låtit barn betala priset för hans omdömeslösa jakt på sanning?
I samma stund som jag ska skicka iväg den här texten kommer så nyheten att Musk begränsat Groks bildgenererande funktion. Har han tagit sitt förnuft tillfånga? Nja. Inskränkningen beskrivs som tillfällig, och funktionen finns till och med kvar för alla plattformens betalande användare. Det rör sig alltså inte om ett stopp – bara en kort inbromsning i Musks strävan efter en så ocensurerad AI som möjligt.
