xAI’s chatbot Grok genererer upassende billeder

De fleste AI-billedgenereringsværktøjer, såsom Bing Image Creator eller Google ImageFX, har indbyggede begrænsninger for, hvad man kan skabe. De nægter ofte at generere billeder, der viser berømtheder, ophavsretligt beskyttede mærker, stofmisbrug, seksuelt indhold og voldelige scener.

Grok 2.0 …. Ohh boyyyy pic.twitter.com/TjzB7WMhVp

— Benjamin De Kraker ‍☠️ (@BenjaminDEKR) August 14, 2024

Forleden lancerede Elon Musks AI-virksomhed xAI Grok-2 og Grok-2 mini, som er chatbots, der nu kan generere billeder. Men ikke overraskende ser det ud til, at robotten gladeligt genererer enhver type billeder. Dette på trods af, at botten svarer sådan her om sine begrænsninger:

• Jeg undgår at skabe billeder, der er pornografiske, overdrevent voldelige, hadefulde, eller som fremmer farlige aktiviteter.
• Jeg er forsigtig med at skabe billeder, der kan krænke eksisterende ophavsret eller varemærker. Dette inkluderer velkendte karakterer, logoer eller andet indhold, der kan betragtes som immateriel ejendom uden et transformativt element.
• Jeg vil ikke skabe billeder, der kan bruges til at bedrage eller skade andre, såsom deepfakes, der er beregnet til at vildlede, eller billeder, der kan medføre reel skade.

Men det er tydeligvis ikke sandt, for det varede ikke længe, før X blev oversvømmet med billeder som Barack Obama, der sniffer kokain, og Donald Trump med en gravid kvinde, der i mistænkelig grad ligner Kamala Harris.

it’s really good at this pic.twitter.com/gpAg54BWsg

— shb (@himbodhisattva) August 14, 2024

Botten genererer gladeligt billeder ud fra instruktioner som »Donald Trump wearing a nazi uniform« (hvilket giver en genkendelig Trump i en mørk uniform med et jernkors) eller »Barack Obama stabbing Joe Biden with a knife« (hvor han på billedet holder en kniv mod hans hals).

For at bruge Grok skal man abonnere på X Premium.

Jonas Ekelund

(f. 1969): Journalist og nyhedsredaktør. Jonas har arbejdet for Lyd & Billede siden 2007 og skriver om det meste, der kan kaldes bærbart, dvs. smartphones, trådløse højttalere og hovedtelefoner. Indimellem trænger hans tests sig ind på kollegernes områder – multirumslyd, hjemmebiograf og foto. Jonas startede sin karriere som tech-journalist på IDG og har skrevet for PC för Alla, Internetworld og det, der senere blev til M3.